Together AI - Modelos de Código Abierto

Cómo funciona Together AI

Together AI facilita la ejecución de los principales modelos de código abierto con solo unas pocas líneas de código. La plataforma proporciona inferencia rápida, APIs compatibles con OpenAI y acceso a modelos de vanguardia como Llama 4, DeepSeek y más. Creada para desarrolladores que necesitan infraestructura de IA confiable y escalable sin la complejidad.

Modelos recomendados

Recomendamos buenos modelos de codificación con ventanas de contexto amplias y precios competitivos.

Para la información más actualizada, visita la página de precios de Together AI.

Modelo	Precio (1M tokens)	Ventana de contexto
Llama 4 Maverick `recommended`	$0.27/$ 0.85	~128k tokens
DeepSeek-V3	$1.25	~128k tokens
Llama 3.1 70B Turbo	$0.88	~128k tokens
Qwen 2.5 72B	$1.20	~128k tokens

Crear clave de API

Se requiere una cuenta de Together AI para crear una clave de API.

Ve directamente a la Consola de Together AI para crear una nueva clave de API. O sigue estos pasos:

Crea una cuenta en api.together.ai o inicia sesión si ya tienes una
En el panel principal, desplázate hasta la sección “Manage Account”
En la tarjeta “API Keys”, haz clic en el botón “Manage Keys”
Haz clic en el botón “Add Key”
Dale un nombre como ‘Kodus’ o cualquier nombre descriptivo
Copia tu clave de API y ya estás listo

Las cuentas nuevas vienen con $1 de crédito para comenzar de forma gratuita.

Cómo usar

System Requirements

Recommended Hardware

Sized for the default local sandbox mode (kodus-graph + cross-file context run inside the worker container).

CPU: 2+ cores (4+ recommended for repos above ~100k LOC)
RAM: 8GB+ (16GB recommended when running the local sandbox on large repos)
Storage: 60GB+ free space (Postgres holds the AST graph cache; grows with repo count and PR volume)

Required Software

Docker (latest stable) with the Compose plugin
Domain name or fixed IP if you want to receive Git webhooks from cloud providers (GitHub.com, GitLab.com, etc.)

Required Ports

Default host port mappings — adjust in .env if any conflict.

3000 — Kodus Web App
3001 — API
3332 — Webhooks
5432 — PostgreSQL
27017 — MongoDB
5672, 15672, 15692 — RabbitMQ (AMQP, management UI, metrics)
3101 — MCP Manager (only if API_MCP_SERVER_ENABLED=true)

Services

What ./scripts/install.sh brings up, based on your .env.Core (always on):

api — main backend
worker — code-review jobs
webhooks — Git provider webhook receiver
kodus-web — Next.js frontend
db_kodus_postgres, db_kodus_mongodb, rabbitmq — local infrastructure. Skip with USE_LOCAL_DB=false / USE_LOCAL_RABBITMQ=false to point at managed instances.

Optional:

kodus-mcp-manager — Model Context Protocol broker. Enable with API_MCP_SERVER_ENABLED=true. See MCP Manager.
worker-analytics — Cockpit ingestion (DORA metrics, PR classifier). Self-hosted Enterprise only, not wired by default. See Analytics Worker.

Code review uses an AST graph + cross-file context that runs in a sandbox — local (default, runs inside the worker) or e2b (paid remote sandbox). See Sandbox & AST Graph for the modes, caching behavior, and when to pick each.

Internet access is required if you plan to connect to cloud-based Git services (GitHub, GitLab, Bitbucket) or cloud LLM providers (OpenAI, Anthropic, etc.). For self-hosted Git tools and on-prem LLMs within your network, external internet access is optional.

Domain Name Setup (Optional)

If you're planning to integrate Kodus with cloud-based Git providers (GitHub, GitLab, or Bitbucket), you'll need public-facing URLs for both the Kodus Web App and its API. This allows your server to receive webhooks for proper Code Review functionality and ensures correct application behavior. We recommend setting up two subdomains:

One for the Web Application, e.g., kodus-web.yourdomain.com.
One for the API, e.g., kodus-api.yourdomain.com.

Webhooks are handled by a separate service (port 3332). You can either:

Use a dedicated webhooks subdomain, e.g., kodus-webhooks.yourdomain.com, or
Keep using the API domain and route /github/webhook, /gitlab/webhook, etc. to the webhooks service in your reverse proxy.

Both subdomains should have DNS A records pointing to your server's IP address. Later in this guide, we will configure a reverse proxy (Nginx) to route requests to these subdomains to the correct internal services. This setup is essential for full functionality, including webhooks and authentication.

Note: If you're only connecting to self-hosted Git tools on your network and do not require public access or webhooks, you might be able to use a simpler setup, but this guide focuses on public-facing deployments.

Setup

Clone the installer repository

git clone https://github.com/kodustech/kodus-installer.git
cd kodus-installer

Copy the example environment file

cp .env.example .env

Generate secure keys for the required environment variables

./generate-keys.sh

Edit the environment file

Edit .env with your values using your preferred text editor.

nano .env

See Environment Variables Configuration for detailed instructions.

Run the installer

./scripts/install.sh

Success 🎉

When complete, Kodus Services should be running on your machine. You can verify your installation using the following script:

./scripts/doctor.sh

Access the web interface

Once you access the web interface for the first time, you'll need to:

Create your admin account - This will be the first user with full system access
Configure your Git provider - Connect GitHub, GitLab, or Bitbucket following the on-screen instructions
Select repositories for analysis - Choose which code repositories Kody will review

For detailed steps on the initial configuration process, refer to our Getting Started Guide.

Configura Together AI en el archivo de entorno

Edita tu archivo .env y configura los ajustes principales. Para la Integración con LLM, usa Together AI en Modo Fijo:

# Core System Settings (update with your domains)
WEB_HOSTNAME_API="kodus-api.yourdomain.com"    
WEB_PORT_API=443                               
NEXTAUTH_URL="https://kodus-web.yourdomain.com"

# Security Keys (generate with openssl commands above)
WEB_NEXTAUTH_SECRET="your-generated-secret"
API_CRYPTO_KEY="your-generated-hex-key"
API_JWT_SECRET="your-generated-secret"
API_JWT_REFRESH_SECRET="your-generated-secret"

# Database Configuration
API_PG_DB_PASSWORD="your-secure-db-password"
API_MG_DB_PASSWORD="your-secure-db-password"

# Together AI Configuration (Fixed Mode) 
API_LLM_PROVIDER_MODEL="meta-llama/Meta-Llama-4-Maverick-Instruct"  # Choose your preferred model
API_OPENAI_FORCE_BASE_URL="https://api.together.xyz/v1"             # Together AI API URL  
API_OPEN_AI_API_KEY="your-together-api-key"                         # Your Together AI API Key

# Git Provider Webhooks (choose your provider)
API_GITHUB_CODE_MANAGEMENT_WEBHOOK="https://kodus-api.yourdomain.com/github/webhook"
# or API_GITLAB_CODE_MANAGEMENT_WEBHOOK="https://kodus-api.yourdomain.com/gitlab/webhook"
# or GLOBAL_BITBUCKET_CODE_MANAGEMENT_WEBHOOK="https://kodus-api.yourdomain.com/bitbucket/webhook"

Las URLs de webhook deben alcanzar el servicio de Webhooks (puerto 3332). Usa un dominio dedicado para webhooks o enruta /.../webhook al puerto 3332 en tu proxy inverso.

El Modo Fijo es ideal para Together AI porque proporciona APIs compatibles con OpenAI con precios competitivos y acceso a modelos de código abierto de vanguardia.

Run the Installation Script

Looking for more control? Check out our docker-compose file for manual deployment options.

Set the proper permissions for the installation script:

chmod +x scripts/install.sh

Run the script:

./scripts/install.sh

What the Installer Does

Our installer automates several important steps:

Verifies Docker installation
Creates networks for Kodus services
Clones repositories and configures environment files
Runs docker-compose to start all services
Executes database migrations
Seeds initial data

🎉 Success! When complete, the Kodus Web App and backend services (API, worker, webhooks, MCP manager) should be running on your machine. You can verify your installation by visiting http://localhost:3000 - you should see the Kodus Web Application interface.

Code Review features will not work yet unless you complete the reverse proxy setup. Without this configuration, external Git providers cannot send webhooks to your instance.

Configura el proxy inverso (para producción)

Para webhooks y acceso externo, configura Nginx:

# Web App (port 3000)
server {
    listen 80;
    server_name kodus-web.yourdomain.com;
    location / {
        proxy_pass http://localhost:3000;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}

# API (port 3001)  
server {
    listen 80;
    server_name kodus-api.yourdomain.com;
    location ~ ^/(github|gitlab|bitbucket|azure-repos)/webhook {
        proxy_pass http://localhost:3332;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }

    location / {
        proxy_pass http://localhost:3001;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}

Verifica la integración con Together AI

Además de la verificación básica de instalación, confirma que Together AI está funcionando:

# Verify Together AI API connection specifically
docker-compose logs api worker | grep -i together

Para información detallada sobre la configuración de SSL, monitoreo y configuraciones avanzadas, consulta nuestra guía de despliegue completa.

Solución de problemas

Problemas con la clave de API

Verifica que tu clave de API sea correcta y esté activa en la Consola de Together AI
Comprueba si tienes créditos suficientes en tu cuenta de Together AI
Asegúrate de que no haya espacios adicionales en tu archivo .env
Las cuentas nuevas reciben $1 en créditos gratuitos

Modelo no encontrado

Verifica que el nombre del modelo esté escrito correctamente en tu configuración
Confirma que el modelo esté disponible en la biblioteca de modelos actual de Together AI
Prueba con un modelo diferente de nuestra lista recomendada
Consulta la documentación de modelos de Together AI

Errores de conexión

Verifica que tu servidor tenga acceso a internet para alcanzar api.together.xyz
Comprueba si hay restricciones de firewall
Revisa los logs de la API/worker para mensajes de error detallados
Asegúrate de estar usando el endpoint de API correcto

Límite de velocidad

Together AI proporciona límites de velocidad generosos (hasta 6000 solicitudes/min para LLMs)
Comprueba tu uso actual en el panel de Together AI
Considera actualizar a un nivel superior para límites aumentados
Monitorea tus patrones de uso para optimizar las llamadas a la API

Plugins Personalizados

Guías de Contexto Personalizado

Recetas

Configuración de Proveedor LLM

Together AI - Modelos de Código Abierto

Cómo funciona Together AI

Modelos recomendados

Crear clave de API

Cómo usar

System Requirements

Domain Name Setup (Optional)

Setup

Configura Together AI en el archivo de entorno

Run the Installation Script

What the Installer Does

Configura el proxy inverso (para producción)

Verifica la integración con Together AI

Solución de problemas

​Cómo funciona Together AI

​Modelos recomendados

​Crear clave de API

​Cómo usar

​System Requirements

​Domain Name Setup (Optional)

​Setup

​Configura Together AI en el archivo de entorno

​Run the Installation Script

​What the Installer Does

​Configura el proxy inverso (para producción)

​Verifica la integración con Together AI

​Solución de problemas

Cómo funciona Together AI

Modelos recomendados

Crear clave de API

Cómo usar

System Requirements

Domain Name Setup (Optional)

Setup

Configura Together AI en el archivo de entorno

Run the Installation Script

What the Installer Does

Configura el proxy inverso (para producción)

Verifica la integración con Together AI

Solución de problemas