Cómo funciona Groq
Groq Cloud proporciona inferencia rápida de LLM con APIs compatibles con OpenAI. Construido para la velocidad y la simplicidad, Groq ofrece inferencia ultrarrápida para modelos populares como Llama, Deepseek y más. La plataforma está diseñada para ser simple de integrar y fácil de escalar, lo que la hace perfecta para aplicaciones de producción.Modelos Recomendados
Recomendamos buenos modelos de codificación con ventanas de contexto altas e inferencia rápida.Para la información más actualizada, visita la página de modelos de Groq.
| Modelo | Ventana de contexto | Velocidad |
|---|---|---|
Llama 3.3 70B Versatile recomendado | ~128k tokens | Ultra Rápido |
| Deepseek R1 Distill Llama 70B | ~128k tokens | Ultra Rápido |
| Llama 3.1 70B Versatile | ~128k tokens | Ultra Rápido |
Crear Clave API
Ve directamente a la página de Claves API de Groq para crear una nueva clave API. O sigue estos pasos:- Ve a la Consola de Groq
- Inicia sesión o crea tu cuenta
- Navega a “Claves API” en la navegación superior
- Haz clic en el botón “Crear Clave API”
- Dale un nombre como ‘Kodus’ o cualquier nombre descriptivo
- Copia la clave API y guárdala en un lugar seguro
Solo los propietarios del equipo o los usuarios con el rol de desarrollador pueden crear o administrar claves API en Groq.
Cómo usar
System Requirements
Recommended Hardware
Recommended Hardware
- CPU: 2+ cores - RAM: 8GB+ - Storage: 60GB+ free space
Required Software
Required Software
- Docker (latest stable version)
- Node.js (latest LTS version)
- Yarn or NPM (latest stable version)
- Domain name or fixed IP (for external deployments)
Required Ports
Required Ports
- 3000: Kodus Web App
- 3001: API
- 3332: Webhooks
- 5672, 15672, 15692: RabbitMQ (AMQP, management, metrics)
- 3101: MCP Manager (API, metrics)
- 5432: PostgreSQL - 27017: MongoDB
Internet access is required if you plan to connect to cloud-based Git
services (GitHub, GitLab, Bitbucket) or cloud LLM providers (OpenAI, Anthropic,
etc.). For self-hosted Git tools and on-prem LLMs within your network,
external internet access is optional.
Domain Name Setup (Optional)
If you're planning to integrate Kodus with cloud-based Git providers (GitHub, GitLab, or Bitbucket), you'll need public-facing URLs for both the Kodus Web App and its API. This allows your server to receive webhooks for proper Code Review functionality and ensures correct application behavior. We recommend setting up two subdomains:- One for the Web Application, e.g.,
kodus-web.yourdomain.com. - One for the API, e.g.,
kodus-api.yourdomain.com.
- Use a dedicated webhooks subdomain, e.g.,
kodus-webhooks.yourdomain.com, or - Keep using the API domain and route
/github/webhook,/gitlab/webhook, etc. to the webhooks service in your reverse proxy.
Note: If you're only connecting to self-hosted Git tools on your network and do not require public access or webhooks, you might be able to use a simpler setup, but this guide focuses on public-facing deployments.
Setup
Edit the environment file
Edit See Environment Variables Configuration for detailed instructions.
.env with your values using your preferred text editor.Success 🎉
When complete, Kodus Services should be running on your machine.
You can verify your installation using the following script:
Access the web interface
Once you access the web interface for the first time, you'll need to:
- Create your admin account - This will be the first user with full system access
- Configure your Git provider - Connect GitHub, GitLab, or Bitbucket following the on-screen instructions
- Select repositories for analysis - Choose which code repositories Kody will review
For detailed steps on the initial configuration process, refer to our Getting
Started Guide.
Configurar Groq en el Archivo de Entorno
Edita tu archivo.env y configura los ajustes principales. Para la Integración de LLM, usa Groq en Modo Fijo:
Las URLs de webhook deben alcanzar el servicio de Webhooks (puerto 3332). Usa un dominio dedicado para webhooks o enruta
/.../webhook al puerto 3332 en tu proxy inverso.El Modo Fijo es ideal para Groq porque proporciona APIs compatibles con OpenAI con inferencia ultrarrápida. Esto te da el mejor rendimiento con una configuración simple.
Run the Installation Script
Set the proper permissions for the installation script:What the Installer Does
Our installer automates several important steps:- Verifies Docker installation
- Creates networks for Kodus services
- Clones repositories and configures environment files
- Runs docker-compose to start all services
- Executes database migrations
- Seeds initial data
http://localhost:3000 - you should see the Kodus Web Application interface.
Configurar Proxy Inverso (Para Producción)
Para webhooks y acceso externo, configura Nginx:Verificar la Integración con Groq
Además de la verificación básica de instalación, confirma que Groq está funcionando:Solución de problemas
Problemas con la clave API
Problemas con la clave API
- Verifica que tu clave API sea correcta y esté activa en la Consola de Groq
- Comprueba si tienes créditos o cuota suficiente en tu cuenta de Groq
- Asegúrate de que no haya espacios extra en tu archivo
.env
Modelo no encontrado
Modelo no encontrado
- Verifica que el nombre del modelo esté correctamente escrito en tu configuración
- Comprueba que el modelo esté disponible en la lista actual de modelos de Groq
- Prueba con un modelo diferente de nuestra lista de recomendados
Errores de conexión
Errores de conexión
- Verifica que tu servidor tenga acceso a internet para alcanzar
api.groq.com - Comprueba si hay restricciones de firewall
- Revisa los registros de la API/worker para mensajes de error detallados
Límite de tasa
Límite de tasa
- Groq tiene límites de tasa según tu plan
- Consulta la documentación de límites de tasa de Groq
- Considera actualizar tu plan para obtener límites más altos