Como o Groq funciona
O Groq Cloud fornece inferência rápida de LLM com APIs compatíveis com OpenAI. Desenvolvido para velocidade e simplicidade, o Groq oferece inferência ultrarrápida para modelos populares como Llama, Deepseek e mais. A plataforma é projetada para ser simples de integrar e fácil de escalar, tornando-a perfeita para aplicações em produção.Modelos Recomendados
Recomendamos bons modelos de codificação com janelas de contexto grandes e inferência rápida.Para as informações mais atualizadas, visite a página de modelos do Groq.
| Modelo | Janela de Contexto | Velocidade |
|---|---|---|
Llama 3.3 70B Versatile recomendado | ~128k tokens | Ultra Rápida |
| Deepseek R1 Distill Llama 70B | ~128k tokens | Ultra Rápida |
| Llama 3.1 70B Versatile | ~128k tokens | Ultra Rápida |
Criando uma Chave de API
Acesse diretamente a página de Chaves de API do Groq para criar uma nova Chave de API. Ou siga estes passos:- Vá para o Console Groq
- Faça login ou crie sua conta
- Navegue até “Chaves de API” na navegação superior
- Clique no botão “Criar Chave de API”
- Dê um nome como ‘Kodus’ ou qualquer nome descritivo
- Copie a Chave de API e guarde-a em um lugar seguro
Apenas proprietários de time ou usuários com papel de desenvolvedor podem criar ou gerenciar chaves de API no Groq.
Como usar
System Requirements
Recommended Hardware
Recommended Hardware
- CPU: 2+ cores - RAM: 8GB+ - Storage: 60GB+ free space
Required Software
Required Software
- Docker (latest stable version)
- Node.js (latest LTS version)
- Yarn or NPM (latest stable version)
- Domain name or fixed IP (for external deployments)
Required Ports
Required Ports
- 3000: Kodus Web App
- 3001: API
- 3332: Webhooks
- 5672, 15672, 15692: RabbitMQ (AMQP, management, metrics)
- 3101: MCP Manager (API, metrics)
- 5432: PostgreSQL - 27017: MongoDB
Internet access is required if you plan to connect to cloud-based Git
services (GitHub, GitLab, Bitbucket) or cloud LLM providers (OpenAI, Anthropic,
etc.). For self-hosted Git tools and on-prem LLMs within your network,
external internet access is optional.
Domain Name Setup (Optional)
If you're planning to integrate Kodus with cloud-based Git providers (GitHub, GitLab, or Bitbucket), you'll need public-facing URLs for both the Kodus Web App and its API. This allows your server to receive webhooks for proper Code Review functionality and ensures correct application behavior. We recommend setting up two subdomains:- One for the Web Application, e.g.,
kodus-web.yourdomain.com. - One for the API, e.g.,
kodus-api.yourdomain.com.
- Use a dedicated webhooks subdomain, e.g.,
kodus-webhooks.yourdomain.com, or - Keep using the API domain and route
/github/webhook,/gitlab/webhook, etc. to the webhooks service in your reverse proxy.
Note: If you're only connecting to self-hosted Git tools on your network and do not require public access or webhooks, you might be able to use a simpler setup, but this guide focuses on public-facing deployments.
Setup
Edit the environment file
Edit See Environment Variables Configuration for detailed instructions.
.env with your values using your preferred text editor.Success 🎉
When complete, Kodus Services should be running on your machine.
You can verify your installation using the following script:
Access the web interface
Once you access the web interface for the first time, you'll need to:
- Create your admin account - This will be the first user with full system access
- Configure your Git provider - Connect GitHub, GitLab, or Bitbucket following the on-screen instructions
- Select repositories for analysis - Choose which code repositories Kody will review
For detailed steps on the initial configuration process, refer to our Getting
Started Guide.
Configurar o Groq no Arquivo de Ambiente
Edite o seu arquivo.env e configure as definições principais. Para a Integração de LLM, use o Groq no Modo Fixo:
As URLs de webhook devem alcançar o serviço de Webhooks (porta 3332). Use um domínio dedicado para webhooks ou roteie
/.../webhook para a porta 3332 no seu proxy reverso.O Modo Fixo é ideal para o Groq porque ele fornece APIs compatíveis com OpenAI com inferência ultrarrápida. Isso oferece o melhor desempenho com configuração simples.
Run the Installation Script
Set the proper permissions for the installation script:What the Installer Does
Our installer automates several important steps:- Verifies Docker installation
- Creates networks for Kodus services
- Clones repositories and configures environment files
- Runs docker-compose to start all services
- Executes database migrations
- Seeds initial data
http://localhost:3000 - you should see the Kodus Web Application interface.
Configurar Proxy Reverso (Para Produção)
Para webhooks e acesso externo, configure o Nginx:Verificar a Integração com o Groq
Além da verificação básica de instalação, confirme que o Groq está funcionando:Solução de problemas
Problemas com Chave de API
Problemas com Chave de API
- Verifique se sua chave de API está correta e ativa no Console Groq
- Verifique se você tem créditos ou cota suficientes na sua conta Groq
- Certifique-se de que não há espaços extras no seu arquivo
.env
Modelo Não Encontrado
Modelo Não Encontrado
- Verifique se o nome do modelo está escrito corretamente na sua configuração
- Verifique se o modelo está disponível na lista de modelos atual do Groq
- Tente com um modelo diferente da nossa lista recomendada
Erros de Conexão
Erros de Conexão
- Verifique se o seu servidor tem acesso à internet para alcançar
api.groq.com - Verifique se há restrições de firewall
- Revise os logs da API/worker para mensagens de erro detalhadas
Limitação de Taxa
Limitação de Taxa
- O Groq tem limites de taxa baseados no seu plano
- Consulte a documentação de limites de taxa do Groq
- Considere fazer upgrade do seu plano para limites maiores