Groq Cloud - 超高速推論

Groqの仕組み

Groq CloudはOpenAI互換のAPIで高速なLLM推論を提供します。速度とシンプルさのために構築されたGroqは、Llama、Deepseekなどの人気モデルに対して超高速の推論を提供します。このプラットフォームはシンプルな統合と簡単なスケーリングを目指して設計されており、本番アプリケーションに最適です。

推奨モデル

高いコンテキストウィンドウと高速推論を持つ優れたコーディングモデルを推奨します。

最新情報については、Groqのモデルページをご覧ください。

モデル	コンテキストウィンドウ	速度
Llama 3.3 70B Versatile `recommended`	約128kトークン	超高速
Deepseek R1 Distill Llama 70B	約128kトークン	超高速
Llama 3.1 70B Versatile	約128kトークン	超高速

APIキーの作成

APIキーを作成するにはGroq Cloudアカウントが必要です。

GroqのAPIキーページに直接アクセスして新しいAPIキーを作成してください。または、以下の手順に従ってください：

Groq Console に移動する
サインインするかアカウントを作成する
上部ナビゲーションの「API Keys」に移動する
「Create API Key」ボタンをクリックする
「Kodus」または説明的な名前を付ける
APIキーをコピーして安全な場所に保存する

Groqでは、チームのオーナーまたは開発者ロールを持つユーザーのみがAPIキーを作成または管理できます。

使用方法

System Requirements

Recommended Hardware

Sized for the default local sandbox mode (kodus-graph + cross-file context run inside the worker container).

CPU: 2+ cores (4+ recommended for repos above ~100k LOC)
RAM: 8GB+ (16GB recommended when running the local sandbox on large repos)
Storage: 60GB+ free space (Postgres holds the AST graph cache; grows with repo count and PR volume)

Required Software

Docker (latest stable) with the Compose plugin
Domain name or fixed IP if you want to receive Git webhooks from cloud providers (GitHub.com, GitLab.com, etc.)

Required Ports

Default host port mappings — adjust in .env if any conflict.

3000 — Kodus Web App
3001 — API
3332 — Webhooks
5432 — PostgreSQL
27017 — MongoDB
5672, 15672, 15692 — RabbitMQ (AMQP, management UI, metrics)
3101 — MCP Manager (only if API_MCP_SERVER_ENABLED=true)

Services

What ./scripts/install.sh brings up, based on your .env.Core (always on):

api — main backend
worker — code-review jobs
webhooks — Git provider webhook receiver
kodus-web — Next.js frontend
db_kodus_postgres, db_kodus_mongodb, rabbitmq — local infrastructure. Skip with USE_LOCAL_DB=false / USE_LOCAL_RABBITMQ=false to point at managed instances.

Optional:

kodus-mcp-manager — Model Context Protocol broker. Enable with API_MCP_SERVER_ENABLED=true. See MCP Manager.
worker-analytics — Cockpit ingestion (DORA metrics, PR classifier). Self-hosted Enterprise only, not wired by default. See Analytics Worker.

Code review uses an AST graph + cross-file context that runs in a sandbox — local (default, runs inside the worker) or e2b (paid remote sandbox). See Sandbox & AST Graph for the modes, caching behavior, and when to pick each.

Internet access is required if you plan to connect to cloud-based Git services (GitHub, GitLab, Bitbucket) or cloud LLM providers (OpenAI, Anthropic, etc.). For self-hosted Git tools and on-prem LLMs within your network, external internet access is optional.

Domain Name Setup (Optional)

If you're planning to integrate Kodus with cloud-based Git providers (GitHub, GitLab, or Bitbucket), you'll need public-facing URLs for both the Kodus Web App and its API. This allows your server to receive webhooks for proper Code Review functionality and ensures correct application behavior. We recommend setting up two subdomains:

One for the Web Application, e.g., kodus-web.yourdomain.com.
One for the API, e.g., kodus-api.yourdomain.com.

Webhooks are handled by a separate service (port 3332). You can either:

Use a dedicated webhooks subdomain, e.g., kodus-webhooks.yourdomain.com, or
Keep using the API domain and route /github/webhook, /gitlab/webhook, etc. to the webhooks service in your reverse proxy.

Both subdomains should have DNS A records pointing to your server's IP address. Later in this guide, we will configure a reverse proxy (Nginx) to route requests to these subdomains to the correct internal services. This setup is essential for full functionality, including webhooks and authentication.

Note: If you're only connecting to self-hosted Git tools on your network and do not require public access or webhooks, you might be able to use a simpler setup, but this guide focuses on public-facing deployments.

Setup

Clone the installer repository

git clone https://github.com/kodustech/kodus-installer.git
cd kodus-installer

Copy the example environment file

cp .env.example .env

Generate secure keys for the required environment variables

./generate-keys.sh

Edit the environment file

Edit .env with your values using your preferred text editor.

nano .env

See Environment Variables Configuration for detailed instructions.

Run the installer

./scripts/install.sh

Success 🎉

When complete, Kodus Services should be running on your machine. You can verify your installation using the following script:

./scripts/doctor.sh

Access the web interface

Once you access the web interface for the first time, you'll need to:

Create your admin account - This will be the first user with full system access
Configure your Git provider - Connect GitHub, GitLab, or Bitbucket following the on-screen instructions
Select repositories for analysis - Choose which code repositories Kody will review

For detailed steps on the initial configuration process, refer to our Getting Started Guide.

環境ファイルでGroqを設定する

.env ファイルを編集してコア設定を行います。LLMインテグレーションには、固定モードでGroqを使用します：

# コアシステム設定（ドメインを更新してください）
WEB_HOSTNAME_API="kodus-api.yourdomain.com"    
WEB_PORT_API=443                               
NEXTAUTH_URL="https://kodus-web.yourdomain.com"

# セキュリティキー（上記のopensslコマンドで生成）
WEB_NEXTAUTH_SECRET="your-generated-secret"
API_CRYPTO_KEY="your-generated-hex-key"
API_JWT_SECRET="your-generated-secret"
API_JWT_REFRESH_SECRET="your-generated-secret"

# データベース設定
API_PG_DB_PASSWORD="your-secure-db-password"
API_MG_DB_PASSWORD="your-secure-db-password"

# Groq設定（固定モード） 
API_LLM_PROVIDER_MODEL="llama-3.3-70b-versatile"             # 希望するモデルを選択
API_OPENAI_FORCE_BASE_URL="https://api.groq.com/openai/v1"   # Groq API URL
API_OPEN_AI_API_KEY="your-groq-api-key"                      # Your Groq API Key

# Gitプロバイダーのウェブフック（プロバイダーを選択）
API_GITHUB_CODE_MANAGEMENT_WEBHOOK="https://kodus-api.yourdomain.com/github/webhook"
# または API_GITLAB_CODE_MANAGEMENT_WEBHOOK="https://kodus-api.yourdomain.com/gitlab/webhook"
# または GLOBAL_BITBUCKET_CODE_MANAGEMENT_WEBHOOK="https://kodus-api.yourdomain.com/bitbucket/webhook"

ウェブフックURLはWebhooksサービス（ポート3332）に到達する必要があります。専用のウェブフックドメインを使用するか、リバースプロキシで /.../webhook をポート3332にルーティングしてください。

固定モードはGroqに最適です。 OpenAI互換のAPIと超高速推論を提供します。シンプルな設定で最高のパフォーマンスが得られます。

Run the Installation Script

Looking for more control? Check out our docker-compose file for manual deployment options.

Set the proper permissions for the installation script:

chmod +x scripts/install.sh

Run the script:

./scripts/install.sh

What the Installer Does

Our installer automates several important steps:

Verifies Docker installation
Creates networks for Kodus services
Clones repositories and configures environment files
Runs docker-compose to start all services
Executes database migrations
Seeds initial data

🎉 Success! When complete, the Kodus Web App and backend services (API, worker, webhooks, MCP manager) should be running on your machine. You can verify your installation by visiting http://localhost:3000 - you should see the Kodus Web Application interface.

Code Review features will not work yet unless you complete the reverse proxy setup. Without this configuration, external Git providers cannot send webhooks to your instance.

リバースプロキシのセットアップ（本番環境向け）

ウェブフックと外部アクセスのためにNginxを設定します：

# Webアプリ（ポート3000）
server {
    listen 80;
    server_name kodus-web.yourdomain.com;
    location / {
        proxy_pass http://localhost:3000;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}

# API（ポート3001）  
server {
    listen 80;
    server_name kodus-api.yourdomain.com;
    location ~ ^/(github|gitlab|bitbucket|azure-repos)/webhook {
        proxy_pass http://localhost:3332;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }

    location / {
        proxy_pass http://localhost:3001;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}

Groqインテグレーションの確認

基本インストールの確認に加えて、Groqが動作していることを確認します：

# Groq API接続を具体的に確認する
docker-compose logs api worker | grep -i groq

SSLセットアップ、監視、高度な設定の詳細については、完全なデプロイガイドを参照してください。

トラブルシューティング

APIキーの問題

Groq Console でAPIキーが正しく有効であることを確認する
Groqアカウントに十分なクレジットまたはクォータがあるか確認する
.env ファイルに余分なスペースがないことを確認する

モデルが見つからない

設定でモデル名が正しくスペルされているか確認する
Groqの現在のモデルリストでモデルが利用可能か確認する
推奨リストの別のモデルを試してみる

接続エラー

サーバーが api.groq.com にアクセスするインターネット接続があることを確認する
ファイアウォールの制限がないか確認する
詳細なエラーメッセージについてAPI/ワーカーログを確認する

レート制限

Groqにはプランに基づいたレート制限がある
Groqのレート制限ドキュメントを確認する
より高い制限のためにプランのアップグレードを検討する

カスタムプラグイン

カスタムコンテキストガイド

レシピ

LLM プロバイダー設定

Groq Cloud - 超高速推論

Groqの仕組み

推奨モデル

APIキーの作成

使用方法

System Requirements

Domain Name Setup (Optional)

Setup

環境ファイルでGroqを設定する

Run the Installation Script

What the Installer Does

リバースプロキシのセットアップ（本番環境向け）

Groqインテグレーションの確認

トラブルシューティング

​Groqの仕組み

​推奨モデル

​APIキーの作成

​使用方法

​System Requirements

​Domain Name Setup (Optional)

​Setup

​環境ファイルでGroqを設定する

​Run the Installation Script

​What the Installer Does

​リバースプロキシのセットアップ（本番環境向け）

​Groqインテグレーションの確認

​トラブルシューティング

Groqの仕組み

推奨モデル

APIキーの作成

使用方法

System Requirements

Domain Name Setup (Optional)

Setup

環境ファイルでGroqを設定する

Run the Installation Script

What the Installer Does

リバースプロキシのセットアップ（本番環境向け）

Groqインテグレーションの確認

トラブルシューティング