Together AI - オープンソースモデル

Together AIの仕組み

Together AIは、数行のコードだけで最先端のオープンソースモデルを簡単に実行できます。このプラットフォームは、高速推論、OpenAI互換のAPI、Llama 4、DeepSeekなどの最先端モデルへのアクセスを提供します。複雑さなしに信頼性が高くスケーラブルなAIインフラを必要とする開発者のために構築されています。

推奨モデル

高いコンテキストウィンドウと競争力のある価格を持つ優れたコーディングモデルを推奨します。

最新情報については、Together AIの価格ページをご覧ください。

モデル	価格（100万トークン）	コンテキストウィンドウ
Llama 4 Maverick `recommended`	$0.27/$ 0.85	約128kトークン
DeepSeek-V3	$1.25	約128kトークン
Llama 3.1 70B Turbo	$0.88	約128kトークン
Qwen 2.5 72B	$1.20	約128kトークン

APIキーの作成

APIキーを作成するにはTogether AIアカウントが必要です。

Together AI Console に直接アクセスして新しいAPIキーを作成してください。または、以下の手順に従ってください：

api.together.ai でアカウントを作成するか、既にある場合はログインする
メインダッシュボードで「Manage Account」セクションまでスクロールする
「API Keys」カードの「Manage Keys」ボタンをクリックする
「Add Key」ボタンをクリックする
「Kodus」または説明的な名前を付ける
APIキーをコピーして、準備完了です！

新しいアカウントには、無料で始めるための$1クレジットが付いています。

使用方法

System Requirements

Recommended Hardware

Sized for the default local sandbox mode (kodus-graph + cross-file context run inside the worker container).

CPU: 2+ cores (4+ recommended for repos above ~100k LOC)
RAM: 8GB+ (16GB recommended when running the local sandbox on large repos)
Storage: 60GB+ free space (Postgres holds the AST graph cache; grows with repo count and PR volume)

Required Software

Docker (latest stable) with the Compose plugin
Domain name or fixed IP if you want to receive Git webhooks from cloud providers (GitHub.com, GitLab.com, etc.)

Required Ports

Default host port mappings — adjust in .env if any conflict.

3000 — Kodus Web App
3001 — API
3332 — Webhooks
5432 — PostgreSQL
27017 — MongoDB
5672, 15672, 15692 — RabbitMQ (AMQP, management UI, metrics)
3101 — MCP Manager (only if API_MCP_SERVER_ENABLED=true)

Services

What ./scripts/install.sh brings up, based on your .env.Core (always on):

api — main backend
worker — code-review jobs
webhooks — Git provider webhook receiver
kodus-web — Next.js frontend
db_kodus_postgres, db_kodus_mongodb, rabbitmq — local infrastructure. Skip with USE_LOCAL_DB=false / USE_LOCAL_RABBITMQ=false to point at managed instances.

Optional:

kodus-mcp-manager — Model Context Protocol broker. Enable with API_MCP_SERVER_ENABLED=true. See MCP Manager.
worker-analytics — Cockpit ingestion (DORA metrics, PR classifier). Self-hosted Enterprise only, not wired by default. See Analytics Worker.

Code review uses an AST graph + cross-file context that runs in a sandbox — local (default, runs inside the worker) or e2b (paid remote sandbox). See Sandbox & AST Graph for the modes, caching behavior, and when to pick each.

Internet access is required if you plan to connect to cloud-based Git services (GitHub, GitLab, Bitbucket) or cloud LLM providers (OpenAI, Anthropic, etc.). For self-hosted Git tools and on-prem LLMs within your network, external internet access is optional.

Domain Name Setup (Optional)

If you're planning to integrate Kodus with cloud-based Git providers (GitHub, GitLab, or Bitbucket), you'll need public-facing URLs for both the Kodus Web App and its API. This allows your server to receive webhooks for proper Code Review functionality and ensures correct application behavior. We recommend setting up two subdomains:

One for the Web Application, e.g., kodus-web.yourdomain.com.
One for the API, e.g., kodus-api.yourdomain.com.

Webhooks are handled by a separate service (port 3332). You can either:

Use a dedicated webhooks subdomain, e.g., kodus-webhooks.yourdomain.com, or
Keep using the API domain and route /github/webhook, /gitlab/webhook, etc. to the webhooks service in your reverse proxy.

Both subdomains should have DNS A records pointing to your server's IP address. Later in this guide, we will configure a reverse proxy (Nginx) to route requests to these subdomains to the correct internal services. This setup is essential for full functionality, including webhooks and authentication.

Note: If you're only connecting to self-hosted Git tools on your network and do not require public access or webhooks, you might be able to use a simpler setup, but this guide focuses on public-facing deployments.

Setup

Clone the installer repository

git clone https://github.com/kodustech/kodus-installer.git
cd kodus-installer

Copy the example environment file

cp .env.example .env

Generate secure keys for the required environment variables

./generate-keys.sh

Edit the environment file

Edit .env with your values using your preferred text editor.

nano .env

See Environment Variables Configuration for detailed instructions.

Run the installer

./scripts/install.sh

Success 🎉

When complete, Kodus Services should be running on your machine. You can verify your installation using the following script:

./scripts/doctor.sh

Access the web interface

Once you access the web interface for the first time, you'll need to:

Create your admin account - This will be the first user with full system access
Configure your Git provider - Connect GitHub, GitLab, or Bitbucket following the on-screen instructions
Select repositories for analysis - Choose which code repositories Kody will review

For detailed steps on the initial configuration process, refer to our Getting Started Guide.

環境ファイルでTogether AIを設定する

.env ファイルを編集してコア設定を行います。LLMインテグレーションには、固定モードでTogether AIを使用します：

# コアシステム設定（ドメインを更新してください）
WEB_HOSTNAME_API="kodus-api.yourdomain.com"    
WEB_PORT_API=443                               
NEXTAUTH_URL="https://kodus-web.yourdomain.com"

# セキュリティキー（上記のopensslコマンドで生成）
WEB_NEXTAUTH_SECRET="your-generated-secret"
API_CRYPTO_KEY="your-generated-hex-key"
API_JWT_SECRET="your-generated-secret"
API_JWT_REFRESH_SECRET="your-generated-secret"

# データベース設定
API_PG_DB_PASSWORD="your-secure-db-password"
API_MG_DB_PASSWORD="your-secure-db-password"

# Together AI設定（固定モード） 
API_LLM_PROVIDER_MODEL="meta-llama/Meta-Llama-4-Maverick-Instruct"  # 希望するモデルを選択
API_OPENAI_FORCE_BASE_URL="https://api.together.xyz/v1"             # Together AI API URL  
API_OPEN_AI_API_KEY="your-together-api-key"                         # Your Together AI API Key

# Gitプロバイダーのウェブフック（プロバイダーを選択）
API_GITHUB_CODE_MANAGEMENT_WEBHOOK="https://kodus-api.yourdomain.com/github/webhook"
# または API_GITLAB_CODE_MANAGEMENT_WEBHOOK="https://kodus-api.yourdomain.com/gitlab/webhook"
# または GLOBAL_BITBUCKET_CODE_MANAGEMENT_WEBHOOK="https://kodus-api.yourdomain.com/bitbucket/webhook"

ウェブフックURLはWebhooksサービス（ポート3332）に到達する必要があります。専用のウェブフックドメインを使用するか、リバースプロキシで /.../webhook をポート3332にルーティングしてください。

固定モードはTogether AIに最適です。 競争力のある価格設定と最先端のオープンソースモデルへのアクセスを持つOpenAI互換のAPIを提供します。

Run the Installation Script

Looking for more control? Check out our docker-compose file for manual deployment options.

Set the proper permissions for the installation script:

chmod +x scripts/install.sh

Run the script:

./scripts/install.sh

What the Installer Does

Our installer automates several important steps:

Verifies Docker installation
Creates networks for Kodus services
Clones repositories and configures environment files
Runs docker-compose to start all services
Executes database migrations
Seeds initial data

🎉 Success! When complete, the Kodus Web App and backend services (API, worker, webhooks, MCP manager) should be running on your machine. You can verify your installation by visiting http://localhost:3000 - you should see the Kodus Web Application interface.

Code Review features will not work yet unless you complete the reverse proxy setup. Without this configuration, external Git providers cannot send webhooks to your instance.

リバースプロキシのセットアップ（本番環境向け）

ウェブフックと外部アクセスのためにNginxを設定します：

# Webアプリ（ポート3000）
server {
    listen 80;
    server_name kodus-web.yourdomain.com;
    location / {
        proxy_pass http://localhost:3000;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}

# API（ポート3001）  
server {
    listen 80;
    server_name kodus-api.yourdomain.com;
    location ~ ^/(github|gitlab|bitbucket|azure-repos)/webhook {
        proxy_pass http://localhost:3332;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }

    location / {
        proxy_pass http://localhost:3001;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}

Together AIインテグレーションの確認

基本インストールの確認に加えて、Together AIが動作していることを確認します：

# Together AI API接続を具体的に確認する
docker-compose logs api worker | grep -i together

SSLセットアップ、監視、高度な設定の詳細については、完全なデプロイガイドを参照してください。

トラブルシューティング

APIキーの問題

Together AI Console でAPIキーが正しく有効であることを確認する
Together AIアカウントに十分なクレジットがあるか確認する
.env ファイルに余分なスペースがないことを確認する
新しいアカウントには$1の無料クレジットが付いています

モデルが見つからない

設定でモデル名が正しくスペルされているか確認する
Together AIの現在のモデルライブラリでモデルが利用可能か確認する
推奨リストの別のモデルを試してみる
Together AIのモデルドキュメントを確認する

接続エラー

サーバーが api.together.xyz にアクセスするインターネット接続があることを確認する
ファイアウォールの制限がないか確認する
詳細なエラーメッセージについてAPI/ワーカーログを確認する
正しいAPIエンドポイントを使用していることを確認する

レート制限

Together AIは寛大なレート制限を提供します（LLMの場合、最大6000リクエスト/分）
Together AIダッシュボードで現在の使用量を確認する
より高い制限のために上位プランへのアップグレードを検討する
APIコールを最適化するために使用パターンを監視する

カスタムプラグイン

カスタムコンテキストガイド

レシピ

LLM プロバイダー設定

Together AI - オープンソースモデル

Together AIの仕組み

推奨モデル

APIキーの作成

使用方法

System Requirements

Domain Name Setup (Optional)

Setup

環境ファイルでTogether AIを設定する

Run the Installation Script

What the Installer Does

リバースプロキシのセットアップ（本番環境向け）

Together AIインテグレーションの確認

トラブルシューティング

​Together AIの仕組み

​推奨モデル

​APIキーの作成

​使用方法

​System Requirements

​Domain Name Setup (Optional)

​Setup

​環境ファイルでTogether AIを設定する

​Run the Installation Script

​What the Installer Does

​リバースプロキシのセットアップ（本番環境向け）

​Together AIインテグレーションの確認

​トラブルシューティング

Together AIの仕組み

推奨モデル

APIキーの作成

使用方法

System Requirements

Domain Name Setup (Optional)

Setup

環境ファイルでTogether AIを設定する

Run the Installation Script

What the Installer Does

リバースプロキシのセットアップ（本番環境向け）

Together AIインテグレーションの確認

トラブルシューティング