LlaDash API ドキュメント

LlaDash APIは、認証キー不要で利用可能な次世代のLLM動的ルーティングAPIです。ユーザーの質問意図を Llama 3.1 8B で高速解析し、ChatGPT OSS 120B の強力な生成エンジンとシームレスに組み合わせます。

【ストリーミング機能の仕様】?stream=true をプレーンテキストモードで使用する際、モデルの内部思考タグ（<think>）とその内容は自動的に除去され、完全にクリーンな回答テキストのみがリアルタイムに出力されます。JSON/XMLモードでのストリーミング時のみ、思考データが専用の thinking フィールドに格納されます。

アーキテクチャ概要 (2026年7月版)

リクエストの難易度に応じて、以下の2つの高性能モデルが最適な役割分担で動的に連携処理を行います。
1. Llama 3.1 8B (Fast): 安全性検証（モデレーション）、コンテキスト・機能連携（時計・計算）の判定、タイトル自動生成、簡易検索、および高速回答を担当。
2. ChatGPT OSS 120B (Pro): 高度な推論思考プロセスの展開、創作・解説などの高品質回答生成、および高度なWeb検索情報の要約を担当。

テキスト生成エンドポイント

プロンプトを送信し、AIの推論結果を取得します。GETおよびPOSTリクエストに対応しています。

GET POST /ai/{prompt}

クエリパラメータ

Name	Type	Description
`prompt`	String	最大文字数は 2000文字です。超過時は 400 Bad Request となります。
`json`	Boolean	結果をJSON形式で返します。思考プロセス(thinking)や自動生成タイトル(title)もフィールドに含まれます。
`xml`	Boolean	結果をXML形式で返します。
`stream`	Boolean	リアルタイムに回答をストリーミングします。プレーンテキスト時は生の回答文のみを順次出力します。
`title`	Boolean	回答と一緒に、クエリに応じた短いタイトル（15文字以内）を必ず自動生成して保存します（titleパラメータ有効時に出力に反映）。

Example Request (JSON + Title)

const url = 'https://api.ndnx.workers.dev/ai/What is AI?&json=true&title=true';
const response = await fetch(url, {
  headers: { 'User-Agent': 'MyAwesomeApp/1.0' }
});
const data = await response.json();
console.log(data);

Example Response

{
  "status": "success",
  "model": "openai/gpt-oss-120b",
  "thinking": "The user is asking for a definition of AI...",
  "title": "AIの定義",
  "answer": "人工知能（AI）とは、人間の知的振る舞いをコンピュータ上で再現する..."
}

レート制限および同時実行制限仕様

現在のシステム全体の同時実行数制御と、各LLMモデルに適用されているレート制限状態です。

GET /ai/rate

レート制限と仕様

System Queue Limit: Max 20 concurrent requests system-wide (Returns HTTP 503 if busy).
Single IP Lock: Only 1 active request per client allowed at a time (Returns HTTP 429 on multi-send).
Llama 3.1 8B (Fast Model / Router): 200 Requests Per Minute / 10,000 requests per day limit.
ChatGPT OSS 120B (Pro Model / Generator): 30 Requests Per Minute / 1,000 requests per day limit.

エラーレスポンス

400 Bad Request: プロンプトの2000文字超過、または不正なリクエストボディ。
403 Forbidden: ボット自動アクセス検知、User-Agentの不備、セキュリティブロック。
429 Too Many Requests: 同一IPからの多重同時実行、またはモデル別の上限（日／分）超過。
500 Internal Server Error: データベースエラー、またはバックエンドAPIの障害。