BroadRouter
始める

OpenAI 互換 API(OpenAI-compatible API)

更新日

OpenAI 互換 API とは、POST /v1/chat/completions など OpenAI API と同じリクエスト形式とレスポンス形式を受け付ける HTTP API です。OpenAI の SDK やツールは、ベース URL、API キー、モデル名を変えるだけで利用できます。

別名: OpenAI 互換、OpenAI 互換 API、OpenAI 互換エンドポイント、OpenAI 形式の API、OpenAI-compatible API、OpenAI API compatible、OpenAI-style API、OpenAI drop-in replacement

OpenAI の API 形式は、LLM ツールの共通言語になりました。多くのプロバイダーがこの形式を受け付けるため、1 つのクライアントライブラリで多くのバックエンドと通信できます。

しくみ

互換 API は、クライアントが依存している OpenAI API の部分をそのまま再現します。

  • 同じパス。たとえば /v1/chat/completions や /v1/audio/transcriptions です。
  • 同じ JSON の形。入力は messages 配列、出力は choices[0].message.content、そしてトークン数を含む usage ブロックです。
  • Authorization: Bearer <key> として送る API キー
  • stream が true のときの、Server-Sent Events によるストリーミング

切り替えは設定の変更だけです。公式の Python SDK では次のようになります。

from openai import OpenAI
import os

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
reply = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in Arabic."}],
)
print(reply.choices[0].message.content)

OpenAI のサンプルから変えたのは 3 つの値だけです。ベース URL、キー、モデル ID です。

なぜ重要か

互換性があると、乗り換えのコストが下がります。OpenAI 形式に対応した SDK、エージェントフレームワーク、IDE のプラグイン、ルーターが、新しいコードなしで動きます。2 つ目のプロバイダーを数分で試し、移行の選択肢を残しておけます。

ただし、互換は同一ではありません。たとえば Anthropic 自身の互換レイヤーは、ツールの strict を無視し、prompt_tokens_details を空のままにします。よくある違いは次のとおりです。

  • 無視される、または拒否されるパラメーター
  • 推論トークンが max_tokens にどう数えられるか
  • ストリームの最後に使用量が報告されるかどうか
  • レート制限とエラーコード

BroadNet Inference の場合

BroadNet Inference は、https://inference.broadnet.ai/v1 で POST /v1/chat/completions、POST /v1/audio/transcriptions、GET /v1/models を提供しています。キーは Authorization: Bearer <key> としてのみ送ります。Python と Node のガイドに完全な設定手順があり、LangChain も同じ方法で動きます。

想定しておくべき違いが 2 つあります。DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B は回答の前に推論し、その推論は max_tokens に含まれます。また、従量課金のキーは 1 分あたり 30 リクエスト、同時に 4 リクエストまでです。そのほかの点は移行チェックリストにまとめています。

よくある間違い

  • gpt-6-astra(OpenAI のモデルページに載っているフラッグシップ、2026-11-15 確認)のような OpenAI のモデル名をそのまま使うこと。プロバイダーのモデル ID を使ってください。
  • リクエストが成功したからといって、パラメーターが効いていると思い込むこと。未知のフィールドを黙って無視するプロバイダーもあります。

よくある質問

OpenAI 互換なら OpenAI の機能はすべて使えますか?

いいえ。互換とは、中心となるリクエストとレスポンスの形が一致しているという意味です。個々のフィールドは無視されたり、拒否されたりすることがあります。たとえば Anthropic の互換レイヤーは、無視するフィールドと 400 エラーを返すフィールドを文書化しています。パラメーターに頼る前に、プロバイダーの一覧を確認してください。

別の SDK が必要ですか?

いいえ。OpenAI の公式 SDK はカスタムのベース URL を受け付けます。Python では base_url、Node では baseURL を渡すか、環境変数 OPENAI_BASE_URL を設定してください。

BroadNet Inference が対応しているエンドポイントは何ですか?

チャット用の POST /v1/chat/completions と、音声認識用の POST /v1/audio/transcriptions です。GET /v1/models もありますが、BroadNet のドキュメントでは外部の監視ツール向けの公開カタログメタデータと説明されているので、リクエストに使うモデル ID は API リファレンスで確認してください。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く