OpenAI の API 形式は、LLM ツールの共通言語になりました。多くのプロバイダーがこの形式を受け付けるため、1 つのクライアントライブラリで多くのバックエンドと通信できます。
しくみ
互換 API は、クライアントが依存している OpenAI API の部分をそのまま再現します。
- 同じパス。たとえば
/v1/chat/completionsや/v1/audio/transcriptionsです。 - 同じ JSON の形。入力は
messages配列、出力はchoices[0].message.content、そしてトークン数を含むusageブロックです。 Authorization: Bearer <key>として送る API キーstreamが true のときの、Server-Sent Events によるストリーミング
切り替えは設定の変更だけです。公式の Python SDK では次のようになります。
from openai import OpenAI
import os
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
reply = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in Arabic."}],
)
print(reply.choices[0].message.content)
OpenAI のサンプルから変えたのは 3 つの値だけです。ベース URL、キー、モデル ID です。
なぜ重要か
互換性があると、乗り換えのコストが下がります。OpenAI 形式に対応した SDK、エージェントフレームワーク、IDE のプラグイン、ルーターが、新しいコードなしで動きます。2 つ目のプロバイダーを数分で試し、移行の選択肢を残しておけます。
ただし、互換は同一ではありません。たとえば Anthropic 自身の互換レイヤーは、ツールの strict を無視し、prompt_tokens_details を空のままにします。よくある違いは次のとおりです。
- 無視される、または拒否されるパラメーター
- 推論トークンが
max_tokensにどう数えられるか - ストリームの最後に使用量が報告されるかどうか
- レート制限とエラーコード
BroadNet Inference の場合
BroadNet Inference は、https://inference.broadnet.ai/v1 で POST /v1/chat/completions、POST /v1/audio/transcriptions、GET /v1/models を提供しています。キーは Authorization: Bearer <key> としてのみ送ります。Python と Node のガイドに完全な設定手順があり、LangChain も同じ方法で動きます。
想定しておくべき違いが 2 つあります。DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B は回答の前に推論し、その推論は max_tokens に含まれます。また、従量課金のキーは 1 分あたり 30 リクエスト、同時に 4 リクエストまでです。そのほかの点は移行チェックリストにまとめています。
よくある間違い
gpt-6-astra(OpenAI のモデルページに載っているフラッグシップ、2026-11-15 確認)のような OpenAI のモデル名をそのまま使うこと。プロバイダーのモデル ID を使ってください。- リクエストが成功したからといって、パラメーターが効いていると思い込むこと。未知のフィールドを黙って無視するプロバイダーもあります。