「LLM API SLA」で検索すると、互いに食い違う表が出てきます。この記事では表には頼らず、一次情報を読みます。2026 年 11 月 15 日に取得した、各プロバイダー自身の SLA ページや規約ページです。それぞれについて、稼働率の目標、何がダウンタイムに数えられるか、サービスクレジット、レイテンシ目標の有無、対象となるティアを記録しました。BroadRouter は BroadNet のウェブサイトなので BroadNet もリストに含めています。そして BroadNet は、セルフサービスに SLA がないプロバイダーのひとつです。
LLM API の SLA は実際に何を約束しているのか?
SLA は、補償が付いた書面の目標です。API を落ちないようにするものではなく、落ちたときに請求がどうなるかを定めるものです。以下の SLA はどれも同じ 4 つの要素でできています。
- **目標。**通常は、リージョン、プロジェクト、リソースごとの月間稼働率です。
- **ダウンタイムの定義。**ほぼ必ず、サーバーエラーのみです。有効なリクエストに対する 500 または 5XX レスポンスです。429 のレート制限はダウンタイムではありません。遅い回答や間違った回答も同様です。
- **補償。**影響を受けたサービスのその月の請求額の一定割合が、将来の請求へのクレジットとして付与され、上限があります。
- **請求手続き。**期限内に、自分のログを添えてクレジットを申請します。
43,200 分ある 30 日の月で、パーセンテージを分に換算すると次のとおりです。
| 月間稼働率 | 許容されるダウンタイム |
|---|---|
| 99.9% | 約 43 分 |
| 99.5% | 216 分 |
| 99.0% | 432 分 |
| 95.0% | 36 時間 |
SLA を公開している LLM API は?
すべての行は 2026 年 11 月 15 日にプロバイダー自身のページから読んだものです。「見つからず」は、確認したページに SLA の記載がないという意味で、非公開の契約がないことまでは意味しません。
| プロバイダーとサービス | 稼働率の目標 | ダウンタイムに数えるもの | クレジット | レイテンシ SLA | 対象 |
|---|---|---|---|---|---|
| Microsoft Azure、Foundry Models(Azure OpenAI モデルを含む) | 99.9% | エラーコードを返したリクエスト(1 分ごとに平均) | 99.9% 未満で 10%、99% 未満で 25% | あり(Provisioned Managed デプロイと Priority Processing) | Azure が直接販売する Foundry Models。Developer ティアは対象外 |
| Amazon Bedrock | 99.9%(これを下回るとクレジット) | 500 エラーコードを返したリクエスト(5 分間隔、リージョンごと) | 10%、99.0% 未満で 25%、95.0% 未満で 100% | SLA にはなし | 各 AWS リージョンの Bedrock |
| Google、Gemini オンライン推論 API | 99.5%(提供期間の短いモデルは 95%) | 5XX エラー率 5% 超が 5 分以上連続 | 10%、99.0% 未満で 25%、95.0% 未満で 50% | あり(グローバルエンドポイントの Provisioned Throughput) | generateContent と streamGenerateContent |
| OpenAI、Scale Tier | 99.9% | 公開ページで定義なし | 公開ページに記載なし | モデルごとの秒間トークン数の下限を 99% の時間で上回る | Enterprise 顧客、トークン単位を 30 日以上購入 |
| OpenAI、標準の従量課金 | 見つからず | – | – | – | – |
| Anthropic API | 見つからず。規約は “as is” と “as available”(訳:現状有姿、提供可能な範囲で) | – | – | – | – |
| Fireworks AI、Reserved Throughput | 99.9% 稼働率の条件 | 料金ページに記載なし | 記載なし | スループット SLA | 予約容量のみ。超過分は対象外 |
| Together AI | サーバーレス:記載なし。“Provisioned Throughput: Token-based capacity with SLAs”(訳:Provisioned Throughput:SLA 付きのトークンベースの容量)(条件はページで非公開) | – | – | – | SLA の条件は営業に問い合わせ |
| BroadNet Inference、セルフサービス | なし:“no availability commitment”(訳:可用性の約束なし) | – | – | – | サービスレベルは別途の書面契約のみ |
ハイパースケーラーの SLA はどう違うか?
**Microsoft Azure。**Microsoft Learn のページによると、Azure が直接販売する Foundry Models は “include all Azure OpenAI models”(訳:すべての Azure OpenAI モデルを含み)、“covered by Azure service-level agreements”(訳:Azure のサービスレベル契約の対象)です。統合 SLA(2026 年 10 月版)は、1 分ごとのエラー率を定義し、稼働率を 100% から平均エラー率を引いたものとしています。クレジットは 99.9% 未満で 10%、99% 未満で 25% です。クレジットの対象は Azure が直接販売する Foundry Models のみで、“The Developer tier of the Foundry Models service is not covered by this SLA.”(訳:Foundry Models サービスの Developer ティアはこの SLA の対象外です。)Provisioned Managed デプロイと Priority Processing については、2 つ目の SLA が製品ドキュメントにあるモデルごとの目標に対して秒間トークン数を測り、達成率が 99% を下回ると 10% のクレジットになります。
**Amazon Bedrock。**AWS は稼働率の表を満たすよう “commercially reasonable efforts”(訳:商業的に合理的な努力)を約束しています。可用性は “the percentage of Requests processed by Amazon Bedrock that do not fail with Errors”(訳:Amazon Bedrock が処理したリクエストのうちエラーで失敗しなかったものの割合)で、エラーは “any Request that returns a 500 error code”(訳:500 エラーコードを返すすべてのリクエスト)です。リージョンごとに計算され、リクエストのない間隔は完全に稼働していたものとみなされます。除外事項には、“scaling of provisioned throughput”(訳:プロビジョンドスループットのスケーリング)などの顧客の操作や、“repeated model crashes or an inoperable model”(訳:モデルの度重なるクラッシュや動作不能)を引き起こすモデルソフトウェアが含まれます。SLA にレイテンシの目標はありません。
**Google Cloud。**Gemini オンライン推論の SLA は、何を数えるかについていちばん厳格です。ダウンタイムとみなされるには、5XX レスポンスのエラー率が 5% を超え、それが “five or more consecutive minutes”(訳:5 分以上連続して)続く必要があります。クレジットの上限はそのサービスの月額請求の 50% で、30 日以内にログファイルを添えてサポートに通知しなければならず、SLA は “sole and exclusive remedy”(訳:唯一かつ排他的な救済手段)です。Google 検索によるグラウンディング、割り当てのエラー、サーバーのデフォルトより短い期限は除外されます。Provisioned Throughput では、グローバルエンドポイント上の一部の Gemini 2.5 モデルにレイテンシ SLA があり、5 分間隔ごとの p50 秒間トークン数で計測します。代わりに自前のオープンモデルを Vertex AI にデプロイする場合は、別の Vertex AI Platform SLA がカスタムモデルのオンライン予測を 99.5% でカバーしますが、対象は “for models deployed on 2 or more nodes”(訳:2 つ以上のノードにデプロイされたモデル)に限られます。
OpenAI と Anthropic を直接使う場合は?
**OpenAI。**Scale Tier のページには “Scale Tier traffic offers a 99.9% uptime SLA and prioritized compute.”(訳:Scale Tier のトラフィックには 99.9% の稼働率 SLA と優先的な計算資源が提供されます。)とあります。表ではこれに、“99% > 50 tokens per second”(訳:99% の時間で毎秒 50 トークン超)のようなモデルごとのレイテンシ SLA を組み合わせ、5 分ごとの p50 リクエストレイテンシで算出します。ページには “This offering is available to Enterprise customers”(訳:この提供は Enterprise 顧客向けです)とあり、各トークン単位は “for a minimum of 30 days”(訳:最低 30 日間)購入するもので、Scale Tier は GPT-5.6 より前にリリースされたモデルを対象とし、それ以降のモデルは Reserved Tier だとしています。標準の従量課金の利用に付く稼働率 SLA は見つかりませんでした。(openai.com が当サイトの取得ツールをブロックしたため、Internet Archive の 2026 年 11 月 7 日のキャプチャからページを読みました。)
**Anthropic。**公開されている商用規約(2025 年 6 月 17 日発効)には、SLA もサービスクレジットもありません。第 L.2 項はサービスを “AS IS” と “AS AVAILABLE”(訳:現状有姿、提供可能な範囲で)で提供し、利用が “WILL BE UNINTERRUPTED”(訳:中断されない)ことを保証しないとしています。エンタープライズ契約は異なる可能性がありますが、公開されていません。
SLA で得られないものは?
- **稼働そのもの。**クレジットは障害のあとに支払われます。ユーザーはそれでも障害を目にしています。
- **容量。**スロットリング(429)は、上記のどの稼働率の定義にも含まれません。Google は “quotas applied by the system”(訳:システムが適用する割り当て)を明示的に除外しています。429 エラーの対処法を参照してください。
- **速度。**秒間トークン数の目標があるのは、プロビジョンドまたは予約ティアだけです。標準のトラフィックでは、遅い回答も成功した回答です。レイテンシ指標の解説。
- **品質。**間違った回答を返す 200 レスポンスは、どこでもダウンタイムではありません。
- **多額のお金。**クレジットは 1 つのサービスの月額請求の一部で、たいてい上限があり、自分のログで申請しなければなりません。
SLA のない API の上にどう構築するか?
ほとんどのチームは、SLA のない従量課金の API の上にアプリを作っています。アプリが障害を前提にしていれば、それで問題ありません。
- **タイムアウトを設定する。**長い回答はストリーミングし、リクエストごとにクライアントのタイムアウトを設定して、固まった呼び出しを素早く失敗させます。ストリーミングガイド。
- 429 と 5XX ではバックオフとジッター付きでリトライし、リトライ回数に上限を設けます。エラーとリトライ。
- **2 つ目のプロバイダーを設定しておく。**OpenAI 互換の API なら、フォールバックは 2 つ目のベース URL、キー、モデル ID です。LLM API 間でフェイルオーバーする方法。
- **リクエスト ID、タイムスタンプ、ステータスコードを記録する。**SLA の申請に必要で、実際のエラー率を知るためにも必要です。
- **必要なところでは契約を結ぶ。**稼働率が絶対条件なら、書面の SLA があるプロバイダーのティアか、サービスレベルを取り決めた専用デプロイを使ってください。専用エンドポイントの前に計画すべきこと。
BroadNet Inference が向いているケース
BroadRouter は BroadNet 自身のウェブサイトです。BroadNet のセルフサービス API には、従量課金でもプランでも SLA がありません。利用規約(第 7.4 条)には “We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.”(訳:API を利用可能な状態に保ち、計測結果を公開するよう努めていますが、セルフサービスには可用性の約束はありません。)とあり、さらに “Service levels exist only in a separate written agreement.”(訳:サービスレベルは別途の書面契約でのみ定めます。)とあります。この点では Azure、AWS、Google のほうが多くを提供しています。クレジット付きの書面の稼働率目標です。BroadNet の従量課金のキーは 1 分あたり 30 リクエスト、同時実行 4 件までです。BroadNet 自身による推論基盤の説明は BroadNet の GPU ハードウェアと推論の提供方法にあり、当サイトはこれを約束ではなく BroadNet の説明として紹介しています。
ワークロードがリトライとフォールバックで回るなら、BroadNet の OpenAI 互換エンドポイントは設定するベース URL がもう 1 つ増えるだけです:https://inference.broadnet.ai/v1。契約で定めたサービスレベルが必要なら、それに頼る前に書面契約について BroadNet に問い合わせてください。API リファレンスを読むか、アカウントを作成してください。
