「LLM API レート制限」で検索すると、互いに食い違うブログの表が並びます。古い数字を書き写していることが多いためです。このページでは、すべての数字を 2026 年 11 月 15 日に各プロバイダーの公式ドキュメントから読み取り、どの階層・どのモデルに当てはまるかを明記しました。プロバイダーが数字を公開していない項目は空欄にしています。同じデータを無料クレジットやデータ利用条件と合わせてダウンロードできるデータセットとして使いたい場合は、LLM API の無料枠とレート制限をご覧ください。BroadRouter は BroadNet 自身のウェブサイトで、BroadNet の制限も表に含めています。
RPM、TPM、RPD、同時実行数とは何ですか?
レート制限は、ある時間枠のなかで送信できる量の上限です。数える対象はプロバイダーによって異なります。
| 制限 | 数える対象 | 特に影響が大きい場面 |
|---|---|---|
| RPM(毎分のリクエスト数) | 1 分間に開始したリクエスト | 短い呼び出しを大量に送る場合(分類、embeddings のようなループ) |
| RPS(毎秒のリクエスト数) | 同じものを 1 秒単位で | 1 分の平均は低くても、まとめて一気に送る場合 |
| TPM(毎分のトークン数) | 1 分間に処理したトークン。入力(ITPM)と出力(OTPM)を分ける場合もある | 長いプロンプトや長い文書を送る場合 |
| RPD / TPD(1 日あたり) | 1 日のリクエスト数またはトークン数 | 無料枠でバッチジョブを実行する場合 |
| 同時実行数 | 同じ瞬間に実行中のリクエスト | リクエストが遅い場合(推論(reasoning)、長い出力、エージェント) |
どの制限に先に引っかかるかは、リクエストの形によって決まります。同時実行数で制限される場合、スループットはリクエストの長さに左右されます。DeepInfra のドキュメントは、平均 1 秒のリクエストを同時に 200 本実行すると、おおよそ 12,000 RPM に相当するという例を挙げています。同じ同時実行数でも、30 秒かかる推論リクエストではその数分の一にしかなりません。
また、多くのプロバイダーは、公開している時間枠よりも短い時間枠で制限を適用しています。Anthropic は 60 RPM の制限について “might be enforced as 1 request per second”(訳:1 秒あたり 1 リクエストとして適用される場合がある)と説明しており、xAI は毎分の予算から毎秒の上限を算出しています(“RPM / 48, with a minimum of 2”、訳:RPM を 48 で割った値、最小 2)。
利用階層(Tier)はどのような仕組みですか?
大手のクローズドモデルのプロバイダーは、支払額が増えるにつれて上限を引き上げます。
| プロバイダー | 階層(2026-11-15 確認) | 上がり方 |
|---|---|---|
| OpenAI | Free、Build、Launch、Grow | Free:ユーザーが対象地域にいること、月間利用上限 USD 100(クレジットではなく利用額の上限)。その後はクレジット購入の累計 USD 5、USD 100、USD 500 で、月間利用上限はそれぞれ USD 500、USD 5,000、USD 200,000 |
| Anthropic | Evaluation、Start、Build、Scale、Custom | 利用履歴とアカウントの状態に応じて自動で昇格。月間支出上限:Start USD 500、Build USD 1,000、Scale USD 200,000 |
| Google Gemini API | Free、Tier 1、Tier 2、Tier 3 | Tier 1 は請求先アカウントの紐付けが必要。Tier 2 は支払い USD 100 と 3 日経過、Tier 3 は USD 1,000 と 30 日経過。Google は、記載のレート制限は “not guaranteed”(訳:保証されない)とし、上限引き上げの申請にも “no guarantees”(訳:一切保証しない)としています |
| Fireworks AI | Tier 1〜Tier 4 | Tier 1 は支払い方法の登録、その後は支出またはクレジットが USD 50、USD 500、USD 5,000。階層で上がるのは TPM で、RPM ではない |
| xAI | Tier 0〜Tier 4、Enterprise | 2026 年 1 月 1 日以降の累計支出:USD 0、50、250、1,000、5,000 |
実務上、2 つの点が重要です。Anthropic の支出上限に達すると、retry-after ヘッダーなしで HTTP 429 が返るため、月がリセットされるか階層が上がるまで自動リトライは失敗し続けます。また、Anthropic の入力上限に数えられるのはキャッシュされていない入力だけです。キャッシュの読み取りは数えられないので、キャッシュ率が高いほど実際のスループットは上がります。
プロバイダー別 LLM API レート制限:エントリー階層
各プロバイダーの無料枠または最初の有料階層の数字を、それぞれのレート制限ページから取りました。ダッシュは、その制限の数字がページに公開されていないという意味で、無制限という意味ではありません。
| プロバイダー | 階層とモデル | RPM | TPM | 1 日あたり | 同時実行数 |
|---|---|---|---|---|---|
| OpenAI | Build、Astra・Sol・Terra | 5,000 | 1,000,000 | – | – |
| OpenAI | Build、Luna | 5,000 | 2,000,000 | – | – |
| Anthropic | Start、Sonnet 5.5・Opus 5.5・Haiku 5.5 | 4,000 | 入力 2,000,000(キャッシュなし)、出力 400,000 | – | – |
| Google Gemini API | Free、Gemini Decision 1(ページ上で無料枠の数字があるのはこのモデルのみ) | 200 | 50,000 | 10,000 リクエスト | – |
| Google Gemini API | Tier 1、Gemini Decision 1 | 1,500 | 1,000,000 | 50,000 リクエスト | – |
| Groq | 無料プランの表、openai/gpt-oss-120b・qwen/qwen3.8-27b | 30 | 8,000 | 1,000 リクエスト、200,000 トークン | – |
| Groq | Developer プランの表、openai/gpt-oss-120b・qwen/qwen3.8-27b | 1,000 | 250,000 | 500,000 リクエスト | – |
| Cerebras | Free Trial、gpt-oss-120b | 5 | キャッシュなし 30,000(合計 90,000) | 1,000,000 トークン | – |
| Cerebras | Developer(従量課金)、gpt-oss-120b | 1,000 | キャッシュなし 500,000(合計 1,500,000) | 上限なし | – |
| Fireworks AI | 支払い方法・クレジットなし、アカウント全体 | 10 | – | – | – |
| Fireworks AI | 支払い方法・クレジットあり、アカウント全体 | 6,000 | 支出階層で決まる | – | – |
| DeepInfra | デフォルト、公開モデルごと | – | – | – | 200 |
| DeepSeek | デフォルト、deepseek-flash (DeepSeek-V4.1-Flash-1017)、アカウントごと |
– | – | – | 2,500 |
| DeepSeek | デフォルト、deepseek-v4-pro (DeepSeek-V4-Pro-0813)、アカウントごと |
– | – | – | 500 |
| xAI | Tier 0、grok-4.7 (150 RPS) | – | 50,000,000 | – | – |
| OpenRouter | :free モデル、クレジット購入 USD 10 未満 | 20 | – | 50 リクエスト | – |
| OpenRouter | :free モデル、クレジット購入 USD 10 以上 | 20 | – | 1,000 リクエスト | – |
| Cohere | トライアルキー、Command A | 20 | – | 月 1,000 回の呼び出し | – |
| Cohere | 本番キー、Command A | 500 | – | – | – |
| BroadNet Inference | 従量課金キー、全モデル | 30 | – | – | 4 |
| BroadNet Inference | 時間制キー、Gemma 4 VL 26B | 120 | 300,000 | – | ストリーム 1 本 |
| BroadNet Inference | 定額プランのセッション、DeepSeek V4.1 Flash | – | トークン計量なし | – | 同時に 1 リクエスト |
各行についての補足:
- Groq。 ページには “Free Plan Limits”(訳:無料プランの制限。初期表示)と “Developer Plan Limits”(訳:Developer プランの制限)の 2 つのタブがあります。その上の文章は数字を “the base limits for the Developer plan”(訳:Developer プランの基本制限)と呼んでいますが、これは 2 つ目のタブにだけ当てはまります。上の表には両方を載せています。組織ごとの正確な上限は制限ページで確認してください。
- Google。 制限は API キー単位ではなくプロジェクト単位で適用されます。ほとんどのモデルの数字は AI Studio の中でしか表示されません。Gemini Decision 1 は Google の Decisions API 向けの分類モデルで、テキストではなく確率を返します。そのため、この数字から Gemini のチャットモデルの制限はほとんどわかりません。
- Mistral と Together AI は数字を公開していません。Mistral は表を公開する代わりにコンソールで各自の制限を表示し、無料の API アクセスは提供していません(“It doesn’t include API access”、訳:API アクセスは含まれない)。Together は、需要が高いときに “may limit requests”(訳:リクエストを制限する場合がある)とし、人気モデルには個別の制限を設けることがあるとしています。
- OpenRouter。 有料版のモデルには “no platform-level request cap”(訳:プラットフォーム単位のリクエスト上限はない)とされていますが、各モデルの背後にいるプロバイダーにはそれぞれの制限があります。
- DeepSeek。 混雑時、DeepSeek は空行や
: keep-aliveコメントで接続を維持し、10 分以内に推論が始まらなければ接続を閉じます。これを踏まえてクライアントのタイムアウトを設定してください。
正直なところ、BroadNet の制限はどの程度ですか?
大量処理の用途には低めです。BroadNet の従量課金キーは毎分 30 リクエスト、同時実行 4 までですが、OpenAI と Anthropic は最初の有料階層で毎分数千リクエストを許可し、Fireworks もカードを登録すれば 6,000 を許可します。1 つのキーで毎分数千件の短いリクエストを流す必要があるなら、大手プロバイダーの有料階層のほうが適しています。
一方で、次のような形のワークロードには合います。
- エージェントとチャット。 エージェントは 1 回に 1 リクエストを送り、応答を待ちます。同時実行 4 なら 1 つのキーで数個のエージェントをまかなえます。アプリやチームメンバーごとにキーを分ければ負荷を分散できます。
- 定額プラン。 Full Moon、Orbit、Meteor のセッションにはトークン計量も 1 日・1 週間の上限もありませんが、同時に 1 リクエストを一般的な速度 毎秒約 100 トークン で実行します。エージェントを並列で動かすには、エージェントごとにセッションを購入してください。必要なセッション数を参照してください。
- 時間制キー。 $0.50 で、Gemma 4 VL 26B のストリーム 1 本を 1 時間、毎分 120 リクエスト・300,000 トークンで利用できます。
BroadNet の制限はすべて、超過すると HTTP 429 を返します。API リファレンスには retry-after の待ち時間が記載されていないので、ジッター付きの上限ありバックオフを使ってください。
レート制限を踏まえて、どのように計画すればよいですか?
- 実際に効いてくる制限を特定します。 ピーク時のトラフィックについて、毎分のリクエスト数、毎分のトークン数、同時実行中のリクエスト数を見積もります。LLM レート制限計算ツールを使えば、リクエストのサイズとレイテンシからこれらを計算できます。
- クライアント側で流量を絞ります。 公開されている上限に合わせたトークンバケットを使えば、429 の大半を避けられます。Anthropic もサーバー側で同じアルゴリズムを使っています。
- ヘッダーを読みます。 Anthropic は
anthropic-ratelimit-*ヘッダーを、Groq はx-ratelimit-*ヘッダーを返します。Groq のリクエスト数のヘッダーは “always refers to Requests Per Day”(訳:常に 1 日あたりのリクエスト数を指す)です。retry-afterがある場合はそれに従ってください。 - ジッター付きバックオフでリトライし、回数に上限を設けます。 429 エラーへの対処に動作するコードがあり、エラーとリトライのガイドで BroadNet のステータスコードを説明しています。
- 変わらないプレフィックスをキャッシュします。 Anthropic では、キャッシュされた入力は入力上限に数えられません。どのプロバイダーでも、キャッシュはコストを下げます。
- 一括ジョブを分散させます。 Anthropic にはランプ制限もあり、トラフィックが急増すると上限に達していなくても 429 が返ることがあります。バッチジョブはゆっくり立ち上げてください。Batch API がない場合は、再開可能なバッチランナーでジョブを制限内に収められます。
- 引き上げを申請します。 DeepSeek、DeepInfra、Mistral、Anthropic はいずれも、上限引き上げを申請する方法を案内しています。
BroadNet Inference が向いている用途
BroadRouter は BroadNet 自身のウェブサイトです。このセクションはその点を踏まえてお読みください。1 つのキーで非常に高いリクエストレートを出したい場合、BroadNet Inference は適した選択肢ではありません。公開されているキーごとの制限は、OpenAI、Anthropic、Fireworks、Cerebras の有料階層を大きく下回ります。向いているのは、一度に数件のリクエストしか送らないエージェントやチャットのワークロードで、特に定額プランでは、忙しく動くエージェントでもトークン計量や 1 日の上限がありません。新規アカウントには $5 の初回クレジットがあり、Gemma 4 VL 26B、2 つの文字起こしモデル、Gemma の時間制キーに使えます。DeepSeek、GLM、Qwen にはチャージが必要です。セルフサービスには SLA がありません。API の制限を読むか、プランを比較してください。
