BroadRouter

LLM API のレート制限をプロバイダー別に比較:RPM・TPM・同時実行数

BroadNet Inference チーム · 約 8 分で読めます · 公開日 · 更新日

LLM API のレート制限は、上限の大きさだけでなく制限の対象も異なります。OpenAI、Anthropic、Gemini は利用階層ごとに毎分のリクエスト数とトークン数を制限し、DeepSeek と DeepInfra は同時リクエスト数を制限します。Groq と Cerebras の無料枠には 1 日の上限もあります。最初の有料階層で OpenAI と Anthropic は毎分数千リクエストを許可し、BroadNet の従量課金キーは毎分 30 です。

「LLM API レート制限」で検索すると、互いに食い違うブログの表が並びます。古い数字を書き写していることが多いためです。このページでは、すべての数字を 2026 年 11 月 15 日に各プロバイダーの公式ドキュメントから読み取り、どの階層・どのモデルに当てはまるかを明記しました。プロバイダーが数字を公開していない項目は空欄にしています。同じデータを無料クレジットやデータ利用条件と合わせてダウンロードできるデータセットとして使いたい場合は、LLM API の無料枠とレート制限をご覧ください。BroadRouter は BroadNet 自身のウェブサイトで、BroadNet の制限も表に含めています。

RPM、TPM、RPD、同時実行数とは何ですか?

レート制限は、ある時間枠のなかで送信できる量の上限です。数える対象はプロバイダーによって異なります。

制限 数える対象 特に影響が大きい場面
RPM(毎分のリクエスト数) 1 分間に開始したリクエスト 短い呼び出しを大量に送る場合(分類、embeddings のようなループ)
RPS(毎秒のリクエスト数) 同じものを 1 秒単位で 1 分の平均は低くても、まとめて一気に送る場合
TPM(毎分のトークン数) 1 分間に処理したトークン。入力(ITPM)と出力(OTPM)を分ける場合もある 長いプロンプトや長い文書を送る場合
RPD / TPD(1 日あたり) 1 日のリクエスト数またはトークン数 無料枠でバッチジョブを実行する場合
同時実行数 同じ瞬間に実行中のリクエスト リクエストが遅い場合(推論(reasoning)、長い出力、エージェント)

どの制限に先に引っかかるかは、リクエストの形によって決まります。同時実行数で制限される場合、スループットはリクエストの長さに左右されます。DeepInfra のドキュメントは、平均 1 秒のリクエストを同時に 200 本実行すると、おおよそ 12,000 RPM に相当するという例を挙げています。同じ同時実行数でも、30 秒かかる推論リクエストではその数分の一にしかなりません。

また、多くのプロバイダーは、公開している時間枠よりも短い時間枠で制限を適用しています。Anthropic は 60 RPM の制限について “might be enforced as 1 request per second”(訳:1 秒あたり 1 リクエストとして適用される場合がある)と説明しており、xAI は毎分の予算から毎秒の上限を算出しています(“RPM / 48, with a minimum of 2”、訳:RPM を 48 で割った値、最小 2)。

利用階層(Tier)はどのような仕組みですか?

大手のクローズドモデルのプロバイダーは、支払額が増えるにつれて上限を引き上げます。

プロバイダー 階層(2026-11-15 確認) 上がり方
OpenAI Free、Build、Launch、Grow Free:ユーザーが対象地域にいること、月間利用上限 USD 100(クレジットではなく利用額の上限)。その後はクレジット購入の累計 USD 5、USD 100、USD 500 で、月間利用上限はそれぞれ USD 500、USD 5,000、USD 200,000
Anthropic Evaluation、Start、Build、Scale、Custom 利用履歴とアカウントの状態に応じて自動で昇格。月間支出上限:Start USD 500、Build USD 1,000、Scale USD 200,000
Google Gemini API Free、Tier 1、Tier 2、Tier 3 Tier 1 は請求先アカウントの紐付けが必要。Tier 2 は支払い USD 100 と 3 日経過、Tier 3 は USD 1,000 と 30 日経過。Google は、記載のレート制限は “not guaranteed”(訳:保証されない)とし、上限引き上げの申請にも “no guarantees”(訳:一切保証しない)としています
Fireworks AI Tier 1〜Tier 4 Tier 1 は支払い方法の登録、その後は支出またはクレジットが USD 50、USD 500、USD 5,000。階層で上がるのは TPM で、RPM ではない
xAI Tier 0〜Tier 4、Enterprise 2026 年 1 月 1 日以降の累計支出:USD 0、50、250、1,000、5,000

実務上、2 つの点が重要です。Anthropic の支出上限に達すると、retry-after ヘッダーなしで HTTP 429 が返るため、月がリセットされるか階層が上がるまで自動リトライは失敗し続けます。また、Anthropic の入力上限に数えられるのはキャッシュされていない入力だけです。キャッシュの読み取りは数えられないので、キャッシュ率が高いほど実際のスループットは上がります。

プロバイダー別 LLM API レート制限:エントリー階層

各プロバイダーの無料枠または最初の有料階層の数字を、それぞれのレート制限ページから取りました。ダッシュは、その制限の数字がページに公開されていないという意味で、無制限という意味ではありません。

プロバイダー 階層とモデル RPM TPM 1 日あたり 同時実行数
OpenAI Build、Astra・Sol・Terra 5,000 1,000,000 – –
OpenAI Build、Luna 5,000 2,000,000 – –
Anthropic Start、Sonnet 5.5・Opus 5.5・Haiku 5.5 4,000 入力 2,000,000(キャッシュなし)、出力 400,000 – –
Google Gemini API Free、Gemini Decision 1(ページ上で無料枠の数字があるのはこのモデルのみ) 200 50,000 10,000 リクエスト –
Google Gemini API Tier 1、Gemini Decision 1 1,500 1,000,000 50,000 リクエスト –
Groq 無料プランの表、openai/gpt-oss-120b・qwen/qwen3.8-27b 30 8,000 1,000 リクエスト、200,000 トークン –
Groq Developer プランの表、openai/gpt-oss-120b・qwen/qwen3.8-27b 1,000 250,000 500,000 リクエスト –
Cerebras Free Trial、gpt-oss-120b 5 キャッシュなし 30,000(合計 90,000) 1,000,000 トークン –
Cerebras Developer(従量課金)、gpt-oss-120b 1,000 キャッシュなし 500,000(合計 1,500,000) 上限なし –
Fireworks AI 支払い方法・クレジットなし、アカウント全体 10 – – –
Fireworks AI 支払い方法・クレジットあり、アカウント全体 6,000 支出階層で決まる – –
DeepInfra デフォルト、公開モデルごと – – – 200
DeepSeek デフォルト、deepseek-flash (DeepSeek-V4.1-Flash-1017)、アカウントごと – – – 2,500
DeepSeek デフォルト、deepseek-v4-pro (DeepSeek-V4-Pro-0813)、アカウントごと – – – 500
xAI Tier 0、grok-4.7 (150 RPS) – 50,000,000 – –
OpenRouter :free モデル、クレジット購入 USD 10 未満 20 – 50 リクエスト –
OpenRouter :free モデル、クレジット購入 USD 10 以上 20 – 1,000 リクエスト –
Cohere トライアルキー、Command A 20 – 月 1,000 回の呼び出し –
Cohere 本番キー、Command A 500 – – –
BroadNet Inference 従量課金キー、全モデル 30 – – 4
BroadNet Inference 時間制キー、Gemma 4 VL 26B 120 300,000 – ストリーム 1 本
BroadNet Inference 定額プランのセッション、DeepSeek V4.1 Flash – トークン計量なし – 同時に 1 リクエスト

各行についての補足:

  • Groq。 ページには “Free Plan Limits”(訳:無料プランの制限。初期表示)と “Developer Plan Limits”(訳:Developer プランの制限)の 2 つのタブがあります。その上の文章は数字を “the base limits for the Developer plan”(訳:Developer プランの基本制限)と呼んでいますが、これは 2 つ目のタブにだけ当てはまります。上の表には両方を載せています。組織ごとの正確な上限は制限ページで確認してください。
  • Google。 制限は API キー単位ではなくプロジェクト単位で適用されます。ほとんどのモデルの数字は AI Studio の中でしか表示されません。Gemini Decision 1 は Google の Decisions API 向けの分類モデルで、テキストではなく確率を返します。そのため、この数字から Gemini のチャットモデルの制限はほとんどわかりません。
  • Mistral と Together AI は数字を公開していません。Mistral は表を公開する代わりにコンソールで各自の制限を表示し、無料の API アクセスは提供していません(“It doesn’t include API access”、訳:API アクセスは含まれない)。Together は、需要が高いときに “may limit requests”(訳:リクエストを制限する場合がある)とし、人気モデルには個別の制限を設けることがあるとしています。
  • OpenRouter。 有料版のモデルには “no platform-level request cap”(訳:プラットフォーム単位のリクエスト上限はない)とされていますが、各モデルの背後にいるプロバイダーにはそれぞれの制限があります。
  • DeepSeek。 混雑時、DeepSeek は空行や : keep-alive コメントで接続を維持し、10 分以内に推論が始まらなければ接続を閉じます。これを踏まえてクライアントのタイムアウトを設定してください。

正直なところ、BroadNet の制限はどの程度ですか?

大量処理の用途には低めです。BroadNet の従量課金キーは毎分 30 リクエスト、同時実行 4 までですが、OpenAI と Anthropic は最初の有料階層で毎分数千リクエストを許可し、Fireworks もカードを登録すれば 6,000 を許可します。1 つのキーで毎分数千件の短いリクエストを流す必要があるなら、大手プロバイダーの有料階層のほうが適しています。

一方で、次のような形のワークロードには合います。

  • エージェントとチャット。 エージェントは 1 回に 1 リクエストを送り、応答を待ちます。同時実行 4 なら 1 つのキーで数個のエージェントをまかなえます。アプリやチームメンバーごとにキーを分ければ負荷を分散できます。
  • 定額プラン。 Full Moon、Orbit、Meteor のセッションにはトークン計量も 1 日・1 週間の上限もありませんが、同時に 1 リクエストを一般的な速度 毎秒約 100 トークン で実行します。エージェントを並列で動かすには、エージェントごとにセッションを購入してください。必要なセッション数を参照してください。
  • 時間制キー。 $0.50 で、Gemma 4 VL 26B のストリーム 1 本を 1 時間、毎分 120 リクエスト・300,000 トークンで利用できます。

BroadNet の制限はすべて、超過すると HTTP 429 を返します。API リファレンスには retry-after の待ち時間が記載されていないので、ジッター付きの上限ありバックオフを使ってください。

レート制限を踏まえて、どのように計画すればよいですか?

  1. 実際に効いてくる制限を特定します。 ピーク時のトラフィックについて、毎分のリクエスト数、毎分のトークン数、同時実行中のリクエスト数を見積もります。LLM レート制限計算ツールを使えば、リクエストのサイズとレイテンシからこれらを計算できます。
  2. クライアント側で流量を絞ります。 公開されている上限に合わせたトークンバケットを使えば、429 の大半を避けられます。Anthropic もサーバー側で同じアルゴリズムを使っています。
  3. ヘッダーを読みます。 Anthropic は anthropic-ratelimit-* ヘッダーを、Groq は x-ratelimit-* ヘッダーを返します。Groq のリクエスト数のヘッダーは “always refers to Requests Per Day”(訳:常に 1 日あたりのリクエスト数を指す)です。retry-after がある場合はそれに従ってください。
  4. ジッター付きバックオフでリトライし、回数に上限を設けます。 429 エラーへの対処に動作するコードがあり、エラーとリトライのガイドで BroadNet のステータスコードを説明しています。
  5. 変わらないプレフィックスをキャッシュします。 Anthropic では、キャッシュされた入力は入力上限に数えられません。どのプロバイダーでも、キャッシュはコストを下げます。
  6. 一括ジョブを分散させます。 Anthropic にはランプ制限もあり、トラフィックが急増すると上限に達していなくても 429 が返ることがあります。バッチジョブはゆっくり立ち上げてください。Batch API がない場合は、再開可能なバッチランナーでジョブを制限内に収められます。
  7. 引き上げを申請します。 DeepSeek、DeepInfra、Mistral、Anthropic はいずれも、上限引き上げを申請する方法を案内しています。

BroadNet Inference が向いている用途

BroadRouter は BroadNet 自身のウェブサイトです。このセクションはその点を踏まえてお読みください。1 つのキーで非常に高いリクエストレートを出したい場合、BroadNet Inference は適した選択肢ではありません。公開されているキーごとの制限は、OpenAI、Anthropic、Fireworks、Cerebras の有料階層を大きく下回ります。向いているのは、一度に数件のリクエストしか送らないエージェントやチャットのワークロードで、特に定額プランでは、忙しく動くエージェントでもトークン計量や 1 日の上限がありません。新規アカウントには $5 の初回クレジットがあり、Gemma 4 VL 26B、2 つの文字起こしモデル、Gemma の時間制キーに使えます。DeepSeek、GLM、Qwen にはチャージが必要です。セルフサービスには SLA がありません。API の制限を読むか、プランを比較してください。

よくある質問

OpenAI API の最初の有料階層のレート制限はどれくらいですか?

OpenAI のレート制限ガイド(2026 年 11 月 15 日確認)によると、Build 階層はクレジット購入の累計が USD 5 で、月間利用上限は USD 500 です。Build では Astra、Sol、Terra が 5,000 RPM・1,000,000 TPM、Luna が 5,000 RPM・2,000,000 TPM です。制限は組織単位とプロジェクト単位で適用されます。

Anthropic(Claude)API のレート制限はどれくらいですか?

Start 階層では、Claude Sonnet 5.5、Opus 5.5、Haiku 5.5 がそれぞれ 4,000 RPM、毎分 2,000,000 入力トークン、毎分 400,000 出力トークンです(2026 年 11 月 15 日確認)。入力の上限に数えられるのはキャッシュされていない入力だけです。新しい組織は、より低い Evaluation 階層から始まる場合があります。

Groq の無料枠のレート制限はどれくらいですか?

Groq が公開している表(2026 年 11 月 15 日確認)では、openai/gpt-oss-120b と qwen/qwen3.8-27b は毎分 30 リクエスト、1 日 1,000 リクエスト、毎分 8,000 トークン、1 日 200,000 トークンです。Groq は、組織ごとの正確な上限は制限ページで確認するよう案内しています。Developer プランの表では、同じモデルが毎分 1,000 リクエスト、1 日 500,000 リクエスト、毎分 250,000 トークンです。

DeepSeek API にレート制限はありますか?

はい、同時実行数という形であります。DeepSeek はアカウントごとに deepseek-flash で同時 2,500 リクエスト、deepseek-v4-pro で 500 リクエストまで許可し、それを超えると HTTP 429 を返します。申請すれば追加料金なしで上限を引き上げられます(2026 年 11 月 15 日確認)。

RPM、TPM、同時実行数の違いは何ですか?

RPM は 1 分間に開始されたリクエストの数です。TPM は 1 分間に処理されたトークンの数で、入力と出力を分けて数える場合もあります。同時実行数は同じ瞬間に実行中のリクエストの数なので、RPM が低くても長いリクエストがあれば上限に達します。

BroadNet Inference のレート制限はどれくらいですか?

従量課金キーは毎分 30 リクエスト、同時実行 4 までです。時間制キーは Gemma 4 VL 26B で毎分 120 リクエスト、毎分 300,000 トークン、ストリーム 1 本です。定額プランのセッションは同時に 1 リクエストを実行します。いずれも超過すると HTTP 429 を返します。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く