BroadRouter
始める

LLM API の支出管理:予算、キーの制限、ループ対策

BroadNet Inference チーム · 約 5 分で読めます · 公開日 · 更新日

LLM API の支出は層ごとに管理します。アカウントの上限となる前払い残高、サーバーの IP に限定したアプリごとのキー、全リクエストへの max_tokens とステップ数の上限、超過前にジョブを止めるコード内の予算です。キーごとにトークンを記録し、自分の数値でアラートを出します。定額プランと時間制キーなら最悪の場合も限定されます。

LLM の請求で驚く原因の大半は同じです。誰も見ていないところで、何かが API を呼び続けていたのです。リトライのループ、終われなくなったエージェント、公開リポジトリに漏れたキーなどです。予算アラートは事後に知らせてくれるだけです。この記事では、アカウントから個々のリクエストまで、層ごとに支出管理を組み立て、どの部分を BroadNet Inference が担い、どの部分をコードで追加するかを示します。

アラートだけでは不十分なのはなぜか?

アラートは、利用量が記録されたあとに支出をしきい値と比べるものです。エージェントのループは 1 分間に数十件のリクエストを送れます。メールが届くころには、お金はもう出ていっています。アラートは最後の安全網として使い、厳格な停止はリクエストを送る場所に置いてください。

LLM の支出管理にはどんな層があるか?

層 管理手段 防ぐもの 設定する場所
アカウント 前払い残高 チャージした額を超える支出 プロバイダーのアカウント
キー アプリやエージェントごとに 1 本のキー 1 回の漏えいですべてを失うこと プロバイダーのポータル
キー IP 許可リスト 盗まれたキーの他所での利用 プロバイダーのポータル
リクエスト max_tokens、reasoning_effort 1 回の巨大な回答 自分のコード
ジョブ ステップ数の上限、リトライの上限、ループ検出 暴走するエージェント 自分のコード
ジョブ タスクごと・1 日ごとの累計予算 多数の呼び出しにわたるじわじわとした流出 自分のコードまたはプロキシ
レポート トークンのログとアラート 気づかないうちの変化 自分のログ
料金 定額プランまたは時間制キー トークンメーターそのもの プランの選択

アカウント層:前払い残高でどう支出を制限するか?

BroadNet Inference の従量課金のキーは、前払いのアカウント残高から引き落とされます。新規アカウントにはカード登録なしで $5 のクレジットが付きます。従量課金の利用枠を使い切るとリクエストは 401 を返し、残高でまかなえない購入(時間制キーなど)は 402 insufficient_balance を返します。どちらもリトライの対象ではなく、停止の合図として扱ってください。BroadNet のエラーリファレンスは 429 の原因のひとつにも支出上限を挙げているので、429 をリトライする前にはエラー本文を読んでください。すべてのエラーコードとバックオフによる 429 の対処法。

残高が外側の上限です。1 年分ではなく、今月失っても構わない額をチャージしてください。その額を決めるには、まず想定トラフィックを LLM API コスト計算ツールで計算してください。

キー層:キーが漏れたときの被害をどう抑えるか?

API キーは支出の権限です。持っている人は誰でもあなたの残高を使えます。キーごとの影響範囲を限定してください。

  1. **アプリ、エージェント、環境ごとに 1 本のキー。**BroadNet はアカウントあたり最大 10 本の有効なキーを持て、各キーの有効期間は最長 1 年です。ログでどのキーが使ったかわかるように名前を付けてください。
  2. **キーをサーバーに限定する。**送信元 IP または CIDR 範囲を IP 許可リストに追加します(最大 32 件)。それ以外のアドレスからのリクエストは 403 になります。
  3. **すばやく失効させる。**失効と許可リストの変更は、5 秒以内に新しいリクエストに反映されます。
  4. **ポータルの認証情報をサーバーに置かない。**ポータルの認証情報はキーの作成や購入ができます。推論キーはモデルを呼び出せるだけです。

IP 許可リストで API キーを保護する。

リクエスト層:すべての回答にどう上限を設けるか?

すべての呼び出しで max_tokens を設定してください。推論モデル(DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B)では 1,000 以上にしてください。推論が同じ予算を共有するため、値が低すぎると空の回答が返り、それでも料金はかかります。簡単なタスクでは reasoning_effort を下げてください。推論トークンの課金の仕組み。

ジョブ層:暴走するエージェントのループをどう止めるか?

暴走するループには見分けやすい兆候があります。同じツール呼び出しの繰り返し、毎ターン増えていくコンテキスト、上限なしでリトライされるエラーです。クライアントをガードで包んでください。

import json, os, urllib.request
from openai import OpenAI

# Per-1M prices from BroadNet's machine-readable rate card
card = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))
m = next(x for x in card["models"] if x["id"] == "broadnet/deepseek-v4.1-flash")
PRICE = {"in": m["input_per_m"], "cached": m["cached_input_per_m"], "out": m["output_per_m"]}
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"], max_retries=3)

class BudgetExceeded(Exception): pass

class Guard:
    def __init__(self, budget_usd, max_steps=40):
        self.budget, self.max_steps, self.spent, self.steps, self.last = budget_usd, max_steps, 0.0, 0, []

    def call(self, **kw):
        self.steps += 1
        if self.steps > self.max_steps: raise BudgetExceeded("step cap")
        if self.spent >= self.budget: raise BudgetExceeded("budget")
        r = client.chat.completions.create(max_tokens=kw.pop("max_tokens", 4000), **kw)
        u = r.usage
        cached = (u.prompt_tokens_details.cached_tokens or 0) if u.prompt_tokens_details else 0
        self.spent += ((u.prompt_tokens - cached) * PRICE["in"] + cached * PRICE["cached"]
                       + u.completion_tokens * PRICE["out"]) / 1e6
        calls = [(t.function.name, t.function.arguments) for t in (r.choices[0].message.tool_calls or [])]
        self.last = (self.last + [calls])[-3:]
        if calls and len(self.last) == 3 and all(c == calls for c in self.last):
            raise BudgetExceeded("same tool call three times")
        return r

このガードは料金をハードコードせず料金表から読むので、料金が変わっても正しく動きます。call() には、料金を計算したのと同じモデルを渡してください。max_retries は小さくしておきます。OpenAI SDK はすでに 429 と 5xx をリトライしており、リトライのたびに再度課金されるからです。

チームで使う場合は、同じチェックを共有プロキシで動かし、すべてのサービスが 1 つの 1 日予算から引き落とすようにします。リトライはレート制限にもぶつかります。キーで実際に 1 分あたり何回呼び出せるかはレート制限計算ツールで確認できます。

レポート:何を記録し、何でアラートを出すべきか?

すべてのリクエストについて、キーの別名、機能またはエージェントの名前、モデル、prompt_tokens、prompt_tokens_details.cached_tokens、completion_tokens、ステータス、X-Request-ID を記録します。ストリーミングでは stream_options: {"include_usage": true} を設定してください。そうしないと usage は届きません(ストリーミングガイド)。

そのログから、次の場合にアラートを出します。

  • キーごとの 1 日の費用が、コスト見積もりで想定した数字を超えたとき
  • タスクあたりのトークン数が中央値の 3 倍を超えたとき
  • キャッシュの割合が下がったとき(トラフィックが増えなくても費用が上がります)
  • 429 や 5xx レスポンスの割合が上がったとき(リトライが起きていることを意味します)

BroadNet が保持するのは、所要時間、トークン数、費用などのコンテンツを含まない記録で、プロンプトは保持しません。そのため、機能ごとの詳細は自分のログにしか残りません。データポリシーで禁止されているなら、プロンプトの内容は記録しないでください。ユーザーごと・機能ごとの費用がわかる利用ログの作り方。

料金層:定額が予算に勝るのはどんなときか?

もっとも確実な支出管理は、変わらない料金です。

  • プランのセッション:月 $60(Full Moon)、週 $15(Orbit)、または 1 時間 $1(Meteor)で、DeepSeek V4.1 Flash を無制限に、一度に 1 リクエストずつ使えます。プランのキーでのリクエストが残高から引き落とされることはありません。
  • 時間制キー:$0.50 で Gemma 4 VL 26B を 1 ストリーム 1 時間使えます。サーバーの外に出ていくキーに向いています。時間制キーの解説。

プラン上のループで失うのはお金ではなく時間です。それでもステップ数の上限は必要です。止まったエージェントがセッションをふさぎ、他の作業ができなくなるからです。プランが従量課金より安くなるかは利用量次第です。定額とトークン課金の比較計算ツールで、自分のトークン構成での損益分岐点がわかります。

トークン単価が知らないうちに上がることもあります。アーカイブされた 52 件の LLM API 値上げで、どれくらいの頻度で、どのプロバイダーで、どれだけ上がったかを確認できます。

簡単なチェックリスト

  1. 月の上限に合わせた額の前払い残高。
  2. アプリごとに名前付きのキーを 1 本、IP 許可リスト付きで。
  3. すべてのリクエストに max_tokens。
  4. すべてのエージェントにステップ数の上限、リトライの上限、繰り返し呼び出しの検出。
  5. ジョブごとの累計費用を、呼び出しの前に毎回チェック。
  6. リクエストごとのトークンのログと、しきい値でのアラート。
  7. 利用が継続的な場所や、キーが外部に露出する場所では、定額プランか時間制キー。

BroadNet Inference が向いているケース

BroadNet が提供するのはアカウント層とキー層です。前払い残高、個別のキー、数秒で失効できる IP 許可リスト、そして定額プランと時間制キーです。この記事のジョブ単位の予算は提供していません。それは自分のコードかプロキシに置くものです。多数のプロバイダーにまたがるチームごとの予算が必要なら、すべての前にゲートウェイを置くのが適切です。料金を見る。

よくある質問

LLM API に利用上限を設定するにはどうすればよいですか?

プロバイダーの前払い残高や支出上限を外側の上限として使い、そのうえで各リクエストの前に、ジョブごと・1 日ごとの予算を自分のコードで強制します。プロバイダーの上限やアラートは、高速に回るループに追いつかないことがあるためです。

AI エージェントが巨額の請求を出さないようにするには?

タスクあたりのステップ数とリトライ回数に上限を設け、すべてのリクエストに max_tokens を設定し、同じツール呼び出しの繰り返しを検出し、累計費用が予算を超えたらジョブを止めます。

残高がなくなって 401 や 402 エラーが出たら、リトライすべきですか?

いいえ。BroadNet では、従量課金の利用枠を使い切ると 401 が返り、402 insufficient_balance は時間制キーなどの購入を残高でまかなえないことを意味します。まずアカウントにチャージしてください。バックオフ付きでリトライすべきなのは 429 と 5xx です。

LLM の支出を追跡するには何を記録すべきですか?

リクエストごとに、キーの別名、機能またはエージェントの名前、モデル、prompt_tokens、cached_tokens、completion_tokens、ステータスコード、リクエスト ID を記録します。料金ファイルの単価を掛ければ費用になります。

定額プランは支出管理の一種ですか?

はい。プランのセッションや時間制キーは、何トークン使っても同じ料金なので、ループで失うのはお金ではなく時間です。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く