LLM の請求で驚く原因の大半は同じです。誰も見ていないところで、何かが API を呼び続けていたのです。リトライのループ、終われなくなったエージェント、公開リポジトリに漏れたキーなどです。予算アラートは事後に知らせてくれるだけです。この記事では、アカウントから個々のリクエストまで、層ごとに支出管理を組み立て、どの部分を BroadNet Inference が担い、どの部分をコードで追加するかを示します。
アラートだけでは不十分なのはなぜか?
アラートは、利用量が記録されたあとに支出をしきい値と比べるものです。エージェントのループは 1 分間に数十件のリクエストを送れます。メールが届くころには、お金はもう出ていっています。アラートは最後の安全網として使い、厳格な停止はリクエストを送る場所に置いてください。
LLM の支出管理にはどんな層があるか?
| 層 | 管理手段 | 防ぐもの | 設定する場所 |
|---|---|---|---|
| アカウント | 前払い残高 | チャージした額を超える支出 | プロバイダーのアカウント |
| キー | アプリやエージェントごとに 1 本のキー | 1 回の漏えいですべてを失うこと | プロバイダーのポータル |
| キー | IP 許可リスト | 盗まれたキーの他所での利用 | プロバイダーのポータル |
| リクエスト | max_tokens、reasoning_effort |
1 回の巨大な回答 | 自分のコード |
| ジョブ | ステップ数の上限、リトライの上限、ループ検出 | 暴走するエージェント | 自分のコード |
| ジョブ | タスクごと・1 日ごとの累計予算 | 多数の呼び出しにわたるじわじわとした流出 | 自分のコードまたはプロキシ |
| レポート | トークンのログとアラート | 気づかないうちの変化 | 自分のログ |
| 料金 | 定額プランまたは時間制キー | トークンメーターそのもの | プランの選択 |
アカウント層:前払い残高でどう支出を制限するか?
BroadNet Inference の従量課金のキーは、前払いのアカウント残高から引き落とされます。新規アカウントにはカード登録なしで $5 のクレジットが付きます。従量課金の利用枠を使い切るとリクエストは 401 を返し、残高でまかなえない購入(時間制キーなど)は 402 insufficient_balance を返します。どちらもリトライの対象ではなく、停止の合図として扱ってください。BroadNet のエラーリファレンスは 429 の原因のひとつにも支出上限を挙げているので、429 をリトライする前にはエラー本文を読んでください。すべてのエラーコードとバックオフによる 429 の対処法。
残高が外側の上限です。1 年分ではなく、今月失っても構わない額をチャージしてください。その額を決めるには、まず想定トラフィックを LLM API コスト計算ツールで計算してください。
キー層:キーが漏れたときの被害をどう抑えるか?
API キーは支出の権限です。持っている人は誰でもあなたの残高を使えます。キーごとの影響範囲を限定してください。
- **アプリ、エージェント、環境ごとに 1 本のキー。**BroadNet はアカウントあたり最大 10 本の有効なキーを持て、各キーの有効期間は最長 1 年です。ログでどのキーが使ったかわかるように名前を付けてください。
- **キーをサーバーに限定する。**送信元 IP または CIDR 範囲を IP 許可リストに追加します(最大 32 件)。それ以外のアドレスからのリクエストは 403 になります。
- **すばやく失効させる。**失効と許可リストの変更は、5 秒以内に新しいリクエストに反映されます。
- **ポータルの認証情報をサーバーに置かない。**ポータルの認証情報はキーの作成や購入ができます。推論キーはモデルを呼び出せるだけです。
リクエスト層:すべての回答にどう上限を設けるか?
すべての呼び出しで max_tokens を設定してください。推論モデル(DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B)では 1,000 以上にしてください。推論が同じ予算を共有するため、値が低すぎると空の回答が返り、それでも料金はかかります。簡単なタスクでは reasoning_effort を下げてください。推論トークンの課金の仕組み。
ジョブ層:暴走するエージェントのループをどう止めるか?
暴走するループには見分けやすい兆候があります。同じツール呼び出しの繰り返し、毎ターン増えていくコンテキスト、上限なしでリトライされるエラーです。クライアントをガードで包んでください。
import json, os, urllib.request
from openai import OpenAI
# Per-1M prices from BroadNet's machine-readable rate card
card = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))
m = next(x for x in card["models"] if x["id"] == "broadnet/deepseek-v4.1-flash")
PRICE = {"in": m["input_per_m"], "cached": m["cached_input_per_m"], "out": m["output_per_m"]}
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"], max_retries=3)
class BudgetExceeded(Exception): pass
class Guard:
def __init__(self, budget_usd, max_steps=40):
self.budget, self.max_steps, self.spent, self.steps, self.last = budget_usd, max_steps, 0.0, 0, []
def call(self, **kw):
self.steps += 1
if self.steps > self.max_steps: raise BudgetExceeded("step cap")
if self.spent >= self.budget: raise BudgetExceeded("budget")
r = client.chat.completions.create(max_tokens=kw.pop("max_tokens", 4000), **kw)
u = r.usage
cached = (u.prompt_tokens_details.cached_tokens or 0) if u.prompt_tokens_details else 0
self.spent += ((u.prompt_tokens - cached) * PRICE["in"] + cached * PRICE["cached"]
+ u.completion_tokens * PRICE["out"]) / 1e6
calls = [(t.function.name, t.function.arguments) for t in (r.choices[0].message.tool_calls or [])]
self.last = (self.last + [calls])[-3:]
if calls and len(self.last) == 3 and all(c == calls for c in self.last):
raise BudgetExceeded("same tool call three times")
return r
このガードは料金をハードコードせず料金表から読むので、料金が変わっても正しく動きます。call() には、料金を計算したのと同じモデルを渡してください。max_retries は小さくしておきます。OpenAI SDK はすでに 429 と 5xx をリトライしており、リトライのたびに再度課金されるからです。
チームで使う場合は、同じチェックを共有プロキシで動かし、すべてのサービスが 1 つの 1 日予算から引き落とすようにします。リトライはレート制限にもぶつかります。キーで実際に 1 分あたり何回呼び出せるかはレート制限計算ツールで確認できます。
レポート:何を記録し、何でアラートを出すべきか?
すべてのリクエストについて、キーの別名、機能またはエージェントの名前、モデル、prompt_tokens、prompt_tokens_details.cached_tokens、completion_tokens、ステータス、X-Request-ID を記録します。ストリーミングでは stream_options: {"include_usage": true} を設定してください。そうしないと usage は届きません(ストリーミングガイド)。
そのログから、次の場合にアラートを出します。
- キーごとの 1 日の費用が、コスト見積もりで想定した数字を超えたとき
- タスクあたりのトークン数が中央値の 3 倍を超えたとき
- キャッシュの割合が下がったとき(トラフィックが増えなくても費用が上がります)
- 429 や 5xx レスポンスの割合が上がったとき(リトライが起きていることを意味します)
BroadNet が保持するのは、所要時間、トークン数、費用などのコンテンツを含まない記録で、プロンプトは保持しません。そのため、機能ごとの詳細は自分のログにしか残りません。データポリシーで禁止されているなら、プロンプトの内容は記録しないでください。ユーザーごと・機能ごとの費用がわかる利用ログの作り方。
料金層:定額が予算に勝るのはどんなときか?
もっとも確実な支出管理は、変わらない料金です。
- プランのセッション:月 $60(Full Moon)、週 $15(Orbit)、または 1 時間 $1(Meteor)で、DeepSeek V4.1 Flash を無制限に、一度に 1 リクエストずつ使えます。プランのキーでのリクエストが残高から引き落とされることはありません。
- 時間制キー:$0.50 で Gemma 4 VL 26B を 1 ストリーム 1 時間使えます。サーバーの外に出ていくキーに向いています。時間制キーの解説。
プラン上のループで失うのはお金ではなく時間です。それでもステップ数の上限は必要です。止まったエージェントがセッションをふさぎ、他の作業ができなくなるからです。プランが従量課金より安くなるかは利用量次第です。定額とトークン課金の比較計算ツールで、自分のトークン構成での損益分岐点がわかります。
トークン単価が知らないうちに上がることもあります。アーカイブされた 52 件の LLM API 値上げで、どれくらいの頻度で、どのプロバイダーで、どれだけ上がったかを確認できます。
簡単なチェックリスト
- 月の上限に合わせた額の前払い残高。
- アプリごとに名前付きのキーを 1 本、IP 許可リスト付きで。
- すべてのリクエストに
max_tokens。 - すべてのエージェントにステップ数の上限、リトライの上限、繰り返し呼び出しの検出。
- ジョブごとの累計費用を、呼び出しの前に毎回チェック。
- リクエストごとのトークンのログと、しきい値でのアラート。
- 利用が継続的な場所や、キーが外部に露出する場所では、定額プランか時間制キー。
BroadNet Inference が向いているケース
BroadNet が提供するのはアカウント層とキー層です。前払い残高、個別のキー、数秒で失効できる IP 許可リスト、そして定額プランと時間制キーです。この記事のジョブ単位の予算は提供していません。それは自分のコードかプロキシに置くものです。多数のプロバイダーにまたがるチームごとの予算が必要なら、すべての前にゲートウェイを置くのが適切です。料金を見る。
