BroadRouter
始める

定額の LLM API で並列コーディングエージェントを動かす方法

BroadNet Inference チーム · 約 5 分で読めます · 公開日 · 更新日

同時に動くエージェントには、それぞれプランセッションを 1 つ割り当てます。セッションは同時に 1 リクエストを処理し、トークン課金はないので、オーケストレーターとサブエージェント 3 つなら 4 セッションです。同時実行数はコード側で制限します。1 キーに複数セッションを持たせられ、Full Moon は 1 セッション月 $60 です。

エージェントフレームワークは、1 つのアシスタントから多数へと移りました。計画を立てるオーケストレーター、コードを書いてレビューしテストを実行するサブエージェント、バックログを処理するバッチワーカーです。トークン課金の API では、そのひとつひとつが請求額に加わります。定額 API では、問いはこう変わります。同じ瞬間に、いくつのものがモデルを呼び出しているか?

定額セッションでは何が使えますか?

BroadNet の無制限プランはセッション単位で販売されています。セッションは同時に 1 リクエストを処理し、DeepSeek V4.1 Flash のトークンは無制限で、ローリングウィンドウも週ごとの上限もありません。これは 1 つのエージェントの動き方と一致します。リクエストを送り、回答を読み、ツールを実行し、次のリクエストを送る、という流れです。

構成 ピーク時の実行中リクエスト セッション
1 つのターミナルで 1 つのコーディングエージェント 1 1
オーケストレーター + サブエージェント 3 つ 4 4
バッチワーカー 10 個 10 10
開発者 2 人、各 1 エージェント 2 2(各自のアカウントで)

Full Moon セッションは 1 つ月 $60 です。1 つのキーに複数のセッションを持たせることも、プランのセッションをキーに分けることもできます。たとえばサーバーごと、プロジェクトごとに 1 キーにすれば、キーが漏えいしたり失効したりしても、止まるのはそのキーを使うエージェントだけです。キーとアカウントは個人用です。自分の製品にプランを組み込むことはできますが、キーを共有したり転売したりすることはできません。セッションのルール全文をご覧ください。

並列エージェントには何セッション必要ですか?

エージェントは、モデルを呼び出していない時間が長いものです。テストの実行、ファイルの読み込み、ビルドの待ち時間などです。それぞれ 40% の時間だけモデルを呼ぶサブエージェントが 4 つあっても、4 つ同時にモデルが必要になることはまれです。4 セッションを買う前に、次のことを行ってください。

  1. フレームワークが行うすべてのモデルリクエストについて、エージェントごとに開始時刻と終了時刻を記録します。
  2. 1 分ごとに、重なっているリクエストの最大数を数えます。
  3. 絶対的なピークではなく、ほとんどの時間で到達する重なりの数だけセッションを買い、残りは自分のコードでキューに入れます(下のセマフォを参照)。上限を超えたリクエストが待たされるのか拒否されるのかは BroadNet のページに書かれていないので、エージェントに無計画に送らせないでください。

たとえば、ログでほとんどの時間は 2 リクエストが実行中で、4 になるのは短いバーストのときだけなら、2 セッションとクライアント側のキューのほうが安い構成かもしれません。

数えるのは短いスクリプトでできます。ログから秒単位の (start, end) 時刻のリストを渡します。

from collections import Counter

def overlap_histogram(requests):
    events = sorted([(s, 1) for s, _ in requests] + [(e, -1) for _, e in requests])
    in_flight, last_t, seconds_at = 0, None, Counter()
    for t, delta in events:
        if last_t is not None:
            seconds_at[in_flight] += t - last_t
        in_flight += delta
        last_t = t
    return dict(sorted(seconds_at.items()))   # {requests in flight: seconds}

結果で、ほとんどの時間が実行中 1〜2 リクエストなら 2 セッションを買ってください。何時間も 4 に張り付いているなら 4 つ買ってください。

エージェントのパターンごとに何セッション必要ですか?

パターン モデルの呼び方 見積もりのルール
オーケストレーター + ワーカー プランナーが呼んでから、ファンアウトする 同時に動くワーカーの数。プランナーが動き続けるなら + 1
パイプライン(作成 → レビュー → テスト) タスクごとに一度に 1 段階 並列に動くタスクごとに 1 セッション
バッチのバックログ 同じ種類のジョブが多数 ワーカーごとに 1 セッション。ワーカーが多いほど早く終わる
複数の開発者のエージェント 互いに独立 開発者ごとに 1 セッション、各自のアカウントで

並列エージェント同士が干渉しないようにするには?

モデルの処理枠は問題の半分にすぎません。2 つのエージェントが同じファイルを編集すると、互いの作業を打ち消してしまいます。よくある解決策は、エージェントごとに 1 つの git worktree を使うことです。各エージェントは、同じリポジトリから自分専用のチェックアウトとブランチを得ます。

git worktree add ../agent-auth -b agent/auth
git worktree add ../agent-billing -b agent/billing

そのうえで、エージェントが同じファイルにほとんど触れないようモジュール単位でタスクを分け、レビューステップを通してマージします。無人で動かす方法はコーディングエージェントを夜通し動かすを、追加したエージェントのトークンコストはマルチエージェントのコストをご覧ください。

並列エージェントで従量課金のほうがよいのはどんなときですか?

従量課金のキーでは、同時 4 リクエスト、毎分 30 リクエストまで使えます。これは短く急激なファンアウトに向いています。たとえば、レビューステップが 4 つのチェッカーを 20 秒間起動し、その後は静かになるような場合です。安定した負荷にはセッションが、急増する負荷にはトークン課金が合います。多くの構成では両方を使います。長時間動くエージェントにはプランセッションを、バーストや GLM 5.3 などのほかのモデルには従量課金のキーを使います。

従量課金のキーがレート制限や同時実行数の上限に達すると、429 が返ります。バックオフして再試行してください。エラーコードと再試行のタイミングをご覧ください。ある上限が自分のリクエストパターンでどこまで持つかは、レート制限計算ツールで確認できます。

エージェントをプランにつなぐには?

ほとんどのエージェントフレームワークは、OpenAI 互換のベース URL を受け付けます。すべてのエージェントを https://inference.broadnet.ai/v1 に向け、モデルを broadnet/deepseek-v4.1-flash にして、それぞれにキーを渡します。

export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="$BROADNET_PLAN_KEY"

ターミナルで動く 1 つのコーディングエージェントなら、Aider ガイドに正確な設定があります。Cline と OpenCode にもそれぞれガイドがあります。自作のオーケストレーターなら、OpenAI Python SDK ガイドにクライアントの設定があります。自分のコードでは、実行中のリクエスト数をセッション数までに制限し、目に見える自分の側でキューに並ぶようにしてください。

import asyncio
SESSIONS = 4
gate = asyncio.Semaphore(SESSIONS)

async def ask(client, messages):
    async with gate:
        return await client.chat.completions.create(
            model="broadnet/deepseek-v4.1-flash", messages=messages, max_tokens=4000)

並列エージェントでよくある失敗は?

  • すべてのエージェントを一斉に起動する。 最初の呼び出しが一斉に飛ぶと、すぐにセッション数を超えます。起動を数秒ずつずらしてください。
  • 再試行の嵐。 すべてのエージェントが同じ瞬間に再試行すると、また衝突します。バックオフにジッターを加えてください。
  • max_tokens が小さすぎる。 DeepSeek V4.1 Flash は回答の前に推論するので、上限が小さいと空の回答が返ることがあります。理由はこちら。
  • 1 つのキーを複数人で共有する。 キーは個人用です。開発者ごとに自分のアカウントを用意してください。

各エージェントはどれだけのコンテキストを使えますか?

DeepSeek V4.1 Flash では、1 リクエストあたり最大 1,048,576 トークンを送れます。サブエージェントは、削った要約ではなく、作業中のモジュール全体を読めます。プランなら、長いプロンプトでも追加料金はかかりません。100 万トークンのウィンドウが役立つ場面をご覧ください。

構成を安く試すには?

必要だと思うセッションの数だけ Meteor 1 時間($1)を買い、実際のエージェントのワークフローを動かしてください。エージェント同士の待ちが多すぎるならセッションを追加し、遊んでいるセッションがあれば減らします。そのあとで Full Moon か、1 週間単位の Orbit セッション(1 つ $15)に移ってください。

BroadNet Inference の位置づけ

プランセッションは、1 つのモデルで安定して動く並列エージェントに向いています。請求額は、読み込む量ではなく、同時に動く数で決まるからです。エージェントが複数の異なるモデルを必要とする場合や、短いバーストでしかモデルを呼ばない場合は、従量課金のキーやルーターのほうが安くなるかもしれません。まず損益分岐点の計算と比べてください。

よくある質問

2 つのエージェントが 1 つのセッションを同時に使うとどうなりますか?

セッションは同時に 1 リクエストを処理しますが、2 つ目のリクエストが待たされるのか 429 で拒否されるのかは、BroadNet のページには書かれていません。どちらにも頼らず、自分のコードで実行中のリクエスト数をセッション数までに制限し、429 はバックオフ付きで再試行し、エージェントの待ち時間が長すぎるならセッションを追加してください。

コーディングエージェントはいくつ並列で動かせますか?

重なるリクエストの数だけセッションがあれば、その数まで動かせます。各プランセッションは同時に 1 リクエストを処理するので、同じ瞬間にモデルを呼ぶエージェントが 4 つなら 4 セッションが必要です。主にツールを実行しているエージェントなら、コード側でモデル呼び出しをキューに入れることで、より少ないセッションを共有できます。

並列エージェントが同じファイルを編集しないようにするには?

エージェントごとに git worktree とブランチを用意し、作業をファイル単位かモジュール単位で分けてください。マージは通常のプルリクエストか、最後のレビューステップで行います。

プランと従量課金を組み合わせられますか?

はい。プランのキーと従量課金のキーは別物です。安定して動くエージェントにはプランセッションを、たまのバーストやほかのモデルには従量課金のキーを使うのがよくあるパターンです。

セッションは別々のキーに分ける必要がありますか?

いいえ。1 つのキーに複数のセッションを持たせることも、サーバーごとやプロジェクトごとに 1 キーといった形でキーに分けることもできます。

定額プランでは、並列エージェントのほうが高くつきますか?

セッション数の分だけです。プランではトークンを計測しないので、各エージェントが何をどれだけ読み書きしても、請求額はセッション数 × プラン価格です。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く