BroadRouter

LLM のセルフホストと API:本当のコストと損益分岐点

BroadNet Inference チーム · 約 5 分で読めます · 公開日 · 更新日

レンタル GPU は稼働中も待機中も同じ時間単価なので、セルフホストが API より安くなるのは稼働率が高く安定している場合だけです。時間単価を実際の 1 時間あたり生成トークン数で割り、エンジニアリングとオンコールを足して、API の 100 万トークン単価と比べます。トラフィックに波があるか少なければ、ほぼ必ず API が有利です。

「自分たちで動かせば安くなる」は、LLM のコスト計画で最もよく聞く主張の 1 つであり、最も検証されていない主張の 1 つでもあります。計算自体は難しくありません。ただし、見積もりを誤りやすい変数が 1 つ(稼働率)と、計上し忘れやすいコストが 1 つ(人件費)あります。この記事では、計算式、実際のレンタル料金、そして自社の数字で計算する方法を紹介します。

現在の GPU レンタル料金はいくらですか?

公式の料金ページから取得した時間単価です(RunPod は 2026-11-14、Lambda は 2026-11-16 に取得)。ここでは 1 か月を 730 時間としています。

GPU プロバイダーと階層(2026-11-14 確認) GPU 1 時間あたり 月額(常時稼働)
H100 SXM RunPod Secure Cloud USD 4.39 約 USD 3,205
H100 SXM RunPod Community Cloud USD 2.69 約 USD 1,964
H100 PCIe RunPod Secure Cloud USD 2.89 約 USD 2,110
H200 RunPod Secure Cloud USD 5.29 約 USD 3,862
A100 80GB SXM RunPod Secure Cloud USD 2.19 約 USD 1,599
L40S RunPod Secure Cloud USD 1.09 約 USD 796
H100 SXM Lambda オンデマンド、1〜8 GPU(2026-11-16 から適用、2026-11-16 確認) USD 4.59〜4.89 約 USD 3,351〜3,570

Lambda のページ(2026-11-16 確認)によると、この料金は 2026-11-16 00:00 UTC から適用されます。ノードが大きいほど GPU あたりの単価は下がり、8 GPU ノードでは USD 4.59 です。RunPod の Community Cloud の料金は「〜から」の価格で、ホストによって変わります。Secure Cloud と Community Cloud は別のホスティング階層なので、データの取り扱いに規定がある場合は各階層の条件を読んでください。多くのモデルは GPU 1 枚では足りません。Secure Cloud の料金で 8 GPU の H100 ノードを借りると、月に約 USD 25,638 です。

セルフホストの 100 万トークンあたりコストはどう計算しますか?

GPU は、バッチ処理しているすべてのリクエストを合わせて、ある合計速度でトークンを生成します。トークンあたりのコストは、時間単価を実際に生成されたトークンに割り振ったものです。

100 万トークンあたりコスト = 時間単価 ÷(合計トークン/秒 × 3,600 ÷ 1,000,000)÷ 稼働率

稼働率とは、GPU がその速度で有用な処理をしている時間の割合です。仮定の数字で計算した例を示します(ベンチマークではありません。自分のモデルで計測してください)。

  • GPU:Community Cloud の H100 SXM 1 枚、1 時間 USD 2.69。
  • 仮定した合計出力:バッチ処理がうまく効いた状態で毎秒 1,500 トークン。
  • フル稼働時の 1 時間あたりトークン数:1,500 × 3,600 = 540 万。
稼働率 1 時間あたりの実効トークン数 出力 100 万トークンあたりコスト
100%(常に飽和) 540 万 USD 0.50
50% 270 万 USD 1.00
25%(業務時間だけ忙しい) 135 万 USD 1.99
10%(波の大きいプロダクトのトラフィック) 54 万 USD 4.98

これを API の出力 100 万トークンあたりの料金と比べます。LLM API 料金表には、同じオープンウェイトモデルに数十社が付けている料金が載っています。BroadNet Inference では、DeepSeek V4.1 Flash が出力 100 万トークンあたり $0.52、Gemma 4 VL 26B が $0.22 です。セルフホストのコストが API 料金を下回る行を探してください。それが損益分岐となる稼働率です。この例では入力トークンを無視していますが、入力も GPU の時間(prefill)を使うので、実際のセルフホストのコストは表より高くなります。

損益分岐には月に何トークン必要ですか?

逆から考えます。動かしっぱなしの GPU は、使っても使わなくても月額がかかります。API のコストはトークン数 × 単価です。損益分岐となる量は次のとおりです。

損益分岐に必要な月間トークン数 = GPU の月額コスト ÷ API の 100 万トークン単価 × 1,000,000

Community Cloud の H100 1 枚(月約 USD 1,964)を、出力 100 万トークンあたり $0.52 の料金と比べる場合、1,964 をその単価で割ると、GPU が元を取るまでに毎月置き換える必要がある出力トークン数(100 万単位)が出ます。エージェントのように入力が多いワークロードなら、入力と出力を混ぜた単価でも同じ計算をしてください。混合単価の出し方は定額とトークン課金の比較記事で説明しています。

また、その GPU で実際にモデルを提供できなければなりません。モデルに GPU が 4 枚必要なら、割り算の前に月額コストを 4 倍してください。

見落とされがちなコストは何ですか?

コスト 内容 計上の仕方
エンジニアリングの立ち上げ 推論エンジン、量子化の選択、オートスケーリング、負荷テスト 一度きりの時間 × 自社の単価
継続的な運用 アップグレード、ドライバーとエンジンの更新、モデルの更新 月あたりの時間 × 自社の単価
オンコール ノードが落ちたら誰かが起こされる 自社のオンコール体制
冗長化 1 台の障害で停止しないための 2 台目のノード GPU の費用が 2 倍
待機用の余力 ピークに備えて温めておく容量 稼働率が下がる
評価 切り替え前に新しいモデルのバージョンを確認する リリースごとの時間

答えを最も大きく変えるのは冗長化です。GPU 1 枚は単一障害点です。2 枚にすれば、稼働率は一夜にして半分になります。アップグレードのたびに発生する評価作業については、切り替え前のモデル評価をご覧ください。

セルフホストが正しい選択になるのはどんな場合ですか?

  • 安定した大量の処理。 GPU を 24 時間飽和させ続けるバッチパイプライン。
  • データを社内ネットワークに留める必要がある。 これはコストの議論ではなく、必須要件です。まずはゼロデータ保持の API で社内規定を満たせるか確認してください。
  • どの API も提供していないモデル。 自社でファインチューニングしたモデルや、ニッチなオープンウェイトモデル。
  • 確保された計算能力。 API のレート制限では得られないスループットが必要な場合。

それ以外、特に波のあるトラフィック、初期段階のプロダクト、断続的に動くエージェントでは、API のほうが安く、オンコールの当番表も要りません。

GPU とトークン課金の中間に、定額の選択肢はありますか?

GPU のレンタルとトークン課金の間には、中間的な選択肢があります。BroadNet は Gemma 4 VL 26B の時間制キーを 1 時間 $0.50 で販売しています(ストリーム 1 本、毎分 120 リクエスト、毎分 300,000 トークン)。1 か月動かし続けると $360.00 です。また、DeepSeek V4.1 Flash の無制限プランのセッションを月 $60 で販売しており、各セッションは同時に 1 リクエストを 毎秒約 100 トークン で実行します。これらはレンタル GPU のように請求額が予測しやすく、立ち上げや運用も不要ですが、GPU まるごとのバッチ処理能力ではなく、キーやセッションごとに同時実行数が固定されています。

BroadNet Inference が向いている用途

BroadNet Inference は、この比較における API 側の選択肢です。一部を米国の推論パートナーがホストするオープンウェイトモデルについて、トークン単価、定額プラン、時間制キーを OpenAI 互換 API で提供しています。トラフィックが少なくてレンタル GPU が 1 日の大半を遊んでしまうチームや、推論インフラを自分で運用したくないチームに向いています。独自のファインチューニング済みモデルの提供、オンプレミスへのデプロイ、1 つのキーでの数百の並列リクエストが必要な場合には向いていません。LLM API コスト計算ツールで自社の数字を計算し、上の表と比べてください。オープンモデルとクローズドモデルで迷っているなら、オープンウェイトとクローズドモデルの API コスト比較で、各プロバイダー自身のページからトークン単価を比べています。セルフホスト vs API 計算ツールを使えば、実測したスループットと上記の GPU 料金で損益分岐の計算をすべて行えます。

よくある質問

LLM はセルフホストのほうが API より安いですか?

量が多く安定している場合に限ります。レンタル GPU は毎時間課金され、API は使ったトークン分だけ課金されます。GPU が 1 日の大半を遊んでいるなら、エンジニアリングの時間を数える前から API のほうが安くなります。

H100 のレンタル料金は 1 時間いくらですか?

2026-11-14 時点の RunPod の料金ページでは、H100 SXM が Secure Cloud で 1 時間 USD 4.39、Community Cloud で USD 2.69 からでした。Lambda はオンデマンドの H100 SXM を、2026-11-16 から適用されている料金で、ノードの規模に応じて GPU 1 時間あたり USD 4.59〜4.89 と掲載しています。最新の料金は各ページで確認してください。

大規模なモデルをセルフホストするには、GPU が何枚必要ですか?

少なくとも、重みと、同時リクエスト分の KV キャッシュが収まるメモリが必要です。大規模な Mixture-of-Experts(MoE)モデルには、通常マルチ GPU のノードが必要です。パラメータ数と推奨構成はモデルカードで確認してください。

コストが高くなっても、セルフホストが妥当なのはどんな場合ですか?

データを社内ネットワークの外に出せない場合、どの API も提供していないファインチューニング済みモデルや独自モデルが必要な場合、確保された計算能力が必要な場合です。これらはコストではなく、コントロールのための理由です。

自分の GPU の実際のスループットはどう測ればよいですか?

vLLM や SGLang などの推論エンジンで、実際のプロンプトを実際の同時実行数で流し、全リクエスト合計の出力トークン/秒を記録します。ベンダーのピーク値は理想的なバッチ処理を前提にしています。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く