「自分たちで動かせば安くなる」は、LLM のコスト計画で最もよく聞く主張の 1 つであり、最も検証されていない主張の 1 つでもあります。計算自体は難しくありません。ただし、見積もりを誤りやすい変数が 1 つ(稼働率)と、計上し忘れやすいコストが 1 つ(人件費)あります。この記事では、計算式、実際のレンタル料金、そして自社の数字で計算する方法を紹介します。
現在の GPU レンタル料金はいくらですか?
公式の料金ページから取得した時間単価です(RunPod は 2026-11-14、Lambda は 2026-11-16 に取得)。ここでは 1 か月を 730 時間としています。
| GPU | プロバイダーと階層(2026-11-14 確認) | GPU 1 時間あたり | 月額(常時稼働) |
|---|---|---|---|
| H100 SXM | RunPod Secure Cloud | USD 4.39 | 約 USD 3,205 |
| H100 SXM | RunPod Community Cloud | USD 2.69 | 約 USD 1,964 |
| H100 PCIe | RunPod Secure Cloud | USD 2.89 | 約 USD 2,110 |
| H200 | RunPod Secure Cloud | USD 5.29 | 約 USD 3,862 |
| A100 80GB SXM | RunPod Secure Cloud | USD 2.19 | 約 USD 1,599 |
| L40S | RunPod Secure Cloud | USD 1.09 | 約 USD 796 |
| H100 SXM | Lambda オンデマンド、1〜8 GPU(2026-11-16 から適用、2026-11-16 確認) | USD 4.59〜4.89 | 約 USD 3,351〜3,570 |
Lambda のページ(2026-11-16 確認)によると、この料金は 2026-11-16 00:00 UTC から適用されます。ノードが大きいほど GPU あたりの単価は下がり、8 GPU ノードでは USD 4.59 です。RunPod の Community Cloud の料金は「〜から」の価格で、ホストによって変わります。Secure Cloud と Community Cloud は別のホスティング階層なので、データの取り扱いに規定がある場合は各階層の条件を読んでください。多くのモデルは GPU 1 枚では足りません。Secure Cloud の料金で 8 GPU の H100 ノードを借りると、月に約 USD 25,638 です。
セルフホストの 100 万トークンあたりコストはどう計算しますか?
GPU は、バッチ処理しているすべてのリクエストを合わせて、ある合計速度でトークンを生成します。トークンあたりのコストは、時間単価を実際に生成されたトークンに割り振ったものです。
100 万トークンあたりコスト = 時間単価 ÷(合計トークン/秒 × 3,600 ÷ 1,000,000)÷ 稼働率
稼働率とは、GPU がその速度で有用な処理をしている時間の割合です。仮定の数字で計算した例を示します(ベンチマークではありません。自分のモデルで計測してください)。
- GPU:Community Cloud の H100 SXM 1 枚、1 時間 USD 2.69。
- 仮定した合計出力:バッチ処理がうまく効いた状態で毎秒 1,500 トークン。
- フル稼働時の 1 時間あたりトークン数:1,500 × 3,600 = 540 万。
| 稼働率 | 1 時間あたりの実効トークン数 | 出力 100 万トークンあたりコスト |
|---|---|---|
| 100%(常に飽和) | 540 万 | USD 0.50 |
| 50% | 270 万 | USD 1.00 |
| 25%(業務時間だけ忙しい) | 135 万 | USD 1.99 |
| 10%(波の大きいプロダクトのトラフィック) | 54 万 | USD 4.98 |
これを API の出力 100 万トークンあたりの料金と比べます。LLM API 料金表には、同じオープンウェイトモデルに数十社が付けている料金が載っています。BroadNet Inference では、DeepSeek V4.1 Flash が出力 100 万トークンあたり $0.52、Gemma 4 VL 26B が $0.22 です。セルフホストのコストが API 料金を下回る行を探してください。それが損益分岐となる稼働率です。この例では入力トークンを無視していますが、入力も GPU の時間(prefill)を使うので、実際のセルフホストのコストは表より高くなります。
損益分岐には月に何トークン必要ですか?
逆から考えます。動かしっぱなしの GPU は、使っても使わなくても月額がかかります。API のコストはトークン数 × 単価です。損益分岐となる量は次のとおりです。
損益分岐に必要な月間トークン数 = GPU の月額コスト ÷ API の 100 万トークン単価 × 1,000,000
Community Cloud の H100 1 枚(月約 USD 1,964)を、出力 100 万トークンあたり $0.52 の料金と比べる場合、1,964 をその単価で割ると、GPU が元を取るまでに毎月置き換える必要がある出力トークン数(100 万単位)が出ます。エージェントのように入力が多いワークロードなら、入力と出力を混ぜた単価でも同じ計算をしてください。混合単価の出し方は定額とトークン課金の比較記事で説明しています。
また、その GPU で実際にモデルを提供できなければなりません。モデルに GPU が 4 枚必要なら、割り算の前に月額コストを 4 倍してください。
見落とされがちなコストは何ですか?
| コスト | 内容 | 計上の仕方 |
|---|---|---|
| エンジニアリングの立ち上げ | 推論エンジン、量子化の選択、オートスケーリング、負荷テスト | 一度きりの時間 × 自社の単価 |
| 継続的な運用 | アップグレード、ドライバーとエンジンの更新、モデルの更新 | 月あたりの時間 × 自社の単価 |
| オンコール | ノードが落ちたら誰かが起こされる | 自社のオンコール体制 |
| 冗長化 | 1 台の障害で停止しないための 2 台目のノード | GPU の費用が 2 倍 |
| 待機用の余力 | ピークに備えて温めておく容量 | 稼働率が下がる |
| 評価 | 切り替え前に新しいモデルのバージョンを確認する | リリースごとの時間 |
答えを最も大きく変えるのは冗長化です。GPU 1 枚は単一障害点です。2 枚にすれば、稼働率は一夜にして半分になります。アップグレードのたびに発生する評価作業については、切り替え前のモデル評価をご覧ください。
セルフホストが正しい選択になるのはどんな場合ですか?
- 安定した大量の処理。 GPU を 24 時間飽和させ続けるバッチパイプライン。
- データを社内ネットワークに留める必要がある。 これはコストの議論ではなく、必須要件です。まずはゼロデータ保持の API で社内規定を満たせるか確認してください。
- どの API も提供していないモデル。 自社でファインチューニングしたモデルや、ニッチなオープンウェイトモデル。
- 確保された計算能力。 API のレート制限では得られないスループットが必要な場合。
それ以外、特に波のあるトラフィック、初期段階のプロダクト、断続的に動くエージェントでは、API のほうが安く、オンコールの当番表も要りません。
GPU とトークン課金の中間に、定額の選択肢はありますか?
GPU のレンタルとトークン課金の間には、中間的な選択肢があります。BroadNet は Gemma 4 VL 26B の時間制キーを 1 時間 $0.50 で販売しています(ストリーム 1 本、毎分 120 リクエスト、毎分 300,000 トークン)。1 か月動かし続けると $360.00 です。また、DeepSeek V4.1 Flash の無制限プランのセッションを月 $60 で販売しており、各セッションは同時に 1 リクエストを 毎秒約 100 トークン で実行します。これらはレンタル GPU のように請求額が予測しやすく、立ち上げや運用も不要ですが、GPU まるごとのバッチ処理能力ではなく、キーやセッションごとに同時実行数が固定されています。
BroadNet Inference が向いている用途
BroadNet Inference は、この比較における API 側の選択肢です。一部を米国の推論パートナーがホストするオープンウェイトモデルについて、トークン単価、定額プラン、時間制キーを OpenAI 互換 API で提供しています。トラフィックが少なくてレンタル GPU が 1 日の大半を遊んでしまうチームや、推論インフラを自分で運用したくないチームに向いています。独自のファインチューニング済みモデルの提供、オンプレミスへのデプロイ、1 つのキーでの数百の並列リクエストが必要な場合には向いていません。LLM API コスト計算ツールで自社の数字を計算し、上の表と比べてください。オープンモデルとクローズドモデルで迷っているなら、オープンウェイトとクローズドモデルの API コスト比較で、各プロバイダー自身のページからトークン単価を比べています。セルフホスト vs API 計算ツールを使えば、実測したスループットと上記の GPU 料金で損益分岐の計算をすべて行えます。
