BroadRouter

Model sama, host berbeda: seberapa jauh harga API LLM bervariasi

Oleh tim BroadNet Inference · 7 menit baca · Dipublikasikan · Diperbarui

Cukup jauh. Pada 119 model yang dijual dua host independen atau lebih, harga daftar termahal secara median 1,76 kali yang termurah (harga gabungan, 3:1), dari halaman 41 penyedia yang dicek pada 14 dan 15 November 2026. 50 model punya selisih 2 kali atau lebih. Meski begitu, sebagian besar host meniru pembuat model: 57% harga host sama persis dengan harga milik pembuatnya.

Jika Anda memakai model open-weight lewat API, host yang Anda pilih bisa mengubah tagihan lebih besar daripada modelnya sendiri. Kami mengukur seberapa besar. BroadRouter membaca setiap harga dari halaman harga milik penyedia itu sendiri, lengkap dengan URL sumber, tanggal cek, dan kutipan kata per kata. Untuk artikel ini, kami mengambil setiap model yang dijual minimal dua host independen dan membandingkan harga daftar standarnya. BroadRouter adalah situs web milik BroadNet, dan BroadNet menjual empat model ini; harganya ditampilkan terpisah dan tidak diperingkat.

Datanya berasal dari dataset harga penyedia API LLM kami, yang juga menjadi sumber indeks harga API LLM dan setiap halaman harga per model.

Seberapa jauh harga model yang sama bervariasi antarhost?

Biasanya jauh lebih dari separuh, dan sering sampai dua kali lipat. Kami membandingkan 119 model, masing-masing dengan harga daftar dari minimal dua penyedia. Untuk tiap model, kami mengambil harga standar termahal dan membaginya dengan yang termurah, berdasarkan harga gabungan 3 token input per token output:

Termahal ÷ termurah Jumlah model
Harga sama persis 13
Di bawah 1,25× 34 (termasuk yang 13)
2× atau lebih 50
3× atau lebih 28
5× atau lebih 13
Median 1,76×

Selisihnya melebar seiring jumlah penjual. Untuk 19 model dengan 10 penyedia atau lebih, median selisihnya 2,02 kali; untuk 51 model dengan hanya 2 atau 3 penyedia, 1,28 kali. Model populer punya lebih banyak host, dan lebih banyak di antaranya mencoba harga yang berbeda.

Selisih terlebar ada di Llama 3.1 8B Instruct: 16,7 kali antara DeepInfra dan Cloudflare Workers AI. Di antara model dengan banyak host, Llama 3.3 70B Instruct (7,9 kali, 14 penyedia), DeepSeek V4 Flash 0731 (7,3 kali, 14 penyedia), dan gpt-oss-120b (6,9 kali, 20 penyedia) punya selisih terlebar.

Berapa harga model terbuka populer di tiap host?

Tujuh model dengan banyak host. Harga daftar dalam USD per 1 juta token, input / output, dicek pada 14 dan 15 November 2026. Setiap model tertaut ke halaman harga lengkapnya dengan semua penyedia dan sumber.

Model Penyedia dengan harga daftar Termurah, in / out Harga paling umum, in / out Termahal, in / out Termahal ÷ termurah (gabungan)
GLM 5.3 20 Chutes: 1,225 / 3,85 1,40 / 4,40 (16 penyedia) SambaNova: 2,80 / 8,80 2,29×
gpt-oss-120b 20 CoreWeave: 0,03 / 0,17 0,15 / 0,60 (6 penyedia) Cerebras, Cloudflare: 0,35 / 0,75 6,92×
DeepSeek V4.1 Flash 14 CoreWeave: 0,13 / 0,65 0,30 / 1,20 (12 penyedia) 12 penyedia setara: 0,30 / 1,20 2,02×
Llama 3.3 70B Instruct 14 DeepInfra: 0,10 / 0,32 0,71 / 0,71 (2 penyedia) Venice: 0,70 / 2,80 7,90×
Qwen3.8 27B 13 Chutes: 0,039 / 1,25 0,45 / 3,20 (3 penyedia) Groq: 0,80 / 4,00 4,68×
Gemma 4 26B A4B 11 DeepInfra, Featherless: 0,07 / 0,34 0,13 / 0,40 (5 penyedia) Vertex AI: 0,15 / 0,60 1,91×
Kimi K3 18 Chutes: 1,85 / 9,50 3,00 / 15,00 (12 penyedia) Venice: 3,75 / 18,75 1,99×

Yang ditunjukkan tabel ini:

  • GLM 5.3 adalah pasar yang harganya saling menyamakan. 16 dari 20 penyedia, termasuk Z.ai, mencantumkan persis USD 1,40 / USD 4,40. Chutes di bawahnya; Venice, Amazon Bedrock (lintas region AS), dan SambaNova di atasnya. Empat host lain mencantumkan harga promo di bawah harga daftar (DeepInfra, GMI Cloud, FriendliAI, dan “Limited Trial” (uji coba terbatas) dari AkashML); kami tidak memasukkannya. Harga daftar DeepInfra sendiri tanpa diskon (USD 0,90 / USD 4,00) hanya ditampilkan di samping promonya, tidak dikenakan, jadi juga tidak dihitung.
  • gpt-oss-120b justru kebalikannya. 20 penyedia dan selisih 6,9 kali antara yang termurah dan termahal. Groq, Together AI, Fireworks AI, dan tiga penyedia lain memasang USD 0,15 / USD 0,60; CoreWeave (USD 0,03 / USD 0,17) dan DeepInfra (USD 0,037 / USD 0,17) memasang seperlima hingga seperempatnya untuk input dan kurang dari sepertiganya untuk output.
  • DeepSeek V4.1 Flash punya 12 penyedia di USD 0,30 / USD 1,20. CoreWeave dan SiliconFlow mencantumkan sekitar setengahnya untuk input.
  • Llama 3.3 70B menunjukkan bagaimana varian mengaburkan perbandingan. Baris termurah DeepInfra adalah varian Turbo yang dikuantisasi, sedangkan Venice memasang USD 0,70 / USD 2,80.

Apakah host memasang harga di bawah pembuat model?

Kebanyakan menyamakannya. Untuk 29 model yang juga dijual pembuatnya di API sendiri, kami membandingkan setiap harga host dengan harga pembuatnya:

Harga host vs harga milik pembuat model Jumlah harga host
Harga input dan output sama persis 143 (57%)
Lebih rendah (gabungan) 83
Lebih tinggi (gabungan) 23

Pembuat model menjadi yang termurah, atau setara termurah, hanya pada 3 dari 29 model. Jadi harga daftar pembuat model berfungsi sebagai plafon yang ditiru sebagian besar host, dan sebagian lagi memasang di bawahnya.

Host mana yang paling sering termurah dan termahal?

Host Termurah untuk (model) Termahal untuk (model)
DeepInfra 33 7
Featherless 22 26
GMI Cloud 22 14
SiliconFlow 19 3
Novita AI 12 13
CoreWeave 11 1
Chutes 9 5
Cloudflare Workers AI 5 11
Venice 4 17
Amazon Bedrock 4 13
Alibaba Cloud Model Studio 2 13
Microsoft Azure 0 14

Hasil seri dihitung untuk setiap host yang seri, dan model yang semua penyedianya memasang harga sama tidak dihitung sebagai “termahal”. Featherless dan GMI Cloud muncul tinggi di kedua kolom: mereka meng-host banyak model dan menetapkan harga masing-masing secara terpisah. Tarif per token Featherless juga mensyaratkan paket Developer dengan kredit mulai 50 USD per bulan. Tidak ada host yang termurah untuk semuanya, jadi bandingkan pada model persis yang akan Anda pakai.

Apa lagi yang berbeda selain harga?

Bobot yang sama tidak menjamin layanan yang sama:

  • Presisi. 237 dari 681 baris dalam perbandingan ini menyebutkan presisi; FP8 paling umum (177 baris); 23 menyebut FP4 dan 4 menyebut INT4. Presisi yang lebih rendah bisa mengubah kualitas output. Lihat kuantisasi.
  • Context window, rate limit, dan throughput berbeda per host dan paket.
  • Ketentuan data. Retensi dan penggunaan untuk pelatihan berbeda; lihat perbandingan retensi data API LLM.
  • Stabilitas harga. Sebagian host sering mengubah harga. Dalam arsip kami, DeepInfra mengubah harga separuh model yang sudah lama dicantumkannya setidaknya sekali, naik maupun turun. Lihat seberapa sering harga API LLM berubah dan kenaikan harga API LLM.

Pendekatan praktis: pilih dua atau tiga host dengan harga di atau di bawah harga umum, jalankan 50 sampai 100 prompt nyata yang sama di masing-masing, dan simpan peringkat kedua sebagai fallback yang sudah teruji. Cara memilih penyedia API LLM menyediakan checklist-nya.

Metodologi

  • Harga. Halaman harga milik 41 penyedia pihak ketiga, setiap harga dengan URL sumber, tanggal cek (14 atau 15 November 2026), dan kutipan kata per kata: dataset harga penyedia API LLM dan CSV-nya. Hanya tier standar; baris batch, flex, prioritas, dan gratis dikecualikan. File milik BroadNet sendiri dikecualikan.
  • Promo dikecualikan. 49 harga standar berlabel promo, “limited trial” (uji coba terbatas), atau ”% off list” (diskon % dari harga daftar) tidak dimasukkan, sama seperti pada peringkat di halaman dataset.
  • Model yang dihitung. Sebuah model dimasukkan jika minimal dua host independen mencantumkannya (tidak menghitung cloud Amazon Bedrock, Azure, dan Vertex AI, yang juga menjual ulang model tertutup) dan minimal dua penyedia secara total punya harga daftar. Model tertutup dari OpenAI (kecuali gpt-oss), Anthropic, Google Gemini, xAI, dan Amazon dikecualikan. 119 model memenuhi syarat.
  • Selisih. Satu harga per penyedia (baris harga daftar termurahnya untuk model itu), digabung dengan 3 token input per token output; termahal ÷ termurah. Skrip kami menghitung ulang setiap angka dari file JSON; selisih yang dipublikasikan di indeks harga memakai semua model dan tetap menyertakan baris promo, sehingga mediannya berbeda.
  • Riwayat. Pergerakan harga dari waktu ke waktu berasal dari dataset riwayat harga API LLM yang terpisah (CSV), dibaca dari tangkapan Internet Archive. BroadNet tidak ada di dalamnya karena arsip tidak punya tangkapan halaman harganya.

Posisi BroadNet Inference

BroadRouter adalah situs milik BroadNet sendiri, dan BroadNet Inference menjual empat model dalam perbandingan ini. Harganya diambil dari pricing.json dan tidak diperingkat di atas:

Model Input BroadNet Output BroadNet Posisi dalam perbandingan di atas
GLM 5.3 $0.78 $3.46 Di bawah harga daftar di atas; harga promo di DeepInfra, GMI Cloud, dan AkashML lebih rendah setidaknya di satu sisi
DeepSeek V4.1 Flash $0.175 $0.52 CoreWeave dan SiliconFlow mencantumkan input lebih rendah, output BroadNet lebih rendah dari mereka; harga promo DeepInfra lebih rendah di kedua sisi
Qwen3.8 27B $0.175 $2.17 Chutes dan Hyperbolic mencantumkan harga gabungan lebih rendah, begitu juga harga promo di DeepInfra dan AkashML
Gemma 4 VL 26B (build BroadNet dari Gemma 4 26B A4B) $0.10 $0.22 DeepInfra dan Featherless mencantumkan input lebih rendah; output BroadNet lebih rendah

BroadNet bukan host termurah untuk setiap model. DeepSeek V4.1 Flash di BroadNet di-host oleh mitra, dan akun self-serve tidak punya SLA. BroadNet juga menjual paket harga tetap untuk DeepSeek V4.1 Flash seharga $60 per sesi per bulan, satu permintaan dalam satu waktu. Dari model chat, hanya Gemma yang berjalan dengan kredit awal $5; tiga model lainnya perlu top up.

Pertanyaan umum

Kenapa model terbuka yang sama dihargai berbeda di penyedia yang berbeda?

Host menjalankan bobot yang sama di perangkat keras yang berbeda, dengan presisi, utilisasi, dan margin yang berbeda, dan sebagian menambahkan premi regional atau deployment privat. Dalam data kami, harga daftar termahal untuk sebuah model secara median 1,76 kali yang termurah, di 119 model.

Apakah host biasanya memasang harga yang sama dengan pembuat model?

Sering kali ya. Jika pembuat model juga menjual modelnya di API sendiri, 143 dari 249 harga host (57%) sama persis dengan harga input dan output milik pembuatnya; 83 lebih rendah dan 23 lebih tinggi. Untuk GLM 5.3, 15 host mencantumkan persis USD 1,40 input dan USD 4,40 output seperti Z.ai.

Penyedia mana yang paling murah untuk model terbuka?

Tidak ada satu pun. DeepInfra punya harga daftar terendah, sendiri atau setara, untuk 33 dari 119 model, Featherless dan GMI Cloud masing-masing 22, dan SiliconFlow 19. Featherless juga yang termahal untuk 26 model, jadi semuanya tergantung modelnya.

Apakah harga promo ikut dihitung?

Tidak. 49 harga standar yang diberi label promo atau uji coba terbatas oleh penyedianya dikeluarkan dari semua angka di sini, karena bisa berakhir tanpa pemberitahuan. Beberapa di antaranya lebih rendah dari semua harga daftar, misalnya GLM 5.3 di DeepInfra dengan diskon 38%.

Apakah host yang lebih murah menyajikan model yang sama?

Bobotnya sama, layanannya belum tentu. Host bisa menyajikan bobot berpresisi lebih rendah (jika disebutkan, FP8 paling umum), konteks lebih pendek, atau rate limit berbeda. Baris Llama 3.3 70B termurah di DeepInfra adalah varian Turbo yang dikuantisasi. Uji kualitas output dan batasnya dengan prompt Anda sendiri.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity