BroadRouter

Cara 6 penyedia inference menetapkan harga API model open-weight

Oleh tim BroadNet Inference · 7 menit baca · Dipublikasikan · Diperbarui

Sebagian besar penyedia menetapkan harga model terbuka per 1 juta token, dengan input cache yang lebih murah dan sering diskon 50% untuk job batch. Together AI, Fireworks, dan DeepInfra juga menyewakan GPU per jam. OpenRouter meneruskan harga penyedia dan mengenakan biaya saat pembelian kredit. Groq hanya punya daftar model pendek. BroadNet menambahkan paket harga tetap bulanan, mingguan, dan per jam untuk DeepSeek V4.1 Flash.

“Harga per 1 juta token” terlihat bisa dibandingkan antarpenyedia. Kenyataannya tidak sepenuhnya. Penyedia berbeda dalam model yang mereka host, harga input cache, ada tidaknya diskon untuk job batch, bisa tidaknya Anda menyewa GPU, dan biaya apa yang ditambahkan di atasnya. Artikel ini membandingkan enam penyedia model open-weight dari cara mereka menetapkan harga, lalu menjajarkan harga yang mereka publikasikan untuk model yang sama. Semua angka pesaing berasal dari halaman resmi tiap penyedia, dicek 2026-11-14; tautannya ada di sumber. Harga sering berubah, jadi cek ulang sebelum Anda memutuskan.

Apa saja lima cara harga model terbuka ditetapkan?

  1. Per token, serverless. Harga terpisah per 1 juta token input dan output. Semua penyedia di daftar ini menawarkannya.
  2. Input cache. Tarif lebih rendah untuk awalan prompt yang berulang. Diskonnya berkisar dari setengah harga sampai beberapa persen dari tarif input. Penjelasan token cache.
  3. Batch. Harga lebih rendah untuk job yang bisa menunggu berjam-jam.
  4. GPU dedicated. Sewa perangkat keras per jam dan jalankan model sendiri atau lewat stack penyedia. Baca self-hosting vs API: titik impasnya, atau hitung dengan angka Anda sendiri di kalkulator self-hosting vs API.
  5. Paket harga tetap. Harga tetap untuk durasi waktu, tanpa meteran token. Lihat paket LLM harga tetap.

Bagaimana tiap penyedia menetapkan harga model terbuka?

Penyedia Model Per token Input cache Batch GPU dedicated Paket harga tetap
OpenRouter Router di atas banyak penyedia Harga penyedia, “no markup” (tanpa markup) Tergantung penyedia Tergantung penyedia Tidak Tidak
Together AI Serverless sendiri + dedicated Ya Dicantumkan untuk sebagian model Diskon 50% untuk model tertentu (hanya Whisper Large v3 saat dicek) H100 mulai USD 5,49 per jam GPU Tidak
Fireworks AI Serverless sendiri + on-demand Ya, mulai USD 0,05 per 1 juta input Diskon 50% secara default, lebih besar di sebagian model Diskon 50% H100 USD 8,00 per jam Tidak
Groq Perangkat keras sendiri Ya, daftar model pendek Diskon 50%, pada model GPT-OSS Diskon 50% Tidak dicantumkan Tidak
DeepInfra Serverless sendiri + dedicated Ya, sebagian model ditagih per waktu eksekusi Dicantumkan untuk banyak model Tidak dicantumkan di halaman harga H100 USD 2,90 per jam GPU Tidak
BroadNet Inference Daftar model pendek; model yang di-host mitra bersama mitra inference di AS Ya Dicantumkan untuk tiga dari empat model chat Tidak ditawarkan Tidak Ya, DeepSeek V4.1 Flash

Catatan dari halaman-halaman tersebut:

  • OpenRouter menyatakan “there is no markup on inference pricing” (Terjemahan BroadRouter: tidak ada markup pada harga inference). OpenRouter mengenakan biaya saat Anda membeli kredit: 5,5% pada paket Standard (minimum USD 0,80, menurut FAQ-nya) dan 8% pada Business, atau 5% untuk kripto. Varian model gratis dibatasi 20 permintaan per menit dan 50 per hari, atau 1.000 per hari setelah membeli kredit minimal USD 10. Karena OpenRouter adalah router, satu model bisa punya banyak harga. OpenRouter vs penyedia harga tetap.
  • Together AI mencantumkan H100 dedicated seharga USD 5,49 per jam GPU on-demand. Dokumentasi batch-nya menyebut model serverless tertentu berjalan dengan diskon 50%, dengan jendela penyelesaian tetap 24 jam, tetapi tabel model berdiskon hanya mencantumkan openai/whisper-large-v3 saat kami cek. Model lain berjalan dengan tarif standar.
  • Fireworks punya mode Standard, Priority, Fast, Batch (diskon 50%), dan Spot (diskon 30% untuk model tertentu). Input cache ditagih setengah harga atau kurang, tanpa biaya tulis.
  • Groq mencantumkan harga per token untuk sekumpulan kecil model produksi, misalnya openai/gpt-oss-120b seharga USD 0,15 input dan USD 0,60 output per 1 juta token, dan speech-to-text Whisper per jam. Input cache setengah harga pada model GPT-OSS-nya, dan job batch berjalan dengan diskon 50% dalam 24 jam hingga 7 hari.
  • DeepInfra menampilkan banyak model dengan harga diskon di samping harga daftar, misalnya diskon 51% untuk DeepSeek-V4.1-Flash-1017 dan 38% untuk GLM-5.3. Halamannya tidak menyebut kapan diskon ini berakhir. DeepInfra juga menawarkan tier Standard, Priority (1,5×), dan Flex (0,8×).

Berapa harga model yang sama di tiap penyedia?

Harga per 1 juta token yang dipublikasikan untuk model yang juga disajikan BroadNet. ”—” berarti model tersebut tidak ada di halaman harga penyedia itu.

DeepSeek V4.1 Flash (input / cache / output):

Penyedia Input Cache Output
Together AI USD 0,30 USD 0,006 USD 1,20
Fireworks AI USD 0,30 USD 0,006 USD 1,20
DeepInfra, harga daftar USD 0,20 USD 0,006 USD 0,60
DeepInfra, diskon (30%) USD 0,14 USD 0,0042 USD 0,42
DeepInfra, DeepSeek-V4.1-Flash-1017, diskon (51%) USD 0,098 USD 0,0029 USD 0,294
Groq — — —
BroadNet Inference $0.175 $0.0055 $0.52

Varian bertanggal -1017 di DeepInfra adalah rilis yang sama dengan yang disajikan API DeepSeek sendiri sebagai deepseek-flash; periksa mana yang dipanggil kode Anda. Di OpenRouter, model ini punya 37 endpoint dari 28 penyedia saat kami cek, dari sekitar USD 0,05 (Baidu) hingga USD 3 (tier tercepat Venice) per 1 juta token input. Tabel harga DeepSeek V4.1 Flash kami mencantumkan setiap penyedia yang memublikasikan harganya sendiri untuk model ini, dengan halaman sumber dan tanggal pengecekan di tiap baris. Seberapa lebar selisih harga model yang sama di seluruh pasar kami ukur di indeks harga API LLM. Untuk perbandingan harga model terbuka ini dengan GPT, Claude, dan Gemini pada beban kerja yang sama, lihat biaya API model open-weight vs tertutup.

GLM 5.3 (harga milik tiap penyedia: tabel harga GLM 5.3):

Penyedia Input Cache Output
Together AI USD 1,40 USD 0,26 USD 4,40
Fireworks AI USD 1,40 USD 0,26 USD 4,40
DeepInfra, harga daftar USD 0,90 USD 0,20 USD 4,00
DeepInfra, diskon (38%) USD 0,5625 USD 0,125 USD 2,50
BroadNet Inference $0.78 $0.173 $3.46

Qwen3.8 27B (harga milik tiap penyedia: tabel harga Qwen3.8 27B):

Penyedia Input Cache Output
DeepInfra, harga daftar USD 0,20 USD 0,05 USD 2,50
DeepInfra, diskon (25%) USD 0,15 USD 0,0375 USD 1,875
Groq (pratinjau, hanya untuk evaluasi) USD 0,80 — USD 4,00
BroadNet Inference $0.175 $0.0435 $2.17

Gemma 4 26B A4B (build BroadNet adalah Gemma 4 VL 26B):

Penyedia Input Output
DeepInfra USD 0,07 USD 0,34
BroadNet Inference $0.10 $0.22

BroadNet bukan yang termurah per token di sini. Harga diskon DeepInfra lebih rendah daripada BroadNet di setiap baris untuk DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B, dan lebih rendah untuk input Gemma (output Gemma di BroadNet lebih rendah). API DeepSeek sendiri memotong semua harganya setengah di luar jam sibuk, sehingga input-nya saat itu lebih rendah daripada BroadNet (detail). Harga daftar BroadNet lebih rendah daripada Together dan Fireworks untuk DeepSeek V4.1 Flash dan GLM 5.3. Harga per token hanyalah satu faktor; periksa juga panjang konteks, retensi data, dan rate limit, yang tidak terlihat di tabel ini.

Di seluruh 119 model yang dijual beberapa host, bukan hanya empat ini, harga daftar termahal secara median 1,76 kali harga termurah; lihat model sama, host berbeda. Harga host juga lebih sering berubah daripada harga pembuat model: seberapa sering harga API LLM berubah.

Bagaimana dengan speech-to-text?

Groq mencantumkan whisper-large-v3-turbo seharga USD 0,04 per jam audio dan whisper-large-v3 seharga USD 0,111 per jam. DeepInfra mencantumkan Voxtral Mini seharga USD 0,001 per menit. Model multibahasa BroadNet berharga $0.002 per menit ($0.12 per jam), dan model bahasa Arabnya $0.0042 per menit. Untuk penyedia lain, lihat perbandingan harga API speech-to-text. Untuk bahasa Arab, akurasi pada dialek Anda lebih penting daripada tarifnya: cara memilih API speech-to-text bahasa Arab.

Bagaimana membandingkan penyedia untuk beban kerja Anda?

  1. Tetapkan model dan versinya. “DeepSeek V4.1 Flash” dan varian bertanggal bisa berbeda harga.
  2. Ukur komposisi token Anda: input, porsi cache, dan output, termasuk penalaran. Estimasi biaya sebelum peluncuran.
  3. Hitung dengan tiga tarif tiap penyedia, bukan hanya harga input. Untuk agen, tarif cache sering jadi penentu. Kalkulator biaya API LLM dan kalkulator prompt caching mengerjakan hitungannya.
  4. Terapkan diskon batch hanya untuk pekerjaan yang bisa menunggu.
  5. Tambahkan biaya: biaya pembelian kredit dan pengali tier.
  6. Periksa batasnya: rate limit, konkurensi, dan panjang konteks bisa menggugurkan penyedia berapa pun harganya.
  7. Bandingkan dengan paket harga tetap jika satu agen berjalan hampir sepanjang hari. Hitungan titik impas, atau kalkulator harga tetap vs per token.

Posisi BroadNet Inference

BroadNet menyajikan daftar model yang pendek, sebagian di-host oleh mitra inference di AS, dengan harga per token yang dipublikasikan di file harga. Tarif per tokennya berada di tengah, bukan yang terendah: jika yang penting hanya harga per token, harga diskon DeepInfra lebih murah. Yang tidak dijual penyedia lain di sini adalah DeepSeek V4.1 Flash tanpa batas seharga $60 per sesi per bulan, plus opsi mingguan $15 dan per jam $1. BroadNet bukan marketplace, tidak punya diskon batch, dan tidak punya GPU dedicated. Keunggulan lainnya adalah zero data retention di setiap permintaan, speech-to-text bahasa Arab, dan satu kunci API kompatibel OpenAI untuk chat dan audio. Jika Anda butuh puluhan keluarga model atau tarif promo terendah untuk beban kerja yang naik-turun, router atau host yang lebih besar akan lebih cocok.

Pertanyaan umum

Penyedia inference mana yang paling murah untuk model terbuka?

Tidak ada satu penyedia, dan per token bukan BroadNet. Saat kami cek pada 2026-11-14, harga diskon DeepInfra lebih rendah daripada BroadNet untuk DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B, dan OpenRouter mencantumkan endpoint DeepSeek V4.1 Flash dari sekitar USD 0,05 hingga USD 3 per 1 juta token input. Bandingkan model yang persis sama, harga cache, dan diskon batch.

Apakah OpenRouter menaikkan harga model?

OpenRouter menyatakan tidak ada markup pada harga inference. OpenRouter mengenakan biaya saat Anda membeli kredit: 5,5% pada paket Standard (minimum USD 0,80, menurut FAQ-nya) dan 8% pada Business, serta 5% untuk pembayaran kripto.

Apakah harga batch layak dipakai?

Untuk pekerjaan yang bisa menunggu, ya. Fireworks mencantumkan batch dengan diskon 50%, dan Groq mendokumentasikan diskon batch 50% dengan jendela 24 jam hingga 7 hari. Dokumentasi batch Together mencantumkan diskon 50% hanya untuk model tertentu (saat kami cek, tabelnya hanya menyebut `openai/whisper-large-v3`), dengan jendela penyelesaian tetap 24 jam.

Kapan sebaiknya saya menyewa GPU dedicated alih-alih bayar per token?

Saat trafik Anda membuat GPU sibuk hampir sepanjang hari. Harga GPU per jam tetap ditagih ada atau tidak ada permintaan, jadi trafik rendah atau naik-turun lebih murah per token.

Apakah ada penyedia yang menawarkan harga bulanan tetap untuk model terbuka?

BroadNet Inference menawarkannya untuk DeepSeek V4.1 Flash. Full Moon berharga $60 per sesi per bulan tanpa meteran token, satu permintaan dalam satu waktu.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity