BroadRouter

Harga model terbuka di penyedia inferens: 6 dibandingkan

Oleh pasukan BroadNet Inference · 7 minit bacaan · Diterbitkan · Dikemas kini

Kebanyakan penyedia meletakkan harga model terbuka setiap sejuta token, dengan input cache yang lebih murah dan selalunya diskaun 50% untuk kerja batch. Together AI, Fireworks dan DeepInfra juga menyewakan GPU mengikut jam. OpenRouter menyalurkan harga penyedia dan mengenakan yuran pada pembelian kredit. Groq meliputi senarai model yang pendek. BroadNet menambah pelan kadar tetap bulanan, mingguan dan sejam untuk DeepSeek V4.1 Flash.

“Harga setiap sejuta token” nampak seperti boleh dibandingkan antara penyedia. Sebenarnya tidak begitu. Penyedia berbeza dari segi model yang dihoskan, kos input cache, sama ada kerja batch didiskaun, sama ada anda boleh menyewa GPU dan yuran apa yang dikenakan di atasnya. Catatan ini membandingkan enam penyedia model open-weight dari segi cara mereka meletakkan harga, kemudian meletakkan harga yang diterbitkan untuk model yang sama bersebelahan. Semua angka pesaing diambil daripada halaman rasmi setiap penyedia, disemak 2026-11-14; pautannya ada dalam sumber. Harga kerap berubah, jadi semak semula sebelum anda membuat komitmen.

Apakah lima cara harga model terbuka ditetapkan?

  1. Setiap token, tanpa pelayan (serverless). Harga berasingan setiap 1M token input dan output. Semua penyedia dalam senarai ini menawarkannya.
  2. Input cache. Kadar lebih rendah untuk awalan prompt yang berulang. Diskaun berjulat daripada separuh harga hingga beberapa peratus sahaja daripada kadar input. Token input cache dijelaskan.
  3. Batch. Harga lebih rendah untuk kerja yang boleh menunggu beberapa jam.
  4. GPU khusus. Sewa perkakasan mengikut jam dan jalankan model sendiri atau melalui stack penyedia. Hos sendiri vs API: titik pulang modal, atau cuba dengan angka anda sendiri dalam kalkulator hos sendiri vs API.
  5. Pelan kadar tetap. Harga tetap untuk tempoh masa, tanpa meter token. Lihat pelan LLM kadar tetap.

Bagaimanakah setiap penyedia meletakkan harga model terbuka?

Penyedia Model Setiap token Input cache Batch GPU khusus Pelan kadar tetap
OpenRouter Penghala merentas banyak penyedia Harga penyedia, “no markup” Ikut penyedia Ikut penyedia Tidak Tidak
Together AI Serverless sendiri + khusus Ya Disenaraikan untuk sesetengah model Diskaun 50% untuk model terpilih (Whisper Large v3 sahaja, semasa disemak) H100 dari USD 5.49 setiap jam GPU Tidak
Fireworks AI Serverless sendiri + atas permintaan Ya, dari USD 0.05 setiap 1M input Diskaun 50% secara lalai, lebih untuk sesetengah model Diskaun 50% H100 USD 8.00 sejam Tidak
Groq Perkakasan sendiri Ya, senarai model pendek Diskaun 50%, pada model GPT-OSS Diskaun 50% Tidak disenaraikan Tidak
DeepInfra Serverless sendiri + khusus Ya, sesetengah model dibilkan mengikut masa pelaksanaan Disenaraikan untuk banyak model Tidak disenaraikan pada halaman harga H100 USD 2.90 setiap jam GPU Tidak
BroadNet Inference Senarai model pendek; model dihoskan rakan kongsi bersama rakan inferens di AS Ya Disenaraikan untuk tiga daripada empat model chat Tidak ditawarkan Tidak Ya, DeepSeek V4.1 Flash

Catatan daripada halaman-halaman tersebut:

  • OpenRouter menyatakan “there is no markup on inference pricing” (Terjemahan: tiada markup pada harga inferens). Ia mengenakan yuran apabila anda membeli kredit: 5.5% pada pelan Standard (minimum USD 0.80, menurut soalan lazimnya) dan 8% pada Business, atau 5% untuk kripto. Varian model percuma dihadkan kepada 20 permintaan seminit dan 50 sehari, atau 1,000 sehari selepas membeli sekurang-kurangnya USD 10 kredit. Ia sebuah penghala, jadi satu model boleh mempunyai banyak harga. OpenRouter vs penyedia kadar tetap.
  • Together AI menyenaraikan H100 khusus pada USD 5.49 setiap jam GPU atas permintaan. Dokumentasi batchnya menyatakan model serverless terpilih berjalan dengan diskaun 50%, dengan tetingkap penyiapan tetap 24 jam, tetapi jadual model berdiskaun hanya menyenaraikan openai/whisper-large-v3 semasa kami menyemak. Model lain berjalan pada kadar standard.
  • Fireworks mempunyai mod Standard, Priority, Fast, Batch (diskaun 50%) dan Spot (diskaun 30% pada model terpilih). Input cache dibilkan pada separuh harga atau kurang, tanpa yuran tulis.
  • Groq menyenaraikan harga setiap token untuk set kecil model pengeluaran, seperti openai/gpt-oss-120b pada USD 0.15 input dan USD 0.60 output setiap 1M, dan Whisper speech-to-text mengikut jam. Input cache separuh harga pada model GPT-OSS, dan kerja batch berjalan dengan diskaun 50% dalam tempoh 24 jam hingga 7 hari.
  • DeepInfra menunjukkan banyak model dengan kadar diskaun di sebelah harga senarai, contohnya diskaun 51% untuk DeepSeek-V4.1-Flash-1017 dan 38% untuk GLM-5.3. Halaman itu tidak menyatakan bila diskaun ini tamat. Ia juga menawarkan peringkat Standard, Priority (1.5×) dan Flex (0.8×).

Berapakah kos model yang sama di setiap penyedia?

Harga setiap 1M yang diterbitkan untuk model yang turut disediakan oleh BroadNet. ”—” bermaksud model itu tiada pada halaman harga penyedia tersebut.

DeepSeek V4.1 Flash (input / cache / output):

Penyedia Input Cache Output
Together AI USD 0.30 USD 0.006 USD 1.20
Fireworks AI USD 0.30 USD 0.006 USD 1.20
DeepInfra, harga senarai USD 0.20 USD 0.006 USD 0.60
DeepInfra, diskaun (30%) USD 0.14 USD 0.0042 USD 0.42
DeepInfra, DeepSeek-V4.1-Flash-1017, diskaun (51%) USD 0.098 USD 0.0029 USD 0.294
Groq — — —
BroadNet Inference $0.175 $0.0055 $0.52

Varian bertarikh -1017 DeepInfra ialah keluaran yang sama yang disediakan oleh API DeepSeek sendiri sebagai deepseek-flash; semak yang mana satu dipanggil oleh kod anda. Di OpenRouter, model ini mempunyai 37 endpoint daripada 28 penyedia semasa kami menyemak, daripada kira-kira USD 0.05 (Baidu) hingga USD 3 (peringkat terpantas Venice) setiap 1M token input. Jadual harga DeepSeek V4.1 Flash kami menyenaraikan setiap penyedia yang menerbitkan harganya sendiri untuk model ini, dengan halaman sumber dan tarikh semakan pada setiap baris. Sejauh mana jurang harga bagi model yang sama di seluruh pasaran diukur dalam indeks harga API LLM kami. Untuk perbandingan harga model terbuka ini dengan GPT, Claude dan Gemini bagi beban kerja yang sama, lihat kos API model open-weight vs tertutup.

GLM 5.3 (harga setiap penyedia: jadual harga GLM 5.3):

Penyedia Input Cache Output
Together AI USD 1.40 USD 0.26 USD 4.40
Fireworks AI USD 1.40 USD 0.26 USD 4.40
DeepInfra, harga senarai USD 0.90 USD 0.20 USD 4.00
DeepInfra, diskaun (38%) USD 0.5625 USD 0.125 USD 2.50
BroadNet Inference $0.78 $0.173 $3.46

Qwen3.8 27B (harga setiap penyedia: jadual harga Qwen3.8 27B):

Penyedia Input Cache Output
DeepInfra, harga senarai USD 0.20 USD 0.05 USD 2.50
DeepInfra, diskaun (25%) USD 0.15 USD 0.0375 USD 1.875
Groq (pratonton, untuk penilaian sahaja) USD 0.80 — USD 4.00
BroadNet Inference $0.175 $0.0435 $2.17

Gemma 4 26B A4B (binaan BroadNet ialah Gemma 4 VL 26B):

Penyedia Input Output
DeepInfra USD 0.07 USD 0.34
BroadNet Inference $0.10 $0.22

BroadNet bukan yang paling murah setiap token di sini. Kadar diskaun DeepInfra lebih rendah daripada BroadNet pada setiap baris untuk DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B, dan lebih rendah untuk input Gemma (output Gemma BroadNet lebih rendah). API DeepSeek sendiri memotong separuh semua harganya pada waktu luar puncak, menjadikan inputnya lebih rendah daripada BroadNet pada waktu itu (butiran). Harga senarai BroadNet lebih rendah daripada Together dan Fireworks untuk DeepSeek V4.1 Flash dan GLM 5.3. Harga setiap token hanyalah satu faktor; semak juga panjang konteks, pengekalan data dan had kadar, yang tidak ditunjukkan dalam jadual ini.

Merentas kesemua 119 model yang dijual oleh beberapa hos, bukan hanya empat ini, harga senarai yang paling mahal ialah median 1.76 kali ganda harga yang paling murah; lihat model sama, hos berbeza. Harga hos juga berubah lebih kerap daripada harga pembuat model: berapa kerap harga API LLM berubah.

Bagaimana pula dengan speech-to-text?

Groq menyenaraikan whisper-large-v3-turbo pada USD 0.04 setiap jam audio dan whisper-large-v3 pada USD 0.111 sejam. DeepInfra menyenaraikan Voxtral Mini pada USD 0.001 seminit. Model berbilang bahasa BroadNet berharga $0.002 seminit ($0.12 sejam), dan model bahasa Arabnya $0.0042 seminit. Untuk lebih banyak penyedia, lihat harga API speech-to-text dibandingkan. Untuk bahasa Arab, ketepatan pada dialek anda lebih penting daripada kadarnya: cara memilih API speech-to-text bahasa Arab.

Bagaimanakah anda membandingkan penyedia untuk beban kerja anda?

  1. Tetapkan model dan versi. “DeepSeek V4.1 Flash” dan varian bertarikh boleh mempunyai harga berbeza.
  2. Ukur campuran token anda: input, bahagian cache dan output, termasuk penaakulan. Anggarkan kos sebelum pelancaran.
  3. Kira harganya dengan tiga kadar setiap penyedia, bukan hanya harga input. Untuk ejen, kadar cache selalunya menjadi penentu. Kalkulator kos API LLM dan kalkulator prompt caching membuat kiraannya.
  4. Gunakan diskaun batch hanya untuk kerja yang boleh menunggu.
  5. Tambah yuran: yuran pembelian kredit dan pendarab peringkat.
  6. Semak hadnya: had kadar, keserentakan dan panjang konteks boleh menyingkirkan sesuatu penyedia walau berapa pun harganya.
  7. Bandingkan dengan pelan kadar tetap jika satu ejen berjalan hampir sepanjang hari. Kiraan pulang modal, atau kalkulator kadar tetap vs setiap token.

Kedudukan BroadNet Inference

BroadNet menyediakan senarai model yang pendek, sebahagiannya dihoskan rakan kongsi bersama rakan inferens di AS, dengan harga setiap token diterbitkan dalam fail harga. Kadar setiap tokennya berada di tengah-tengah jadual, bukan yang terendah: jika harga setiap token sahaja yang penting, senarai berdiskaun DeepInfra lebih murah. Apa yang tidak dijual oleh penyedia lain di sini ialah DeepSeek V4.1 Flash tanpa had pada $60 sebulan bagi setiap sesi, serta pilihan mingguan $15 dan sejam $1. Ia bukan pasaran, tiada diskaun batch dan tiada GPU khusus. Kelebihan lainnya ialah pengekalan data sifar pada setiap permintaan, speech-to-text bahasa Arab dan satu kunci serasi OpenAI untuk chat dan audio. Jika anda memerlukan berpuluh-puluh keluarga model atau kadar promosi terendah untuk beban kerja yang tidak menentu, penghala atau hos yang lebih besar akan lebih sesuai untuk anda.

Soalan lazim

Penyedia inferens manakah yang paling murah untuk model terbuka?

Tiada satu penyedia pun, dan bukan BroadNet jika dikira setiap token. Semasa kami menyemak pada 2026-11-14, kadar diskaun DeepInfra lebih rendah daripada BroadNet untuk DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B, dan OpenRouter menyenaraikan endpoint DeepSeek V4.1 Flash daripada kira-kira USD 0.05 hingga USD 3 setiap 1M token input. Bandingkan model yang tepat, kadar cache dan diskaun batch.

Adakah OpenRouter menaikkan harga model?

OpenRouter menyatakan tiada markup pada harga inferens. Ia mengenakan yuran apabila anda membeli kredit: 5.5% pada pelan Standard (minimum USD 0.80, menurut soalan lazimnya) dan 8% pada Business, serta 5% untuk bayaran kripto.

Adakah harga batch berbaloi?

Untuk kerja yang boleh menunggu. Fireworks menyenaraikan batch dengan diskaun 50%, dan Groq mendokumenkan diskaun batch 50% dengan tetingkap 24 jam hingga 7 hari. Dokumentasi batch Together menyenaraikan diskaun 50% untuk model terpilih sahaja (jadual hanya menamakan `openai/whisper-large-v3` semasa kami menyemak), dengan tetingkap penyiapan tetap 24 jam.

Bilakah saya patut menyewa GPU khusus dan bukannya membayar setiap token?

Apabila trafik anda memastikan GPU sibuk hampir sepanjang hari. Harga GPU sejam dikenakan sama ada permintaan masuk atau tidak, jadi trafik yang rendah atau tidak menentu lebih murah jika dibayar setiap token.

Adakah mana-mana penyedia menawarkan harga bulanan tetap untuk model terbuka?

BroadNet Inference menawarkannya, untuk DeepSeek V4.1 Flash. Full Moon berharga $60 sebulan bagi setiap sesi tanpa meter token, satu permintaan pada satu masa.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity