API LLM mengebil setiap sejuta token pada meter yang berasingan: input baharu, input cache dan output. Token penaakulan dibilkan sebagai output, imej sebagai token input, dan speech-to-text setiap minit audio. Panduan ini menerangkan setiap meter, kemudian mengira harga permintaan sebenar menggunakan kadar terbitan BroadNet Inference, yang diselaraskan pada 2026-11-14.
Apakah sebenarnya yang anda bayar?
Token ialah cebisan teks, biasanya beberapa aksara. Dalam pengukuran BroadRouter sendiri merentas lima tokenizer, 1,000 perkataan bahasa Inggeris menjadi kira-kira 1,290 token; panduan kasar OpenAI pula ialah kira-kira 75 perkataan bagi setiap 100 token. Bahasa lain berbeza; tampal teks anda sendiri ke dalam pengira token percuma untuk melihat angka sebenar. Setiap permintaan melaporkan tokennya dalam blok usage, dan bil ialah jumlah meter berikut:
| Meter | Apa yang dikira | Harga yang dikenakan |
|---|---|---|
| Input (prompt) | System prompt, sejarah, dokumen, definisi tool, imej | Harga input |
| Input cache | Input yang sudah diproses oleh penyedia dan digunakan semula | Harga cache, jauh lebih rendah |
| Output (completion) | Jawapan yang kelihatan serta sebarang penaakulan | Harga output |
| Minit audio | Panjang audio yang dihantar untuk transkripsi | Harga seminit |
Pembahagian token input dan output paling penting, kerana kedua-dua harga itu jauh berbeza.
Berapakah kos setiap model bagi setiap token?
Harga BroadNet Inference, bagi setiap 1M token:
| Model | Input | Input cache | Output | Konteks |
|---|---|---|---|---|
| DeepSeek V4.1 Flash | $0.175 | $0.0055 | $0.52 | 1,048,576 |
| GLM 5.3 | $0.78 | $0.173 | $3.46 | 1,048,576 |
| Qwen3.8 27B | $0.175 | $0.0435 | $2.17 | 262,144 |
| Gemma 4 VL 26B | $0.10 | Tiada diskaun cache | $0.22 | 32,768 |
Dua corak berlaku pada senarai kadar ini dan pada kebanyakan yang lain. Output lebih mahal daripada input, daripada kira-kira dua kali ganda pada Gemma 4 VL 26B hingga lebih sepuluh kali ganda pada Qwen3.8 27B. Input cache hanya sebahagian kecil daripada harga input baharu. Untuk membandingkan kadar ini dengan OpenAI, Anthropic, Google dan penyedia lain, lihat jadual harga API LLM. Untuk median seluruh pasaran, julat antara penyedia dan nisbah output kepada input bagi setiap model yang kami jejaki, lihat indeks harga API LLM (CSV dan JSON terbuka).
Mengapakah output lebih mahal daripada input?
Model membaca keseluruhan prompt anda dalam satu laluan selari. Ia menulis jawapan satu token demi satu token, dan setiap token baharu memerlukan satu laluan lagi. Oleh itu output menggunakan lebih banyak masa GPU bagi setiap token, dan harganya mencerminkan perkara itu. Prompt pendek dengan jawapan panjang boleh lebih mahal daripada prompt panjang dengan jawapan pendek.
Bagaimanakah token input cache dibilkan?
Apabila permulaan prompt anda sepadan dengan permintaan baru-baru ini, penyedia boleh menggunakan semula kerjanya. Token input cache itu muncul sebagai prompt_tokens_details.cached_tokens dan dibilkan pada harga cache. Pada DeepSeek V4.1 Flash, itu ialah $0.0055 dan bukannya $0.175 bagi setiap 1M.
Caching memberi ganjaran kepada prompt yang mempunyai awalan stabil: system prompt, senarai tool dan dokumen dahulu, mesej baharu paling akhir. Ejen yang menghantar semula repositori yang sama pada setiap giliran paling banyak untung. Untuk cara setiap penyedia mengebil bacaan dan tulisan cache, lihat token input cache dijelaskan; untuk memodelkan kadar cache anda sendiri, gunakan kalkulator prompt caching.
Mengapakah model penaakulan mengebil lebih banyak output daripada yang anda lihat?
DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B berfikir sebelum menjawab. Pemikiran itu terdiri daripada token penaakulan. Anda tidak melihatnya dalam jawapan, tetapi ia dikira dalam completion_tokens dan dibilkan pada harga output. Panduan penaakulan OpenAI menerangkan peraturan yang sama untuk modelnya: token penaakulan “are billed as output tokens” (Terjemahan: dibilkan sebagai token output).
Penaakulan juga dikira dalam max_tokens. Tetapkannya terlalu rendah dan anda membayar untuk pemikiran tanpa jawapan. Mengapa jawapan kembali kosong, dan cara mengurangkan kos penaakulan.
Bagaimanakah imej dan audio dihargakan?
Imej. Model penglihatan (vision) menukar imej menjadi token input. Anda membayar harga input untuknya, dan imej yang lebih besar menggunakan lebih banyak token. Tiada caj berasingan bagi setiap imej di BroadNet. Kos setiap imej dibandingkan.
Audio. Speech-to-text dibilkan mengikut panjang audio, bukan token:
| Model | Seminit | Sejam audio |
|---|---|---|
| BroadNet Transcribe Arabic | $0.0042 | $0.25 |
| BroadNet Transcribe (14 bahasa) | $0.002 | $0.12 |
Berapakah kos permintaan sebenar? Contoh pengiraan
Contoh ini menggunakan DeepSeek V4.1 Flash. Setiap contoh disaiz supaya jumlahnya jatuh pada juta token yang genap, jadi pengiraannya mudah disemak.
- Ciri chat. 500 permintaan, setiap satu dengan 2,000 token input dan 2,000 token output, menggunakan 1M token input dan 1M token output. Kos: $0.175 ditambah $0.52.
- Ejen yang membaca semula konteksnya. Sepuluh giliran yang setiap satunya menghantar konteks 100,000 token yang sama berjumlah 1M token input. Jika tiada yang di-cache, kosnya $0.175. Jika semuanya di-cache, kosnya $0.0055, tetapi giliran pertama tiada apa untuk diguna semula, jadi anggap itu sebagai had bawah: paling baik, 900,000 token dibilkan pada harga cache dan 100,000 yang pertama pada harga input.
- Penaakulan tersembunyi. 1,000 jawapan dengan 200 token yang kelihatan, setiap satu dengan 800 token penaakulan, dibilkan 1M token output: $0.52. Hanya satu perlima daripadanya ialah teks yang anda lihat.
- Transkripsi. 1,000 jam audio bahasa Arab berharga $252.00. 10,000 nota suara 30 saat berharga $21.00.
Formula umum:
cost = new_input/1M × input_price
+ cached_input/1M × cached_price
+ output/1M × output_price (output includes reasoning)
Untuk mengira angka ini bagi trafik anda sendiri, gunakan kalkulator kos API LLM percuma. Untuk ramalan penuh bagi ciri baharu, lihat cara menganggar kos API LLM sebelum pelancaran.
Bagaimanakah anda membaca angka sebenar daripada respons?
Jangan menganggar daripada bilangan perkataan apabila anda sudah ada trafik. Bacalah angkanya:
import os
from openai import OpenAI
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
r = client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
messages=[{"role": "user", "content": "Summarise this ticket in one line: ..."}],
)
u = r.usage
details = u.prompt_tokens_details # can be None when the model reports no cache data
cached = (details.cached_tokens or 0) if details else 0
print(u.prompt_tokens, cached, u.completion_tokens)
Semasa streaming, tambah stream_options={"include_usage": True} supaya chunk terakhir membawa usage. Panduan streaming.
Apakah model harga lain yang wujud?
Pengebilan setiap token bukan satu-satunya pilihan:
- Pelan harga tetap. Pelan kadar tetap mengenakan caj mengikut masa, bukan token. Full Moon BroadNet berharga $60 sebulan setiap sesi untuk DeepSeek V4.1 Flash tanpa had, satu permintaan pada satu masa. Orbit berharga $15 seminggu, Meteor $1 sejam.
- Kunci sejam. $0.50 membeli satu jam Gemma 4 VL 26B pada satu strim. Kunci sejam dijelaskan.
- Batch dan GPU khusus. Sesetengah penyedia memberi diskaun untuk kerja batch semalaman atau menyewakan GPU penuh mengikut jam. Cara penyedia lain menghargakan model terbuka.
Bilakah pelan harga tetap lebih berbaloi daripada bayar setiap token bergantung pada volum dan kadar cache. Untuk setiap cara penjimatan mengikut urutan, daripada caching hingga diskaun batch, lihat cara mengurangkan kos API LLM.
Harga setiap token juga berubah dari semasa ke semasa, naik dan turun. Dalam halaman harga yang diarkibkan daripada 11 penyedia, 80% model tidak pernah berubah harga. Dalam kalangan model yang berubah, kami merekodkan 100 penurunan harga dan 52 kenaikan, setiap satu ialah harga sesuatu model berbanding harganya sendiri sebelum itu. Lihat berapa kerap harga API LLM berubah dan penurunan harga API LLM terbesar, dengan sumber.
Kedudukan BroadNet Inference
BroadNet menerbitkan satu senarai kadar untuk setiap model yang disediakannya, dalam fail yang boleh dibaca mesin yang dibaca oleh halaman harga laman ini. Akaun baharu bermula dengan kredit $5; Gemma 4 VL 26B dan kedua-dua model transkripsi boleh digunakan dengannya, manakala model chat lain memerlukan tambah nilai. Ia sesuai jika anda mahukan harga setiap token dan harga tetap dalam satu akaun; pelan mendapat kunci tersendiri. Ia bukan tempat untuk model tertutup frontier: ia hanya menyediakan model open-weight dan binaannya sendiri.

