BroadRouter
Mulai

Harga API LLM: input, input cache, output, dan token penalaran

Oleh tim BroadNet Inference · 6 menit baca · Dipublikasikan · Diperbarui

API LLM menagih per 1 juta token, dengan harga terpisah untuk input, input cache, dan output. Token penalaran ditagih sebagai output, gambar dihitung sebagai token input, dan speech-to-text ditagih per menit audio. Di BroadNet Inference, DeepSeek V4.1 Flash berharga $0.175 input, $0.0055 input cache, dan $0.52 output per 1 juta token.

A stream of tokens flowing into the words "Ideas become answers."

API LLM menagih per 1 juta token lewat meteran yang terpisah: input baru, input cache, dan output. Token penalaran ditagih sebagai output, gambar sebagai token input, dan speech-to-text per menit audio. Panduan ini menjelaskan setiap meteran, lalu menghitung harga permintaan nyata dengan tarif resmi BroadNet Inference, yang disinkronkan pada 2026-11-14.

Sebenarnya Anda membayar untuk apa?

Token adalah potongan teks, biasanya beberapa karakter. Dalam pengukuran BroadRouter sendiri di lima tokenizer, 1.000 kata bahasa Inggris setara sekitar 1,290 token; patokan kasar OpenAI adalah sekitar 75 kata per 100 token. Bahasa lain hasilnya berbeda; tempel teks Anda sendiri ke penghitung token gratis untuk melihat angka sebenarnya. Setiap permintaan melaporkan tokennya di blok usage, dan tagihan adalah jumlah dari meteran berikut:

Meteran Yang dihitung Ditagih dengan
Input (prompt) System prompt, riwayat, dokumen, definisi tool, gambar Harga input
Input cache Input yang sudah pernah diproses penyedia dan dipakai ulang Harga cache, jauh lebih rendah
Output (completion) Jawaban yang terlihat ditambah penalaran, jika ada Harga output
Menit audio Durasi audio yang dikirim untuk transkripsi Harga per menit

Pembagian token input dan output paling berpengaruh, karena kedua harganya berjauhan.

Berapa biaya per token setiap model?

Harga BroadNet Inference, per 1 juta token:

Model Input Input cache Output Konteks
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52 1.048.576
GLM 5.3 $0.78 $0.173 $3.46 1.048.576
Qwen3.8 27B $0.175 $0.0435 $2.17 262.144
Gemma 4 VL 26B $0.10 Tanpa diskon cache $0.22 32.768

Dua pola berlaku di daftar tarif ini dan di sebagian besar daftar lain. Output lebih mahal daripada input, dari sekitar dua kali lipat di Gemma 4 VL 26B sampai lebih dari sepuluh kali lipat di Qwen3.8 27B. Input cache hanya sebagian kecil dari harga input baru. Untuk membandingkan tarif ini dengan OpenAI, Anthropic, Google, dan penyedia lain, lihat tabel harga API LLM. Untuk median pasar, sebaran antarpenyedia, dan rasio output terhadap input di semua model yang kami pantau, lihat indeks harga API LLM (CSV dan JSON terbuka).

Kenapa output lebih mahal daripada input?

Model membaca seluruh prompt Anda dalam satu proses paralel. Jawabannya ditulis satu token demi satu token, dan setiap token baru butuh satu proses lagi. Karena itu output memakai lebih banyak waktu GPU per token, dan harganya mencerminkan hal itu. Prompt pendek dengan jawaban panjang bisa lebih mahal daripada prompt panjang dengan jawaban pendek.

Bagaimana token input cache ditagih?

Ketika awal prompt Anda sama dengan permintaan baru-baru ini, penyedia bisa memakai ulang hasil kerjanya. Token input cache itu muncul sebagai prompt_tokens_details.cached_tokens dan ditagih dengan harga cache. Di DeepSeek V4.1 Flash, itu berarti $0.0055 alih-alih $0.175 per 1 juta token.

Cache menguntungkan prompt dengan awalan yang stabil: system prompt, daftar tool, dan dokumen di depan, pesan baru di paling akhir. Agen yang mengirim ulang repositori yang sama di setiap giliran paling diuntungkan. Untuk cara setiap penyedia menagih pembacaan dan penulisan cache, lihat penjelasan token input cache; untuk memodelkan tingkat cache Anda sendiri, gunakan kalkulator prompt caching.

Kenapa model penalaran menagih output lebih banyak daripada yang Anda lihat?

DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B berpikir dulu sebelum menjawab. Proses berpikir itu terdiri dari token penalaran. Anda tidak melihatnya di jawaban, tetapi token itu dihitung dalam completion_tokens dan ditagih dengan harga output. Panduan reasoning OpenAI menjelaskan aturan yang sama untuk model-modelnya: reasoning tokens “are billed as output tokens” (Terjemahan BroadRouter: token penalaran “ditagih sebagai token output”).

Penalaran juga dihitung dalam max_tokens. Jika nilainya terlalu rendah, Anda membayar proses berpikir tanpa mendapat jawaban. Baca kenapa jawaban kembali kosong dan cara menekan biaya penalaran.

Bagaimana harga gambar dan audio?

Gambar. Model vision mengubah gambar menjadi token input. Anda membayar harga input untuk token itu, dan gambar yang lebih besar memakai lebih banyak token. Tidak ada biaya terpisah per gambar di BroadNet. Perbandingan biaya per gambar.

Audio. Speech-to-text ditagih berdasarkan durasi audio, bukan token:

Model Per menit Per jam audio
BroadNet Transcribe Arabic $0.0042 $0.25
BroadNet Transcribe (14 bahasa) $0.002 $0.12

Berapa biaya permintaan nyata? Contoh hitungan

Contoh berikut memakai DeepSeek V4.1 Flash. Setiap contoh dibuat agar totalnya jatuh tepat di kelipatan 1 juta token, supaya hitungannya mudah dicek.

  1. Fitur chat. 500 permintaan, masing-masing dengan 2.000 token input dan 2.000 token output, memakai 1 juta token input dan 1 juta token output. Biaya: $0.175 ditambah $0.52.
  2. Agen yang membaca ulang konteksnya. Sepuluh giliran yang masing-masing mengirim konteks 100.000 token yang sama berjumlah 1 juta token input. Jika tidak ada yang dari cache, biayanya $0.175. Jika semuanya dari cache, biayanya $0.0055, tetapi giliran pertama belum punya apa pun untuk dipakai ulang, jadi anggap itu batas bawah: paling baik, 900.000 token ditagih dengan harga cache dan 100.000 token pertama dengan harga input.
  3. Penalaran tersembunyi. 1.000 jawaban berisi 200 token yang terlihat, masing-masing dengan 800 token penalaran, ditagih sebagai 1 juta token output: $0.52. Hanya seperlimanya berupa teks yang Anda lihat.
  4. Transkripsi. 1.000 jam audio bahasa Arab berbiaya $252.00. 10.000 pesan suara berdurasi 30 detik berbiaya $21.00.

Rumus umumnya:

cost = new_input/1M × input_price
     + cached_input/1M × cached_price
     + output/1M × output_price      (output includes reasoning)

Untuk menghitung angka ini dengan trafik Anda sendiri, gunakan kalkulator biaya API LLM gratis. Untuk perkiraan lengkap fitur baru, baca cara memperkirakan biaya API LLM sebelum peluncuran.

Bagaimana cara membaca angka sebenarnya dari respons?

Begitu trafik sudah berjalan, jangan memperkirakan dari jumlah kata. Baca angkanya:

import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
r = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    messages=[{"role": "user", "content": "Summarise this ticket in one line: ..."}],
)
u = r.usage
details = u.prompt_tokens_details  # can be None when the model reports no cache data
cached = (details.cached_tokens or 0) if details else 0
print(u.prompt_tokens, cached, u.completion_tokens)

Saat memakai streaming, tambahkan stream_options={"include_usage": True} agar chunk terakhir membawa usage. Panduan streaming.

Model harga apa lagi yang ada?

Penagihan per token bukan satu-satunya pilihan:

  • Paket harga tetap. Paket harga tetap menagih berdasarkan waktu, bukan token. Full Moon dari BroadNet berharga $60 per bulan per sesi untuk DeepSeek V4.1 Flash tanpa batas, satu permintaan dalam satu waktu. Orbit $15 per minggu, Meteor $1 per jam.
  • Kunci per jam. Dengan $0.50, Anda mendapat satu jam Gemma 4 VL 26B dengan satu stream. Penjelasan kunci per jam.
  • Batch dan GPU khusus. Sebagian penyedia memberi diskon untuk pekerjaan batch semalam atau menyewakan GPU utuh per jam. Cara penyedia lain menetapkan harga model terbuka.

Kapan paket harga tetap lebih untung daripada per token bergantung pada volume dan tingkat cache. Untuk semua cara berhemat secara berurutan, dari cache sampai diskon batch, baca cara menekan biaya API LLM.

Harga per token juga berubah dari waktu ke waktu, naik maupun turun. Di halaman harga yang diarsipkan dari 11 penyedia, 80% model tidak pernah berubah harga. Di antara model yang harganya berubah, kami mencatat 100 penurunan harga serta 52 kenaikan, masing-masing membandingkan harga suatu model dengan harganya sendiri sebelumnya. Lihat seberapa sering harga API LLM berubah dan penurunan harga API LLM terbesar, lengkap dengan sumbernya.

Posisi BroadNet Inference

BroadNet memublikasikan satu daftar tarif untuk setiap model yang dilayaninya, dalam file yang bisa dibaca mesin yang dibaca oleh halaman harga situs ini. Akun baru mendapat kredit awal $5; Gemma 4 VL 26B dan kedua model transkripsi bisa dipakai dengan kredit itu, sedangkan model chat lainnya memerlukan top up. Cocok jika Anda ingin harga per token dan harga tetap dalam satu akun; paket mendapat kuncinya sendiri. Bukan tempatnya untuk model tertutup kelas frontier: BroadNet hanya melayani model open-weight dan build buatannya sendiri.

Pertanyaan umum

Bagaimana cara menghitung biaya API LLM?

Kalikan token input dengan harga input, token input cache dengan harga cache, dan token output dengan harga output, masing-masing per 1 juta token, lalu jumlahkan. Token penalaran sudah termasuk dalam output.

Kenapa token output lebih mahal daripada token input?

Model membaca input dalam satu proses paralel, tetapi menghasilkan output satu token demi satu token, sehingga setiap token output memakai lebih banyak waktu GPU. Penyedia memasukkan selisih itu ke dalam harga.

Apakah token penalaran ikut ditagih?

Ya, pada kunci yang ditagih per token. Token penalaran dilaporkan di dalam completion tokens dan ditagih dengan harga output, meskipun tidak ditampilkan di jawaban.

Berapa biaya satu gambar di API LLM?

Gambar diubah menjadi token input, jadi biayanya adalah jumlah tokennya dikali harga input. Gambar yang lebih besar memakai lebih banyak token. Lihat prompt_tokens di blok usage untuk mengetahui angka sebenarnya.

Apa cara bayar termurah untuk agen yang berjalan terus-menerus?

Biasanya paket harga tetap. Di BroadNet, satu sesi Full Moon berharga $60 per bulan untuk DeepSeek V4.1 Flash tanpa batas, satu permintaan dalam satu waktu.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity