Untuk mengestimasi biaya API LLM sebelum peluncuran, hitung harga satu aksi pengguna, bukan satu panggilan API. Hitung panggilan di baliknya, ukur token input baru, input cache, dan output pada 20 sampai 50 sampel nyata, kalikan dengan jumlah aksi per bulan, lalu tambahkan penalaran dan retry. Contoh balasan dukungan kami dengan DeepSeek V4.1 Flash menghasilkan $42.67 per bulan.
Ini adalah proyeksi sebelum peluncuran untuk satu fitur; setelah Anda punya pengguna berbayar, biaya LLM per pengguna untuk SaaS membahas margin dan tier harga.
Apa rumus biaya API LLM?
monthly cost = actions per month × calls per action
× ( new input tokens × input price
+ cached input tokens × cached price
+ output tokens × output price ) / 1,000,000
Istilah dalam rumus: aksi per bulan, panggilan per aksi, token input baru, token input cache, dan token output, masing-masing dengan harganya. Token output mencakup penalaran. Token cache adalah input yang dipakai ulang penyedia dengan harga lebih rendah. Sisanya adalah pengukuran. Kalkulator biaya API LLM gratis menerapkan rumus ini ke harga daftar model mana pun.
Bagaimana menyusun model biaya, langkah demi langkah?
- Beri nama unit kerjanya. “Buat draf balasan dukungan”, “ringkas panggilan”, “perbaiki tes yang gagal”. Hitung harga untuk itu, bukan untuk “satu permintaan”.
- Hitung panggilan per aksi. Jawaban berbasis retrieval bisa satu panggilan. Agen yang merencanakan, mengedit, dan memeriksa bisa sepuluh. Tambahkan tingkat retry Anda: timeout yang Anda coba ulang ditagih lagi.
- Ukur token per panggilan pada sampel nyata. Ambil 20 sampai 50 input yang realistis, bukan demo yang rapi. Untuk hitungan kasar pertama sebelum memanggil API apa pun, tempelkan ke penghitung token. Baca
usage.prompt_tokens,usage.prompt_tokens_details.cached_tokens, danusage.completion_tokensdari setiap respons. Dengan streaming, setelstream_options: {"include_usage": true}; panduan streaming menunjukkan di mana angkanya muncul. - Pisahkan input baru dan input cache. System prompt, daftar tool, dan dokumen bersama bisa di-cache jika diletakkan di awal dan tetap identik. Teks pengguna tidak bisa.
- Masukkan penalaran ke output. DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B berpikir sebelum menjawab. Token penalaran itu ditagih sebagai output, dan sering lebih besar daripada balasan yang terlihat. Mengapa penalaran lebih mahal daripada yang terlihat.
- Estimasikan volume. Pengguna aktif × aksi per pengguna per hari × 30.
- Kalikan dan jumlahkan. Ubah total token ke satuan juta dan terapkan harga per 1 juta.
- Hitung tiga skenario. Rendah, perkiraan, dan tinggi. Trafik saat peluncuran tidak pasti, dan prompt makin panjang seiring waktu.
- Periksa batas, bukan hanya uang. Puncak permintaan per menit dan permintaan berjalan harus muat dalam rate limit kunci Anda.
- Tentukan model penagihan. Per token untuk trafik naik-turun yang digerakkan pengguna; paket harga tetap untuk agen yang selalu menyala.
Seperti apa contoh estimasinya? Pembuat draf balasan dukungan
Sebuah aplikasi help desk menambahkan fitur “Buat draf balasan”. Angka di bawah adalah asumsi untuk ilustrasi. Ganti masing-masing dengan hasil pengukuran Anda.
| Input | Nilai | Sumbernya |
|---|---|---|
| Agen dukungan (staf) yang memakai fitur ini | 500 | Rencana produk |
| Draf per agen per hari | 4 | Pemakaian uji coba |
| Hari dalam sebulan | 30 | |
| Aksi per bulan | 60.000 | 500 × 4 × 30 |
| Panggilan per aksi | 1 | Satu panggilan dengan artikel hasil retrieval |
| Token input per panggilan | 5.000 | System prompt, utas tiket, tiga artikel bantuan |
| Porsi input dari cache | 50% | System prompt dan prefiks artikel yang stabil |
| Token output per panggilan | 500 | Sekitar 200 terlihat, 300 penalaran |
| Model | DeepSeek V4.1 Flash | $0.175 / $0.0055 / $0.52 per 1 juta |
Sekarang totalnya:
| Pos | Token per bulan | Harga per 1 juta |
|---|---|---|
| Input baru | 150 jt | $0.175 |
| Input cache | 150 jt | $0.0055 |
| Output, termasuk penalaran | 30 jt | $0.52 |
| Perkiraan biaya bulanan | $42.67 |
Itu berarti 300 juta token input dan 30 juta token output: 60.000 × 5.000 dan 60.000 × 500.
Seberapa lebar skenario rendah dan tinggi?
| Skenario | Aksi per bulan | Token input / output | Biaya bulanan |
|---|---|---|---|
| Rendah: adopsi lambat | 20.000 | 100 jt / 10 jt | $14.23 |
| Perkiraan | 60.000 | 300 jt / 30 jt | $42.67 |
| Tinggi: adopsi 3× | 180.000 | 900 jt / 90 jt | 3 × $42.67 |
Ketiganya memakai porsi cache 50% yang sama. Jika porsi cache turun, tagihan naik: input baru berbiaya $0.175 per 1 juta di model ini, dibandingkan $0.0055 untuk input cache. Cara menjaga porsi cache tetap tinggi.
Apa yang paling menggeser estimasinya?
- Panjang konteks. Retrieval yang menarik sepuluh artikel alih-alih tiga bisa menggandakan input. Ukur token setelah setiap perubahan prompt.
- Penalaran. Menyetel
reasoning_effortkelowuntuk draf sederhana memperkecil output tersembunyi. Penalaran dan max_tokens. - Retry dan loop. Tingkat retry 5% menambah 5% ke setiap pos. Loop agen tanpa batas langkah sama sekali tidak punya batas atas. Kontrol pengeluaran untuk API LLM.
- Pilihan model. Gemma 4 VL 26B berbiaya $0.10 untuk input dan $0.22 untuk output per 1 juta, tetapi konteksnya 32.768 token dan BroadNet tidak mencantumkan penalaran untuk model ini. Uji kualitasnya sebelum beralih demi menghemat biaya.
- Bahasa. Konten yang sama bisa butuh jauh lebih banyak token dalam bahasa Arab atau Hindi dibandingkan bahasa Inggris, dan selisihnya bergantung pada tokenizer. Dataset biaya riil per bahasa kami menunjukkan harga per 1 juta karakter untuk setiap bahasa di setiap model dan penyedia.
- Prompt yang makin panjang. Prompt cenderung bertambah setelah peluncuran seiring kasus-kasus khusus ditangani. Ulangi pengukurannya di setiap rilis.
- Perubahan harga. Harga daftar jarang berubah, tetapi bisa naik. Di halaman harga yang diarsipkan dari 11 penyedia, kami mencatat 52 kenaikan harga daftar antara 2024 dan November 2026, masing-masing membandingkan harga sebuah model dengan harganya sendiri sebelumnya (dibanding 100 penurunan); median kenaikannya 40% pada harga gabungan. Lihat cara menganggarkan kenaikan harga API LLM.
Jika estimasinya terlalu tinggi, jalankan checklist 10 langkah untuk mengurangi biaya API LLM sebelum Anda mengubah fiturnya.
Apakah volumenya muat dalam rate limit?
60.000 aksi per bulan berarti sekitar 2.000 per hari. Jika sepersepuluh draf harian jatuh di jam tersibuk, itu 200 per jam, atau sekitar 3 per menit. Kunci BroadNet bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan berjalan, jadi ini muat dalam satu kunci. Periksa juga skenario tinggi, atau jalankan angka puncak Anda sendiri di kalkulator rate limit. Untuk hitungan antara laju dan permintaan berjalan, lihat konkurensi. Jika Anda terkena 429, lakukan backoff dan retry.
Haruskah fitur ini berjalan di paket harga tetap?
Kemungkinan tidak. Sesi Full Moon berharga $60 per bulan, tetapi satu sesi menjalankan satu permintaan dalam satu waktu, sedangkan banyak pengguna yang mengeklik “Buat draf” bersamaan butuh permintaan paralel. Paket harga tetap cocok untuk agen yang bekerja terus-menerus, seperti agen coding. Hitungan titik impas menunjukkan agen coding penuh waktu berbiaya $65.40 per bulan dengan bayar per token, di atas harga paket.
Bagaimana mengubah estimasi menjadi anggaran?
- Masukkan angka perkiraan ke rencana Anda dan angka tinggi ke ambang peringatan Anda.
- Catat token per aksi di produksi dan bandingkan dengan model estimasi setiap minggu.
- Pasang batas keras di kode:
max_tokens, batas langkah, dan batas retry. - Ulangi estimasi setiap kali Anda mengganti model, prompt, atau pengaturan retrieval.
Anda bisa mengulang hitungan per token dengan angka Anda sendiri di kalkulator biaya API LLM, atau membandingkan paket dengan per token di halaman harga.
Di mana posisi BroadNet Inference?
BroadNet Inference memublikasikan harga per token untuk setiap model chat dan transkripsi yang dilayaninya dalam satu file harga, sehingga estimasi di atas bisa disimpan di kode. Akun baru mendapat kredit awal $5 yang berlaku untuk Gemma 4 VL 26B dan kedua model transkripsi, jadi Anda bisa mengukur sampel di Gemma; DeepSeek, GLM, dan Qwen perlu top-up. Jika fitur Anda butuh model frontier tertutup, BroadNet bukan penyedia yang tepat untuk bagian itu.
