BroadRouter

Paket LLM harga tetap (flat-rate)

Diperbarui

Paket LLM harga tetap menagih harga tetap untuk satu periode, misalnya sebulan, untuk akses ke API model bahasa, alih-alih menagih per token. Paket seperti ini biasanya membatasi hal lain, seperti konkurensi, kecepatan, model, atau jendela pemakaian, jadi batasnya sama pentingnya dengan harganya.

Disebut juga: paket harga tetap, API LLM harga tetap, API LLM unlimited, unlimited token, langganan LLM, flat-rate LLM API, unlimited LLM API, LLM subscription, unlimited tokens plan, fixed-price LLM API

Harga tetap menukar meteran token dengan tagihan tetap. Pertanyaan yang berguna bukan “apakah ini unlimited?”, melainkan “apa yang dibatasi sebagai gantinya?”

Cara kerjanya

Harga tetap berarti “a single fixed fee for a service, regardless of usage” (terjemahan: satu biaya tetap untuk sebuah layanan, berapa pun pemakaiannya). Untuk API LLM, biaya itu membeli akses selama satu periode. Karena waktu GPU terbatas, setiap paket membatasi pemakaian dengan cara lain. Batas yang umum:

  • kuota token atau pesan per hari, minggu, atau bulan;
  • jendela waktu bergulir, misalnya beberapa jam, yang di-reset;
  • batas mingguan di atas jendela tersebut;
  • konkurensi: berapa banyak permintaan yang berjalan bersamaan;
  • kecepatan, yang membatasi output per jam lewat token per detik;
  • daftar model yang tetap dan klausul pemakaian wajar.

Untuk membandingkan paket dengan bayar sesuai pemakaian, hitung harga satu bulan trafik nyata Anda per token. Jika angkanya di atas harga paket, paket yang unggul, selama batasnya cocok dengan cara kerja Anda.

Kenapa ini penting

  • Anggaran yang bisa diprediksi. Satu angka per bulan, tanpa kejutan dari loop percobaan ulang atau konteks panjang.
  • Kebiasaan yang berbeda. Tanpa meteran, Anda bisa mengirim ulang konteks besar dan membiarkan model bernalar tanpa menghitung token.
  • Risiko yang berbeda. Jika batasnya konkurensi, pekerjaan paralel akan mengantre. Jika batasnya jendela waktu, pekerjaan berhenti sampai jendela di-reset.

Di BroadNet Inference

BroadNet menjual tiga paket, semuanya untuk DeepSeek V4.1 Flash tanpa batas token, dengan harga per sesi:

Paket Harga Periode
Full Moon $60 satu bulan, diperpanjang otomatis
Orbit $15 satu minggu
Meteor $1 satu jam

Tidak ada meteran token, batas bulanan, jendela 5 jam, maupun batas mingguan. Batasnya adalah konkurensi: satu sesi menjalankan satu permintaan dalam satu waktu, dengan kecepatan umum sekitar 100 token per detik. Jalankan agen secara paralel dengan membeli satu sesi per agen.

Dalam contoh perhitungan BroadNet, dengan 80% cache hit, Full Moon mengalahkan harga per token pada sekitar 917 juta token input dan 46 juta token output per bulan. Baca harga tetap vs bayar per token, cara kerja sesi, dan apa yang perlu diperiksa di paket “unlimited” mana pun.

Kesalahan umum

  • Membeli satu sesi untuk banyak worker paralel. Mereka akan saling mengantre.
  • Membandingkan harga paket dengan harga token daftar sambil mengabaikan caching, yang menurunkan tagihan per token.

Pertanyaan umum

Apakah paket LLM unlimited benar-benar tanpa batas?

Tidak dalam segala hal. Selalu ada yang membatasi pemakaian, seperti jumlah permintaan yang berjalan, kecepatan generasi, jendela waktu bergulir, atau klausul pemakaian wajar. Cari tahu mana yang berlaku dan apakah cocok dengan beban kerja Anda.

Kapan harga tetap lebih murah daripada bayar per token?

Ketika volume token bulanan Anda, jika dihargai per token, akan lebih mahal daripada paketnya. Pengguna berat yang stabil, seperti agen coding yang selalu aktif, biasanya melewati garis itu; pengguna ringan biasanya tidak.

Bisakah kunci paket BroadNet saya dibagi dengan tim?

Tidak. Setiap orang memakai akunnya sendiri. Anda bisa menanamkan paket itu ke aplikasi atau agen Anda sendiri, tetapi Anda tidak boleh membagikan atau menjual ulang kuncinya.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity