BroadRouter

Pelan LLM harga tetap (flat-rate LLM plan)

Dikemas kini

Pelan LLM harga tetap mengenakan harga tetap bagi satu tempoh, seperti sebulan, untuk akses kepada API model bahasa dan bukannya mengebil setiap token. Pelan sebegini biasanya mengehadkan perkara lain, seperti keserentakan, kelajuan, model atau tetingkap penggunaan, jadi hadnya sama penting dengan harganya.

Juga dikenali sebagai: pelan tanpa had, API LLM tanpa had, langganan LLM, pelan harga tetap, unlimited LLM API, flat-rate LLM API, LLM subscription, unlimited tokens plan, fixed-price LLM API

Harga tetap menggantikan meter token dengan bil tetap. Soalan yang berguna bukan “adakah ia tanpa had?” tetapi “apa yang dihadkannya sebagai ganti?”

Cara ia berfungsi

Harga tetap bermaksud “a single fixed fee for a service, regardless of usage.” (Terjemahan BroadRouter: “satu bayaran tetap untuk sesuatu perkhidmatan, tanpa mengira penggunaan.”) Bagi API LLM, bayaran itu membeli akses untuk satu tempoh. Oleh sebab masa GPU adalah terhad, setiap pelan mengehadkan penggunaan dengan cara lain. Had yang biasa:

  • kuota token atau mesej setiap hari, minggu atau bulan;
  • tetingkap bergulir, seperti beberapa jam, yang ditetapkan semula;
  • had mingguan di atas tetingkap itu;
  • keserentakan: berapa banyak permintaan berjalan serentak;
  • kelajuan, yang mengehadkan output sejam melalui token sesaat;
  • senarai model yang tetap dan klausa penggunaan wajar.

Untuk membandingkan pelan dengan bayar ikut guna, kira harga sebulan trafik sebenar anda mengikut token. Jika angka itu melebihi harga pelan, pelan itu menang, selagi hadnya sesuai dengan cara anda bekerja.

Mengapa ia penting

  • Bajet yang boleh diramal. Satu angka sebulan, tanpa kejutan daripada gelung cuba semula atau konteks yang panjang.
  • Tabiat yang berbeza. Tanpa meter, anda boleh menghantar semula konteks besar dan membiarkan model membuat penaakulan tanpa mengira token.
  • Risiko yang berbeza. Jika hadnya ialah keserentakan, kerja selari akan beratur. Jika hadnya ialah tetingkap, kerja terhenti sehingga ia ditetapkan semula.

Di BroadNet Inference

BroadNet menjual tiga pelan, semuanya untuk DeepSeek V4.1 Flash tanpa had, berharga setiap sesi:

Pelan Harga Tempoh
Full Moon $60 sebulan, diperbaharui
Orbit $15 seminggu
Meteor $1 sejam

Tiada meter token, tiada had bulanan, tiada tetingkap 5 jam dan tiada had mingguan. Hadnya ialah keserentakan: satu sesi menjalankan satu permintaan pada satu masa, pada kelajuan biasa kira-kira 100 token sesaat. Jalankan ejen secara selari dengan membeli satu sesi bagi setiap ejen.

Dalam contoh pengiraan BroadNet, dengan 80% cache hit, Full Moon mengatasi harga setiap token pada kira-kira 917 juta token input dan 46 juta token output sebulan. Baca harga tetap vs bayar setiap token, cara sesi berfungsi dan apa yang perlu disemak dalam mana-mana pelan “tanpa had”.

Kesilapan biasa

  • Membeli satu sesi untuk banyak pekerja selari. Mereka akan beratur antara satu sama lain.
  • Membandingkan harga pelan dengan harga senarai setiap token tanpa mengambil kira caching, yang menurunkan bil setiap token.

Soalan lazim

Adakah pelan LLM tanpa had benar-benar tanpa had?

Tidak dalam setiap erti kata. Sentiasa ada sesuatu yang mengehadkan penggunaan, seperti permintaan serentak, kelajuan penjanaan, tetingkap bergulir atau klausa penggunaan wajar. Ketahui yang mana satu terpakai dan sama ada ia sesuai dengan beban kerja anda.

Bilakah harga tetap lebih murah daripada bayar setiap token?

Apabila jumlah token bulanan anda, jika dikira mengikut token, berkos lebih tinggi daripada pelan itu. Pengguna berat yang berterusan seperti ejen pengekodan yang sentiasa aktif biasanya melepasi garisan itu; pengguna ringan biasanya tidak.

Bolehkah saya berkongsi kunci pelan BroadNet dengan pasukan saya?

Tidak. Setiap orang menggunakan akaun sendiri. Anda boleh membina pelan itu ke dalam aplikasi atau ejen anda sendiri, tetapi anda tidak boleh berkongsi atau menjual semula kunci itu.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity