BroadRouter
Mulai

Live, on request, riset: cara membaca katalog model dengan benar

Oleh tim BroadNet Inference · 7 menit baca · Dipublikasikan · Diperbarui

Model yang bisa Anda panggil punya ID API persis, harga yang dipublikasikan, dan status live di rate card atau feed harga penyedia. Model on request butuh pengajuan dan biasanya ID model privat. Entri riset mencatat apa yang diuji penyedia dan tidak bisa dipanggil. Baca feed dan referensi API, lalu konfirmasi dengan satu permintaan.

Katalog penyedia mencampur tiga jenis entri dalam satu halaman: model yang bisa Anda panggil sekarang, model yang bisa Anda minta, dan model yang hanya diuji oleh penyedia. Di tabel, ketiganya terlihat mirip. Saat Anda menulis kode untuknya, ketiganya sangat berbeda. Tulisan ini menunjukkan cara membedakannya, dengan katalog BroadNet sebagai contoh. BroadRouter adalah situs milik BroadNet sendiri, jadi kami mengecek setiap halaman BroadNet yang dikutip di sini pada 15 November 2026 dan mengutipnya langsung, bukan memparafrasekan, di bagian yang penting.

Apa saja tiga jenis entri katalog?

Status Artinya Yang Anda butuhkan Cara memanggilnya
Live Ada di rate card publik dengan harga yang dipublikasikan Akun dan kunci yang memenuhi syarat ID model publik di base URL publik
On request Penyedia bisa men-deploy-nya, tetapi tidak self-serve Pengajuan dan kesepakatan Biasanya ID model atau endpoint privat
Riset Diuji, di-benchmark, dikuantisasi, atau dicoret Tidak ada; tidak dijual Tidak bisa

Jebakannya ada di baris ketiga. Penyedia yang memublikasikan risetnya secara jujur akan mencantumkan jauh lebih banyak model daripada yang dijualnya. Itu informasi berguna tentang cara penyedia memilih model. Tetapi itu bukan klaim ketersediaan.

Bagaimana katalog BroadNet menampilkannya?

Katalog model BroadNet memuat ketiganya dalam satu halaman, dengan urutan ini:

  1. “Live on the Inference API” (Terjemahan BroadRouter: Live di Inference API). Kotaknya bertuliskan: “These models are on the rate card today.” (Terjemahan BroadRouter: Model-model ini ada di rate card hari ini.)
  2. “Available on request” (Terjemahan BroadRouter: Tersedia atas permintaan). Tiga entri: fine-tune BroadNet dari Cohere Transcribe Arabic, Qwen3-VL 30B-A3B Instruct, dan Qwen3-VL 8B Instruct. Halaman modelnya bertuliskan “private id issued per customer” (Terjemahan BroadRouter: ID privat diberikan per pelanggan).
  3. “The catalogue” (Terjemahan BroadRouter: Katalog). Setiap model yang menurut BroadNet pernah dijalankan di lab-nya (sekitar 270, diukur pada September 2026), dengan tag PROD (pernah melayani trafik live), SERVED, BENCH, QUANT, FT, atau RULED OUT. Dikelompokkan menjadi model bahasa, speech-to-text, text-to-speech, OCR, embedding, pembuatan gambar dan video, dan lainnya.
  4. “Remote and API models benchmarked” (Terjemahan BroadRouter: Model remote dan API yang di-benchmark). Dalam kata-kata BroadNet: “About 90 models we never ran on our hardware but pushed through our safety, routing and Arabic harnesses.” (Terjemahan BroadRouter: Sekitar 90 model yang tidak pernah kami jalankan di hardware kami, tetapi kami uji lewat harness keamanan, routing, dan bahasa Arab kami.) Daftar ini menyebut model dari Anthropic, OpenAI, Google, Meta, dan lainnya.

Hanya kelompok pertama yang bisa dipanggil dengan kunci self-serve. Kelompok ketiga dan keempat mencakup model text-to-speech, pembuatan gambar, dan embedding, yang tidak satu pun ditawarkan API publik BroadNet. Melihat FLUX atau model Claude di tabel memberi tahu Anda bahwa BroadNet mengukurnya, bukan bahwa Anda bisa mengirim permintaan ke sana. Alasan BroadNet untuk model yang ditolak dirangkum di model yang dicoret BroadNet, dan sisi hardware-nya di hardware GPU dan serving BroadNet.

Sumber mana yang merupakan rate card?

Yang dapat dibaca mesin. BroadNet memublikasikan pricing.json, yang oleh referensi API-nya disebut “the same file our pricing and plans pages are built from” (Terjemahan BroadRouter: file yang sama yang menjadi dasar halaman harga dan paket kami). Untuk setiap model, file ini memberikan:

  • id: string persis yang dikirim sebagai model;
  • status: live atau on_request;
  • paid_only: true jika model baru terbuka setelah top up yang memenuhi syarat;
  • harga, context_length, modalities untuk model chat, dan languages untuk transkripsi.

Pada 15 November 2026 feed tersebut mencantumkan enam model live: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, Gemma 4 VL 26B, BroadNet Transcribe Arabic, dan BroadNet Transcribe. Tabel model di referensi API mencantumkan enam ID yang sama.

Kotak “Live on the Inference API” di halaman katalog, pada hari yang sama, hanya menampilkan empat di antaranya: GLM 5.3 dan Qwen3.8 27B tidak ada, dan masih tidak ada saat kami cek ulang pada 16 November 2026. (Qwen3.8 27B muncul lebih ke bawah sebagai SERVED di tabel lab.) Kami tidak tahu halaman mana yang tertinggal, dan kami tidak bisa mengonfirmasi dengan permintaan berbayar. Hal seperti ini wajar di situs penyedia mana pun, dan itulah alasan Anda sebaiknya membaca feed dan referensi API untuk menentukan apa yang dikirim, lalu menguji.

Bisakah GET /v1/models dipercaya?

Cek artinya untuk masing-masing penyedia. OpenAI Python SDK mendokumentasikan models.list() sebagai daftar “the currently available models” (Terjemahan BroadRouter: model yang saat ini tersedia), dan banyak tool memanggilnya untuk mengisi pemilih model. API lain yang kompatibel dengan OpenAI mengimplementasikannya secara berbeda.

Referensi API BroadNet menyebut: “Use the model IDs in this reference for direct API requests. GET /v1/models supplies public catalogue metadata for external monitors.” (Terjemahan BroadRouter: Gunakan ID model di referensi ini untuk permintaan API langsung. GET /v1/models menyediakan metadata katalog publik untuk monitor eksternal.) Saat kami memanggilnya pada 15 November 2026, tanpa kunci, endpoint itu hanya mengembalikan broadnet/cohere-transcribe-arabic dan broadnet/cohere-transcribe, masing-masing dengan field seperti input_modalities, capacity, dan flag is_ready bernilai false. Tidak satu pun dari empat model chat live tercantum. Jadi tool yang menyusun daftar modelnya hanya dari /v1/models tidak akan menampilkan model chat apa pun untuk BroadNet; ketik ID model secara manual, seperti yang dijelaskan tulisan base URL API kompatibel OpenAI untuk klien lain.

Bagaimana mengecek status lewat kode?

Script ini membaca feed publik BroadNet dan /v1/models, keduanya tanpa kunci, lalu mencetak status dan akses setiap model. Aman dijalankan di CI untuk menangkap model yang ditambahkan, dipindah ke on request, atau dipensiunkan.

import json, urllib.request

FEED = "https://inference.broadnet.ai/pricing.json"
MODELS = "https://inference.broadnet.ai/v1/models"

def get(url):
    req = urllib.request.Request(url, headers={"User-Agent": "catalogue-check/1.0"})
    with urllib.request.urlopen(req, timeout=30) as r:
        return json.load(r)

feed = get(FEED)
assert feed["schema_version"] == 1, "unknown feed schema: re-read the docs before trusting it"
print(f"prices updated {feed['updated']}")
for m in feed["models"]:
    status = m.get("status", "live")                       # docs: live or on_request
    access = "top-up required" if m.get("paid_only") else "open from sign-up"
    inputs = ", ".join(m.get("modalities", [])) or f"audio, {m.get('language_count', len(m.get('languages', [])))} language(s)"
    print(f"{status:10} {m['id']:36} {m['kind']:5} {inputs:22} {access}")

listed = {m["id"] for m in get(MODELS)["data"]}
callable_ = {m["id"] for m in feed["models"] if m.get("status", "live") == "live"}
print("live in the feed but not in /v1/models:", sorted(callable_ - listed))
print("in /v1/models but not live in the feed:", sorted(listed - callable_))

Dijalankan secara live pada 15 November 2026, hasilnya:

prices updated 2026-11-14
live       broadnet/deepseek-v4.1-flash         chat  text, image            top-up required
live       broadnet/glm-5.3                     chat  text                   top-up required
live       broadnet/qwen3.8-27b                 chat  text, image            top-up required
live       broadnet/gemma-4-26b-a4b             chat  text, image            open from sign-up
live       broadnet/cohere-transcribe-arabic    stt   audio, 1 language(s)   open from sign-up
live       broadnet/cohere-transcribe           stt   audio, 14 language(s)  open from sign-up
live in the feed but not in /v1/models: ['broadnet/deepseek-v4.1-flash', 'broadnet/gemma-4-26b-a4b', 'broadnet/glm-5.3', 'broadnet/qwen3.8-27b']
in /v1/models but not live in the feed: []

“Open from sign-up” adalah label dari skrip kami untuk baris tanpa paid_only, bukan field di feed; di BroadNet artinya kredit awal $5 bisa dipakai untuk model itu. Pengecekan schema_version mengikuti dokumentasi, yang menyebut versi hanya berubah jika arti field yang sudah ada berubah, dan field baru bisa muncul kapan saja.

Pengecekan terakhir adalah sebuah permintaan. Panggilan quickstart cURL dengan ID model dan prompt pendek mengembalikan 200 jika model itu live untuk kunci Anda, dan error dengan kode yang dapat dibaca mesin jika tidak.

Seperti apa “on request” dalam praktiknya?

Halaman model on request BroadNet menunjukkan apa yang berubah. Halaman Qwen3-VL 30B-A3B, misalnya, punya tombol “Ask for access” (minta akses) alih-alih harga, mencantumkan ID model sebagai “private id issued per customer”, dan memberi konteks 16K token. Fine-tune BroadNet dari Cohere Transcribe Arabic bekerja dengan cara yang sama. Referensi API BroadNet menjelaskan mekanismenya: endpoint privat, fine-tune bahasa Arab-nya, dan model on request lainnya “are reached with a private ID issued with the endpoint.” (Terjemahan BroadRouter: diakses dengan ID privat yang diberikan bersama endpoint.)

Tiga konsekuensi untuk kode dan rencana Anda:

  • Tidak ada ID publik untuk di-hard-code. Anda tidak bisa menulis permintaannya sebelum penyedia memberikan ID, jadi simpan ID model di konfigurasi, bukan di kode.
  • Limit yang berbeda. Deployment on request bisa punya context window, rate limit, dan region yang berbeda dari apa pun di rate card publik. Minta semuanya secara tertulis.
  • Ketentuan yang berbeda. Ketentuan BroadNet menyebut endpoint privat dan kapasitas khusus mengikuti perjanjian tertulis terpisah. Harga, ketersediaan, dan lokasi pemrosesan berasal dari perjanjian itu, bukan dari halaman publik.

Cek lima langkah sebelum membangun di atas sebuah model

Lakukan ini untuk setiap model yang akan Anda andalkan, di penyedia mana pun:

  1. Temukan di rate card atau feed, bukan hanya di blog, halaman model, atau tabel benchmark.
  2. Salin ID persisnya dari referensi API. Nama sering bergeser: sufiks versi, varian “Flash” dan “Pro”, dan prefiks penyedia seperti broadnet/ semuanya penting.
  3. Cek akses. Apakah kunci atau paket Anda mencakupnya? Di BroadNet, model paid_only butuh top up, dan paket sesi DeepSeek hanya mencakup DeepSeek V4.1 Flash.
  4. Cek kemampuan yang Anda butuhkan pada model itu di dokumentasi, seperti gambar, tool, atau output terstruktur. Kemampuan di satu model tidak berarti apa-apa untuk model berikutnya.
  5. Kirim satu permintaan dengan prompt yang realistis, dan simpan ID permintaan dari responsnya. Ulangi di CI jika model itu krusial.

Apa yang tidak boleh Anda simpulkan dari katalog?

  • Bahwa model yang di-benchmark itu dijual. Satu baris di tabel riset adalah hasil pengukuran.
  • Bahwa on request berarti segera. Artinya percakapan. BroadNet menyajikan model on request, endpoint privat, dan pemrosesan regional sebagai pengajuan lewat halaman kontaknya; lihat merencanakan endpoint privat.
  • Bahwa sebuah kemampuan berlaku untuk semua model. Dokumentasi BroadNet menyebut vision “offered only where the model row explicitly says images or vision” (Terjemahan BroadRouter: hanya ditawarkan jika baris model secara eksplisit menyebut gambar atau vision), dan mendokumentasikan tool calling hanya untuk GLM 5.3 dan Qwen3.8 27B. Teks, suara, atau vision memetakan tugas ke model yang menerima setiap jenis input.
  • Bahwa daftar hari ini permanen. Ketentuan BroadNet (§7.4) menyebut BroadNet dapat mengubah, menangguhkan, atau mempensiunkan model atau fitur dan, jika memungkinkan, memberi pemberitahuan yang wajar di halaman katalog. Self-serve tidak punya komitmen ketersediaan; tingkat layanan hanya ada dalam perjanjian tertulis terpisah.
  • Bahwa nama model berarti model yang sama di mana-mana. Daftar remote BroadNet mencakup “GLM 5.3 Flash”, yang bukan broadnet/glm-5.3 di rate card-nya. Selalu salin ID persisnya.

Pengecekan yang sama berlaku untuk penyedia mana pun. Checklist penyedia kami berisi pertanyaan lain yang perlu diajukan.

Posisi BroadNet Inference

Model live dan harga BroadNet Inference ada di halaman model dan harga kami, yang dibangun dari pricing.json yang sama. Model yang ditawarkan BroadNet atas permintaan dicantumkan terpisah di bagian on request. Katalog riset di broadnet.ai layak dibaca untuk memahami cara BroadNet memilih model, dan alasan yang dipublikasikannya untuk menolak sebagian, tetapi perlakukan setiap barisnya sebagai bukti, bukan penawaran.

Pertanyaan umum

Bagaimana cara tahu apakah sebuah model bisa saya panggil lewat API?

Model itu harus punya ID API persis, harga yang dipublikasikan, dan status live di rate card atau feed harga yang dapat dibaca mesin milik penyedia, dan kunci Anda harus memenuhi syarat untuknya. Lalu kirim satu permintaan kecil. Respons 200 dengan ID model tersebut adalah buktinya.

Apa arti "available on request"?

Penyedia bisa men-deploy model itu untuk Anda, tetapi tidak lewat kunci self-serve. Anda mengajukan permintaan, menyepakati ketentuan, dan biasanya menerima ID model atau endpoint privat. Di BroadNet, model on request diakses dengan ID privat yang diberikan bersama endpoint.

Kenapa saya tidak bisa memanggil model yang tercantum di tabel riset atau benchmark?

Karena tabel itu mencatat apa yang diuji penyedia, bukan apa yang dijual. Katalog BroadNet mencantumkan model text-to-speech, pembuatan gambar, dan embedding yang di-benchmark, serta sekitar 90 model remote yang katanya tidak pernah dijalankan di hardware sendiri. Tidak ada yang punya ID API publik atau harga.

Apakah GET /v1/models mencantumkan semua model yang bisa saya pakai?

Tidak selalu. Di API OpenAI, endpoint ini mencantumkan model yang saat ini tersedia, tetapi penyedia lain mengimplementasikannya secara berbeda. Pada 15 November 2026, milik BroadNet hanya mengembalikan dua model transkripsi, dan dokumentasinya menyebut endpoint itu menyediakan metadata katalog untuk monitor; gunakan ID di referensi API.

Model BroadNet mana yang butuh top up?

Di pricing.json pada 15 November 2026, DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B ditandai paid_only, jadi baru terbuka setelah top up yang memenuhi syarat. Gemma 4 VL 26B dan kedua model transkripsi terbuka sejak pendaftaran, dengan kredit awal.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity