Setiap permintaan yang dibuat SDK adalah base URL ditambah sebuah path. Jika base URL-nya benar, bagian client lainnya berjalan tanpa perubahan.
Cara kerjanya
Client menggabungkan dua bagian:
| Bagian | Contoh |
|---|---|
| Base URL | https://inference.broadnet.ai/v1 |
| Path endpoint | /chat/completions |
| URL permintaan lengkap | https://inference.broadnet.ai/v1/chat/completions |
Di kode, nama parameternya bergantung pada library:
# Python SDK
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
// Node SDK
const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY });
Kedua SDK resmi beralih ke environment variable OPENAI_BASE_URL, lalu ke alamat OpenAI sendiri jika tidak ada yang diatur. Tool lain memakai nama seperti api_base atau OPENAI_API_BASE.
Kenapa ini penting
Base URL-lah yang membuat API kompatibel OpenAI bisa dipakai sebagai pengganti langsung. Base URL juga menentukan ke mana prompt Anda dikirim dan siapa yang menagih Anda. Nilai yang salah bisa mengirim trafik, beserta kunci API Anda, ke penyedia yang salah. Simpan di konfigurasi di samping kunci, jangan di-hard-code di beberapa tempat.
Router memakai ide yang sama: Anda mengarahkan base URL ke router, bukan ke penyedia model.
Di BroadNet Inference
Base URL-nya https://inference.broadnet.ai/v1 untuk setiap model: chat, visi, dan speech-to-text. Chat menuju /chat/completions dan transkripsi menuju /audio/transcriptions. Panduan cepat curl menunjukkan permintaan pertama, dan panduan LangChain menunjukkan letak pengaturannya di sebuah framework.
Kesalahan umum
/v1terlewat.https://inference.broadnet.aitanpa/v1menghasilkan error 404 dari SDK.- Path ganda. Menempelkan endpoint lengkap, seperti
.../v1/chat/completions, sebagai base URL membuat SDK memanggil.../chat/completions/chat/completions. - Environment variable sisa.
OPENAI_BASE_URLlama di shell Anda menimpa nilai yang Anda harapkan. Cetak nilainya jika permintaan terkirim ke tempat yang salah. - HTTP biasa. Selalu gunakan
https://. Bearer key harus dikirim lewat TLS. - Mengganti URL tetapi tidak mengganti model. Setiap penyedia punya ID model sendiri, seperti
broadnet/deepseek-v4.1-flash.
Memindahkan seluruh aplikasi? Ikuti checklist migrasi langkah demi langkah.