Setiap permintaan yang dibuat oleh SDK ialah base URL ditambah satu laluan. Jika base URL betul, bahagian lain klien berfungsi tanpa perubahan.
Cara ia berfungsi
Klien menggabungkan dua bahagian:
| Bahagian | Contoh |
|---|---|
| Base URL | https://inference.broadnet.ai/v1 |
| Laluan endpoint | /chat/completions |
| URL permintaan penuh | https://inference.broadnet.ai/v1/chat/completions |
Dalam kod, nama parameter bergantung pada pustaka:
# Python SDK
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
// Node SDK
const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY });
Kedua-dua SDK rasmi beralih kepada pembolehubah persekitaran OPENAI_BASE_URL, dan kepada alamat OpenAI sendiri apabila tiada apa-apa ditetapkan. Alat lain menggunakan nama seperti api_base atau OPENAI_API_BASE.
Mengapa ia penting
Base URL ialah sebab API serasi OpenAI boleh ditukar dengan mudah. Ia juga menentukan ke mana prompt anda pergi dan siapa yang mengebil anda. Nilai yang salah boleh menghantar trafik, dan kunci API anda, kepada penyedia yang salah. Simpan nilainya dalam konfigurasi bersebelahan kunci, bukan dikod keras di beberapa tempat.
Router menggunakan idea yang sama: anda menghalakan base URL ke router dan bukannya ke penyedia model.
Di BroadNet Inference
Base URL ialah https://inference.broadnet.ai/v1 untuk setiap model: chat, penglihatan dan speech-to-text. Chat dihantar ke /chat/completions dan transkripsi ke /audio/transcriptions. Mula pantas curl menunjukkan permintaan pertama, dan panduan LangChain menunjukkan di mana tetapan itu berada dalam rangka kerja.
Kesilapan biasa
- Tiada
/v1.https://inference.broadnet.aitanpa/v1menghasilkan ralat 404 daripada SDK. - Laluan berganda. Menampal endpoint penuh, seperti
.../v1/chat/completions, sebagai base URL menyebabkan SDK memanggil.../chat/completions/chat/completions. - Pembolehubah persekitaran yang tertinggal.
OPENAI_BASE_URLlama dalam shell anda mengatasi apa yang anda jangkakan. Cetak nilainya apabila permintaan pergi ke tempat yang salah. - HTTP biasa. Sentiasa gunakan
https://. Bearer key mesti dihantar melalui TLS. - Menukar URL tetapi bukan model. Setiap penyedia mempunyai ID model sendiri, seperti
broadnet/deepseek-v4.1-flash.
Memindahkan seluruh aplikasi? Ikut senarai semak migrasi.