API serasi OpenAI menerima bentuk permintaan yang sama seperti API OpenAI, jadi SDK rasmi OpenAI berfungsi selepas anda menukar base_url dan kunci API. Bahagian yang sukar ialah setiap penyedia meletakkan endpointnya di tempat yang sedikit berbeza. Jadual di bawah menyenaraikan 14, setiap satu dibaca daripada dokumentasi penyedia sendiri pada 15 November 2026.
Apakah base URL bagi setiap penyedia serasi OpenAI?
| Penyedia | Base URL | Apa yang disenaraikan oleh dokumentasi keserasian OpenAI | Keanehan yang dinyatakan dokumentasi |
|---|---|---|---|
| OpenAI | https://api.openai.com/v1 |
Semuanya; ia rujukannya | Lalai SDK apabila tiada yang ditetapkan |
| Anthropic | https://api.anthropic.com/v1/ |
Chat completions | “Primarily intended to test and compare model capabilities” (Terjemahan: terutamanya bertujuan untuk menguji dan membandingkan keupayaan model); strict diabaikan; input audio dan fail memulangkan 400 |
| Google Gemini | https://generativelanguage.googleapis.com/v1beta/openai/ |
Chat completions, embeddings, penjanaan imej, models, batch | Sokongan pustaka OpenAI “still in beta” (Terjemahan: masih dalam beta); tiada Responses API disenaraikan |
| DeepSeek | https://api.deepseek.com |
Chat completions | Tiada laluan versi; URL format Anthropic berasingan di /anthropic |
| Groq | https://api.groq.com/openai/v1 |
Chat completions, Responses API; nota tentang transkripsi audio | logprobs, logit_bias, top_logprobs, messages[].name memulangkan 400; n mesti 1; tiada transkrip srt atau vtt |
| Together AI | https://api.together.ai/v1 |
Chat, completions, imej, speech, transkripsi, models, Responses | Inferens AS sahaja di https://us-api.together.ai/v1; embeddings hanya pada endpoint khusus |
| Fireworks AI | https://api.fireworks.ai/inference/v1 |
Chat completions | ID model seperti accounts/fireworks/models/…; menurunkan max_tokens supaya muat dalam konteks dan bukannya memulangkan ralat, kecuali diarahkan sebaliknya |
| DeepInfra | https://api.deepinfra.com/v1/openai |
Chat completions; klien Responses menggunakan base yang sama | Embeddings, imej dan speech didokumenkan di halaman berasingan |
| Mistral AI | https://api.mistral.ai/v1 |
POST /v1/chat/completions |
Rujukan API-nya tidak menyebut dirinya serasi OpenAI; uji sebelum bergantung padanya |
| OpenRouter | https://openrouter.ai/api/v1 |
Chat completions | Header pilihan HTTP-Referer dan X-OpenRouter-Title untuk kedudukannya |
| xAI | https://api.x.ai/v1 |
Responses API | Panduannya menyatakan “The Responses API is the preferred way of interacting with our models” (Terjemahan: Responses API ialah cara pilihan untuk berinteraksi dengan model kami) |
| Z.ai (GLM) | https://api.z.ai/api/paas/v4/ |
Chat completions | Laluan v4, bukan v1 |
| Alibaba Model Studio | https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (Singapura) |
Chat completions | ID workspace dalam hos; kunci hanya berfungsi di rantau tempat ia dicipta, jika tidak 401 |
| BroadNet Inference | https://inference.broadnet.ai/v1 |
Chat completions, audio transcriptions | ID model bermula dengan broadnet/; lihat di bawah |
Alibaba juga menyenaraikan endpoint AS (Virginia) di us-east-1. Baris Beijing di halaman yang sama menunjukkan hos Singapura sedangkan teks lain di halaman itu menamakan cn-beijing, jadi sahkan endpoint China di konsol. Jadual ini ialah gambaran pada satu masa. Endpoint berpindah: dokumentasi Anthropic dan Google kedua-duanya mengubah hala ke alamat baharu semasa kami menyemaknya.
Untuk harga merentas penyedia ini, lihat halaman harga API LLM mengikut penyedia.
Bagaimanakah anda menetapkan base URL dalam kod?
Dalam Python, hantar base_url kepada klien:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)
Dalam Node, pilihannya ialah baseURL:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
Atau tetapkannya sekali untuk setiap alat yang menggunakan SDK rasmi. Kod sumber SDK Node menetapkan baseURL secara lalai kepada process.env['OPENAI_BASE_URL'], kemudian kepada https://api.openai.com/v1; README Python mendokumenkan pembolehubah yang sama:
export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"
Panduan penuh: SDK Python OpenAI, SDK Node OpenAI. Untuk maksud base URL dan sebab alat memintanya, lihat glosari.
Bagaimanakah anda menguji base URL baharu dengan curl?
Hantar satu permintaan kecil sebelum anda mengubah sebarang kod aplikasi:
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'
Tukar base URL, kunci dan model mengikut penyedia yang anda uji. Respons 200 dengan tatasusunan choices bermaksud laluan, kunci dan ID model betul. 404 biasanya bermaksud laluan salah; 401 bermaksud kunci atau rantau salah; 400 sering menamakan parameter yang ditolak oleh penyedia. Mula pantas curl mempunyai lebih banyak contoh, dan pembina permintaan API menulis versi curl, Python dan Node untuk anda.
Apakah kesilapan biasa semasa menukar base_url?
- Menampal endpoint penuh. SDK menambah
/chat/completions. Base URL yang sudah berakhir dengannya menjadi/chat/completions/chat/completionsdan menghasilkan 404. - Menambah atau membuang
/v1kerana kebiasaan. Base yang didokumenkan DeepSeek tiada/v1, Z.ai berakhir dengan/v4/dan Gemini dengan/v1beta/openai/. Salin rentetan tepat penyedia. - Mengekalkan nama model OpenAI. Nama
gpt-…gagal di tempat lain. Setiap penyedia ada format sendiri:deepseek-ai/DeepSeek-V4-Flash-0731di DeepInfra,accounts/fireworks/models/…di Fireworks,broadnet/deepseek-v4.1-flashdi BroadNet. - Menghantar parameter yang ditolak atau diabaikan penyedia. Groq memulangkan 400 untuk
logprobs; lapisan Anthropic mengabaikanseed,logit_biasdanreasoning_effortsecara senyap. Parameter yang diabaikan secara senyap lebih teruk daripada ralat, kerana tiada apa yang memberitahu anda. - Menganggap medan respons yang sama. Lapisan Anthropic memulangkan
prompt_tokens_detailsyang kosong, jadi laporan token cache tiada. Fireworks meletakkan usage streaming dalam chunk terakhir, yang mungkin tidak diisytiharkan oleh jenis SDK. - Menganggap setiap endpoint wujud. “Serasi OpenAI” biasanya bermaksud chat completions. Embeddings, audio, penjanaan imej dan Responses API ialah soalan berasingan, seperti yang ditunjukkan jadual.
- Mencampurkan rantau. Kunci Alibaba terikat pada rantau, dan Together menawarkan hos berasingan untuk AS sahaja. Kunci yang sah pada hos yang salah tetap gagal.
Senarai penuh sebelum bertukar ada dalam senarai semak migrasi API serasi OpenAI.
Endpoint manakah yang disokong oleh BroadNet Inference?
Rujukan API BroadNet mendokumenkan dua endpoint model di https://inference.broadnet.ai/v1, serta GET /v1/models untuk metadata katalog:
| Endpoint | Model |
|---|---|
POST /v1/chat/completions |
DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B |
POST /v1/audio/transcriptions |
BroadNet Transcribe Arabic, BroadNet Transcribe (14 bahasa) |
Maksudnya dalam praktik:
- Tiada embeddings, penjanaan imej atau Responses API yang didokumenkan. Alat yang memerlukan salah satu daripadanya memerlukan penyedia kedua untuk bahagian itu.
- Panggilan tool dan output berstruktur didokumenkan untuk GLM 5.3 dan Qwen3.8 27B.
- Imej dihantar sebagai URL
data:dalam bahagian kandunganimage_url, pada DeepSeek V4.1 Flash, Qwen3.8 27B dan Gemma 4 VL 26B. - Model penaakulan (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) mengira penaakulan dalam
max_tokens. Biarkan 1,000 token atau lebih, atau tetapkanreasoning_effortkepadalow, seperti yang dinasihatkan dokumentasi; lihat mengapa model penaakulan memulangkan jawapan kosong. - Senarai model memberi respons apabila kami memanggil
GET /v1/modelspada 15 November 2026, tetapi ia tiada dalam senarai endpoint yang didokumenkan, jadi jangan bina di atasnya. - Had pada kunci bayar ikut guna ialah 30 permintaan seminit dan 4 serentak.
Harga bagi setiap 1M token: DeepSeek V4.1 Flash $0.175 input dan $0.52 output, Gemma 4 VL 26B $0.10 dan $0.22. DeepSeek V4.1 Flash juga dijual sebagai pelan harga tetap pada $60 sebulan setiap sesi, satu permintaan pada satu masa.
Patutkah anda menghalakan beberapa penyedia melalui satu base URL?
Jika aplikasi anda memanggil beberapa penyedia ini, proksi seperti LiteLLM memberi kod anda satu base URL dan memetakan nama model kepada setiap upstream. Anda yang memilih pemetaan; tiada apa yang menukar penyedia untuk anda melainkan anda sendiri mengkonfigurasi fallback. Failover API LLM menunjukkan caranya, dalam klien atau dalam LiteLLM. Panduan proksi LiteLLM menunjukkan entri BroadNet. Untuk latar belakang istilah ini, lihat API serasi OpenAI.
Kedudukan BroadNet Inference
BroadNet sesuai jika kod anda sudah menggunakan chat completions dan anda mahukan model terbuka, speech-to-text bahasa Arab dan berbilang bahasa, atau sesi DeepSeek kadar tetap pada satu kunci. Ia tidak sesuai jika anda memerlukan embeddings, Responses API atau penjanaan imej daripada penyedia yang sama; Together AI dan Gemini mendokumenkan lebih banyak bahagian permukaan OpenAI. Semak jadual kami dengan dokumentasi setiap penyedia sebelum anda melancarkan, kerana URL dan senarai endpoint ini berubah.
