API yang kompatibel dengan OpenAI menerima bentuk permintaan yang sama dengan API OpenAI, sehingga SDK OpenAI resmi tetap berfungsi setelah Anda mengganti base_url dan kunci API. Bagian sulitnya, setiap penyedia meletakkan endpoint-nya di tempat yang sedikit berbeda. Tabel di bawah mencantumkan 14 penyedia, masing-masing dibaca dari dokumentasi resmi penyedia pada 15 November 2026.
Apa base URL setiap penyedia yang kompatibel dengan OpenAI?
| Penyedia | Base URL | Yang tercantum di dokumentasi kompatibilitas OpenAI-nya | Perbedaan yang disebut dokumentasi |
|---|---|---|---|
| OpenAI | https://api.openai.com/v1 |
Semuanya; ini acuannya | Default SDK jika tidak ada yang diatur |
| Anthropic | https://api.anthropic.com/v1/ |
Chat completions | “Primarily intended to test and compare model capabilities” (Terjemahan BroadRouter: “terutama ditujukan untuk menguji dan membandingkan kemampuan model”); strict diabaikan; input audio dan file mengembalikan 400 |
| Google Gemini | https://generativelanguage.googleapis.com/v1beta/openai/ |
Chat completions, embeddings, pembuatan gambar, models, batch | Dukungan library OpenAI “still in beta” (Terjemahan BroadRouter: “masih beta”); Responses API tidak tercantum |
| DeepSeek | https://api.deepseek.com |
Chat completions | Tanpa path versi; URL terpisah berformat Anthropic di /anthropic |
| Groq | https://api.groq.com/openai/v1 |
Chat completions, Responses API; catatan tentang transkripsi audio | logprobs, logit_bias, top_logprobs, messages[].name mengembalikan 400; n harus 1; tidak ada transkrip srt atau vtt |
| Together AI | https://api.together.ai/v1 |
Chat, completions, gambar, speech, transkripsi, models, Responses | Inferensi khusus AS di https://us-api.together.ai/v1; embeddings hanya di endpoint khusus (dedicated) |
| Fireworks AI | https://api.fireworks.ai/inference/v1 |
Chat completions | ID model seperti accounts/fireworks/models/…; menurunkan max_tokens agar muat di konteks alih-alih mengembalikan error, kecuali diminta lain |
| DeepInfra | https://api.deepinfra.com/v1/openai |
Chat completions; klien Responses memakai base yang sama | Embeddings, gambar, dan speech didokumentasikan di halaman terpisah |
| Mistral AI | https://api.mistral.ai/v1 |
POST /v1/chat/completions |
Referensi API-nya tidak menyebut dirinya kompatibel dengan OpenAI; uji sebelum mengandalkannya |
| OpenRouter | https://openrouter.ai/api/v1 |
Chat completions | Header opsional HTTP-Referer dan X-OpenRouter-Title untuk peringkatnya |
| xAI | https://api.x.ai/v1 |
Responses API | Panduannya menyebut “The Responses API is the preferred way of interacting with our models” (Terjemahan BroadRouter: “Responses API adalah cara yang disarankan untuk berinteraksi dengan model kami”) |
| Z.ai (GLM) | https://api.z.ai/api/paas/v4/ |
Chat completions | Path v4, bukan v1 |
| Alibaba Model Studio | https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (Singapura) |
Chat completions | ID workspace ada di host; kunci hanya berlaku di region tempat kunci dibuat, selain itu 401 |
| BroadNet Inference | https://inference.broadnet.ai/v1 |
Chat completions, audio transcriptions | ID model diawali broadnet/; lihat di bawah |
Alibaba juga mencantumkan endpoint AS (Virginia) di us-east-1. Baris Beijing di halaman yang sama menampilkan host Singapura, sementara teks lain di halaman itu menyebut cn-beijing, jadi pastikan endpoint Tiongkok di konsol. Tabel ini adalah snapshot. Endpoint bisa berpindah: dokumentasi Anthropic dan Google sama-sama dialihkan ke alamat baru saat kami mengeceknya.
Untuk harga di seluruh penyedia ini, lihat halaman harga API LLM per penyedia.
Bagaimana cara mengatur base URL di kode?
Di Python, berikan base_url ke klien:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)
Di Node, nama opsinya baseURL:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
Atau atur sekali untuk semua tool yang memakai SDK resmi. Kode sumber SDK Node mengisi default baseURL dari process.env['OPENAI_BASE_URL'], lalu https://api.openai.com/v1; README Python mendokumentasikan variabel yang sama:
export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"
Panduan lengkap: OpenAI Python SDK, OpenAI Node SDK. Apa itu base URL dan kenapa tool memintanya, lihat glosarium.
Bagaimana cara menguji base URL baru dengan curl?
Kirim satu permintaan kecil sebelum mengubah kode aplikasi apa pun:
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'
Ganti base URL, kunci, dan model sesuai penyedia yang Anda uji. Respons 200 dengan array choices berarti path, kunci, dan ID model sudah benar. 404 biasanya berarti path salah; 401 berarti kunci atau region salah; 400 sering menyebut parameter yang ditolak penyedia. Panduan cepat curl berisi contoh lain, dan pembuat permintaan API menuliskan versi curl, Python, dan Node untuk Anda.
Apa kesalahan umum saat mengganti base_url?
- Menempelkan endpoint lengkap. SDK menambahkan
/chat/completions. Base URL yang sudah diakhiri path itu menghasilkan/chat/completions/chat/completionsdan 404. - Menambah atau menghapus
/v1karena kebiasaan. Base DeepSeek yang terdokumentasi tidak memakai/v1, base Z.ai diakhiri/v4/, dan base Gemini diakhiri/v1beta/openai/. Salin string persis dari penyedia. - Tetap memakai nama model OpenAI. Nama
gpt-…gagal di tempat lain. Setiap penyedia punya formatnya sendiri:deepseek-ai/DeepSeek-V4-Flash-0731di DeepInfra,accounts/fireworks/models/…di Fireworks,broadnet/deepseek-v4.1-flashdi BroadNet. - Mengirim parameter yang ditolak atau diabaikan penyedia. Groq mengembalikan 400 untuk
logprobs; lapisan Anthropic diam-diam mengabaikanseed,logit_bias, danreasoning_effort. Parameter yang diabaikan diam-diam lebih buruk daripada error, karena tidak ada yang memberi tahu Anda. - Menganggap field respons sama. Lapisan Anthropic mengembalikan
prompt_tokens_detailskosong, sehingga laporan token cache tidak ada. Fireworks menaruh usage streaming di chunk terakhir, yang mungkin tidak dideklarasikan di tipe SDK. - Menganggap semua endpoint tersedia. “Kompatibel dengan OpenAI” biasanya berarti chat completions. Embeddings, audio, pembuatan gambar, dan Responses API adalah soal terpisah, seperti terlihat di tabel.
- Mencampur region. Kunci Alibaba terikat pada satu region, dan Together menyediakan host terpisah khusus AS. Kunci yang valid di host yang salah tetap gagal.
Daftar lengkap sebelum pindah ada di checklist migrasi API kompatibel OpenAI.
Endpoint apa saja yang didukung BroadNet Inference?
Referensi API BroadNet mendokumentasikan dua endpoint model di https://inference.broadnet.ai/v1, ditambah GET /v1/models untuk metadata katalog:
| Endpoint | Model |
|---|---|
POST /v1/chat/completions |
DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B |
POST /v1/audio/transcriptions |
BroadNet Transcribe Arabic, BroadNet Transcribe (14 bahasa) |
Artinya dalam praktik:
- Tidak ada embeddings, pembuatan gambar, atau Responses API yang didokumentasikan. Tool yang memerlukan salah satunya butuh penyedia kedua untuk bagian itu.
- Tool calling dan output terstruktur didokumentasikan untuk GLM 5.3 dan Qwen3.8 27B.
- Gambar dikirim sebagai URL
data:di dalam bagian kontenimage_url, pada DeepSeek V4.1 Flash, Qwen3.8 27B, dan Gemma 4 VL 26B. - Model penalaran (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) menghitung penalaran dalam
max_tokens. Sisakan 1.000 token atau lebih, atau aturreasoning_effortkelow, seperti saran dokumentasinya; lihat kenapa model penalaran mengembalikan jawaban kosong. - Daftar model memang menjawab saat kami memanggil
GET /v1/modelspada 15 November 2026, tetapi endpoint itu tidak ada di daftar endpoint yang terdokumentasi, jadi jangan membangun sesuatu di atasnya. - Batas pada kunci bayar sesuai pemakaian adalah 30 permintaan per menit dan 4 permintaan bersamaan.
Harga per 1 juta token: DeepSeek V4.1 Flash $0.175 input dan $0.52 output, Gemma 4 VL 26B $0.10 dan $0.22. DeepSeek V4.1 Flash juga dijual sebagai paket harga tetap seharga $60 per bulan per sesi, satu permintaan dalam satu waktu.
Perlukah Anda menyalurkan beberapa penyedia lewat satu base URL?
Jika aplikasi Anda memanggil beberapa penyedia ini, proxy seperti LiteLLM memberi kode Anda satu base URL dan memetakan nama model ke setiap upstream. Anda yang menentukan pemetaannya; tidak ada yang berpindah penyedia untuk Anda kecuali Anda sendiri mengatur fallback. Failover API LLM menunjukkan caranya, di klien atau di LiteLLM. Panduan proxy LiteLLM menunjukkan entri BroadNet. Untuk latar belakang istilahnya, lihat API kompatibel OpenAI.
Posisi BroadNet Inference
BroadNet cocok jika kode Anda sudah memakai chat completions dan Anda menginginkan model terbuka, speech-to-text bahasa Arab dan multibahasa, atau sesi DeepSeek harga tetap dalam satu kunci. Tidak cocok jika Anda membutuhkan embeddings, Responses API, atau pembuatan gambar dari penyedia yang sama; Together AI dan Gemini mendokumentasikan lebih banyak bagian dari permukaan API OpenAI. Cocokkan tabel kami dengan dokumentasi setiap penyedia sebelum rilis, karena URL dan daftar endpoint ini bisa berubah.
