API tương thích OpenAI chấp nhận cùng cấu trúc request với API của OpenAI, nên OpenAI SDK chính thức vẫn chạy sau khi bạn đổi base_url và API key. Cái khó là mỗi nhà cung cấp đặt endpoint ở một chỗ hơi khác. Bảng dưới đây liệt kê 14 nhà cung cấp, mỗi dòng được đọc từ tài liệu chính thức của nhà cung cấp đó vào ngày 15 tháng 11 năm 2026.
Base URL của từng nhà cung cấp tương thích OpenAI là gì?
| Nhà cung cấp | Base URL | Tài liệu tương thích OpenAI liệt kê | Điểm khác biệt mà tài liệu nêu |
|---|---|---|---|
| OpenAI | https://api.openai.com/v1 |
Mọi thứ; đây là bản tham chiếu | Mặc định của SDK khi không đặt gì |
| Anthropic | https://api.anthropic.com/v1/ |
Chat completions | “Primarily intended to test and compare model capabilities” (bản dịch: chủ yếu dùng để thử nghiệm và so sánh khả năng của model); bỏ qua strict; đầu vào âm thanh và tệp trả về 400 |
| Google Gemini | https://generativelanguage.googleapis.com/v1beta/openai/ |
Chat completions, embeddings, tạo ảnh, models, batch | Hỗ trợ thư viện OpenAI “still in beta” (bản dịch: vẫn đang beta); không liệt kê Responses API |
| DeepSeek | https://api.deepseek.com |
Chat completions | Không có đường dẫn phiên bản; URL định dạng Anthropic riêng tại /anthropic |
| Groq | https://api.groq.com/openai/v1 |
Chat completions, Responses API; có ghi chú về chép lời âm thanh | logprobs, logit_bias, top_logprobs, messages[].name trả về 400; n phải bằng 1; không có bản chép lời srt hay vtt |
| Together AI | https://api.together.ai/v1 |
Chat, completions, tạo ảnh, giọng nói, chép lời, models, Responses | Inference chỉ tại Mỹ ở https://us-api.together.ai/v1; embeddings chỉ có trên endpoint chuyên dụng |
| Fireworks AI | https://api.fireworks.ai/inference/v1 |
Chat completions | Model ID dạng accounts/fireworks/models/…; tự giảm max_tokens cho vừa context thay vì báo lỗi, trừ khi được yêu cầu khác |
| DeepInfra | https://api.deepinfra.com/v1/openai |
Chat completions; client Responses dùng cùng base | Embeddings, tạo ảnh và giọng nói có tài liệu ở trang riêng |
| Mistral AI | https://api.mistral.ai/v1 |
POST /v1/chat/completions |
Tài liệu tham chiếu API không tự nhận là tương thích OpenAI; hãy thử trước khi phụ thuộc vào nó |
| OpenRouter | https://openrouter.ai/api/v1 |
Chat completions | Header tùy chọn HTTP-Referer và X-OpenRouter-Title cho bảng xếp hạng của họ |
| xAI | https://api.x.ai/v1 |
Responses API | Hướng dẫn ghi “The Responses API is the preferred way of interacting with our models” (bản dịch: Responses API là cách được khuyến nghị để tương tác với các model của chúng tôi) |
| Z.ai (GLM) | https://api.z.ai/api/paas/v4/ |
Chat completions | Đường dẫn v4, không phải v1 |
| Alibaba Model Studio | https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (Singapore) |
Chat completions | Workspace ID nằm trong host; key chỉ dùng được ở region đã tạo ra nó, nếu không sẽ báo 401 |
| BroadNet Inference | https://inference.broadnet.ai/v1 |
Chat completions, audio transcriptions | Model ID bắt đầu bằng broadnet/; xem bên dưới |
Alibaba cũng liệt kê một endpoint ở Mỹ (Virginia) trên us-east-1. Dòng Bắc Kinh trên cùng trang lại hiển thị host Singapore trong khi phần khác của trang ghi cn-beijing, nên hãy xác nhận endpoint Trung Quốc trong console. Bảng này là ảnh chụp tại một thời điểm. Endpoint có thể thay đổi: tài liệu của cả Anthropic và Google đều chuyển hướng sang địa chỉ mới ngay trong lúc chúng tôi kiểm tra.
Để xem giá của các nhà cung cấp này, hãy xem các trang giá API LLM theo nhà cung cấp.
Đặt base URL trong code như thế nào?
Trong Python, truyền base_url vào client:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)
Trong Node, tùy chọn có tên baseURL:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
Hoặc đặt một lần cho mọi công cụ dùng SDK chính thức. Mã nguồn Node SDK lấy giá trị mặc định của baseURL từ process.env['OPENAI_BASE_URL'], sau đó mới đến https://api.openai.com/v1; README của bản Python cũng ghi cùng biến này:
export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"
Hướng dẫn đầy đủ: OpenAI Python SDK, OpenAI Node SDK. Để biết base URL là gì và vì sao các công cụ hỏi đến nó, hãy xem phần thuật ngữ.
Thử một base URL mới bằng curl như thế nào?
Gửi một request thật nhỏ trước khi sửa bất kỳ dòng code ứng dụng nào:
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'
Thay base URL, key và model bằng giá trị của nhà cung cấp bạn đang thử. Phản hồi 200 có mảng choices nghĩa là đường dẫn, key và model ID đều đúng. Lỗi 404 thường do sai đường dẫn; 401 nghĩa là key hoặc region sai; 400 thường nêu tên tham số mà nhà cung cấp từ chối. Hướng dẫn nhanh curl có thêm ví dụ, và công cụ tạo API request viết sẵn phiên bản curl, Python và Node cho bạn.
Những lỗi thường gặp khi đổi base_url là gì?
- Dán cả endpoint đầy đủ. SDK tự nối thêm
/chat/completions. Base URL đã kết thúc bằng phần đó sẽ thành/chat/completions/chat/completionsvà báo 404. - Thêm hoặc bỏ
/v1theo thói quen. Base trong tài liệu của DeepSeek không có/v1, của Z.ai kết thúc bằng/v4/và của Gemini bằng/v1beta/openai/. Hãy sao chép chính xác chuỗi của nhà cung cấp. - Giữ nguyên tên model của OpenAI. Tên
gpt-…sẽ lỗi ở nơi khác. Mỗi nhà cung cấp có định dạng riêng:deepseek-ai/DeepSeek-V4-Flash-0731trên DeepInfra,accounts/fireworks/models/…trên Fireworks,broadnet/deepseek-v4.1-flashtrên BroadNet. - Gửi tham số mà nhà cung cấp từ chối hoặc bỏ qua. Groq trả về 400 cho
logprobs; lớp tương thích của Anthropic lặng lẽ bỏ quaseed,logit_biasvàreasoning_effort. Một tham số bị lặng lẽ bỏ qua còn tệ hơn một lỗi, vì không có gì báo cho bạn biết. - Cho rằng các trường trong response giống nhau. Lớp tương thích của Anthropic trả về
prompt_tokens_detailsrỗng, nên thiếu báo cáo token cache. Fireworks đặt usage của streaming trong chunk cuối, điều mà kiểu dữ liệu của SDK có thể không khai báo. - Cho rằng endpoint nào cũng có. “Tương thích OpenAI” thường chỉ có nghĩa là chat completions. Embeddings, âm thanh, tạo ảnh và Responses API là những câu hỏi riêng, như bảng đã cho thấy.
- Nhầm region. Key của Alibaba gắn với một region, còn Together có một host riêng chỉ dành cho Mỹ. Key hợp lệ nhưng sai host vẫn sẽ lỗi.
Danh sách đầy đủ cần kiểm tra trước khi chuyển nằm trong checklist chuyển đổi sang API tương thích OpenAI.
BroadNet Inference hỗ trợ những endpoint nào?
Tài liệu tham chiếu API của BroadNet mô tả hai endpoint model trên https://inference.broadnet.ai/v1, cộng với GET /v1/models cho metadata của danh mục:
| Endpoint | Model |
|---|---|
POST /v1/chat/completions |
DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B |
POST /v1/audio/transcriptions |
BroadNet Transcribe Arabic, BroadNet Transcribe (14 ngôn ngữ) |
Trên thực tế, điều đó có nghĩa là:
- Không có tài liệu cho embeddings, tạo ảnh hay Responses API. Công cụ nào cần một trong số đó sẽ phải dùng thêm nhà cung cấp thứ hai cho phần ấy.
- Gọi công cụ và đầu ra có cấu trúc có tài liệu cho GLM 5.3 và Qwen3.8 27B.
- Hình ảnh được gửi dưới dạng URL
data:bên trong phần nội dungimage_url, trên DeepSeek V4.1 Flash, Qwen3.8 27B và Gemma 4 VL 26B. - Model suy luận (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) tính phần suy luận vào
max_tokens. Hãy chừa từ 1.000 token trở lên, hoặc đặtreasoning_effortthànhlow, như tài liệu khuyên; xem vì sao model suy luận trả về câu trả lời rỗng. - Danh sách model có phản hồi khi chúng tôi gọi
GET /v1/modelsngày 15 tháng 11 năm 2026, nhưng endpoint này không nằm trong danh sách endpoint có tài liệu, nên đừng xây dựng dựa trên nó. - Giới hạn của key trả theo mức dùng là 30 request mỗi phút và 4 request đồng thời.
Giá trên 1 triệu token: DeepSeek V4.1 Flash $0.175 đầu vào và $0.52 đầu ra, Gemma 4 VL 26B $0.10 và $0.22. DeepSeek V4.1 Flash cũng được bán dưới dạng gói giá cố định $60 mỗi tháng cho mỗi phiên, một request tại một thời điểm.
Có nên gom nhiều nhà cung cấp qua một base URL?
Nếu ứng dụng của bạn gọi nhiều nhà cung cấp trong số này, một proxy như LiteLLM cho code của bạn một base URL duy nhất và ánh xạ tên model tới từng upstream. Bạn tự chọn cách ánh xạ; không có gì tự động chuyển nhà cung cấp cho bạn trừ khi bạn tự cấu hình fallback. Failover cho API LLM hướng dẫn cách làm, trong client hoặc trong LiteLLM. Hướng dẫn proxy LiteLLM có ví dụ cấu hình BroadNet. Để hiểu thêm về thuật ngữ, hãy xem API tương thích OpenAI.
BroadNet Inference phù hợp với ai?
BroadNet phù hợp nếu code của bạn đã dùng chat completions và bạn muốn model mở, chuyển giọng nói thành văn bản cho tiếng Ả Rập và đa ngôn ngữ, hoặc một phiên DeepSeek giá cố định trên cùng một key. Nó không phù hợp nếu bạn cần embeddings, Responses API hoặc tạo ảnh từ cùng một nhà cung cấp; Together AI và Gemini có tài liệu cho nhiều phần hơn của bề mặt OpenAI API. Hãy đối chiếu bảng của chúng tôi với tài liệu của từng nhà cung cấp trước khi triển khai, vì các URL và danh sách endpoint này có thay đổi.
