BroadRouter

Base URL của API tương thích OpenAI: 14 nhà cung cấp, đã kiểm tra

Đội ngũ BroadNet Inference · 6 phút đọc · Đăng ngày

API tương thích OpenAI cho phép bạn giữ nguyên OpenAI SDK và chỉ đổi hai thứ: base_url và API key. Base URL khác nhau theo nhà cung cấp, ví dụ https://api.groq.com/openai/v1 cho Groq, https://openrouter.ai/api/v1 cho OpenRouter và https://inference.broadnet.ai/v1 cho BroadNet Inference. Đường dẫn, model ID và tham số được hỗ trợ vẫn khác nhau, nên hãy thử một request trước khi chuyển.

API tương thích OpenAI chấp nhận cùng cấu trúc request với API của OpenAI, nên OpenAI SDK chính thức vẫn chạy sau khi bạn đổi base_url và API key. Cái khó là mỗi nhà cung cấp đặt endpoint ở một chỗ hơi khác. Bảng dưới đây liệt kê 14 nhà cung cấp, mỗi dòng được đọc từ tài liệu chính thức của nhà cung cấp đó vào ngày 15 tháng 11 năm 2026.

Base URL của từng nhà cung cấp tương thích OpenAI là gì?

Nhà cung cấp Base URL Tài liệu tương thích OpenAI liệt kê Điểm khác biệt mà tài liệu nêu
OpenAI https://api.openai.com/v1 Mọi thứ; đây là bản tham chiếu Mặc định của SDK khi không đặt gì
Anthropic https://api.anthropic.com/v1/ Chat completions “Primarily intended to test and compare model capabilities” (bản dịch: chủ yếu dùng để thử nghiệm và so sánh khả năng của model); bỏ qua strict; đầu vào âm thanh và tệp trả về 400
Google Gemini https://generativelanguage.googleapis.com/v1beta/openai/ Chat completions, embeddings, tạo ảnh, models, batch Hỗ trợ thư viện OpenAI “still in beta” (bản dịch: vẫn đang beta); không liệt kê Responses API
DeepSeek https://api.deepseek.com Chat completions Không có đường dẫn phiên bản; URL định dạng Anthropic riêng tại /anthropic
Groq https://api.groq.com/openai/v1 Chat completions, Responses API; có ghi chú về chép lời âm thanh logprobs, logit_bias, top_logprobs, messages[].name trả về 400; n phải bằng 1; không có bản chép lời srt hay vtt
Together AI https://api.together.ai/v1 Chat, completions, tạo ảnh, giọng nói, chép lời, models, Responses Inference chỉ tại Mỹ ở https://us-api.together.ai/v1; embeddings chỉ có trên endpoint chuyên dụng
Fireworks AI https://api.fireworks.ai/inference/v1 Chat completions Model ID dạng accounts/fireworks/models/…; tự giảm max_tokens cho vừa context thay vì báo lỗi, trừ khi được yêu cầu khác
DeepInfra https://api.deepinfra.com/v1/openai Chat completions; client Responses dùng cùng base Embeddings, tạo ảnh và giọng nói có tài liệu ở trang riêng
Mistral AI https://api.mistral.ai/v1 POST /v1/chat/completions Tài liệu tham chiếu API không tự nhận là tương thích OpenAI; hãy thử trước khi phụ thuộc vào nó
OpenRouter https://openrouter.ai/api/v1 Chat completions Header tùy chọn HTTP-Referer và X-OpenRouter-Title cho bảng xếp hạng của họ
xAI https://api.x.ai/v1 Responses API Hướng dẫn ghi “The Responses API is the preferred way of interacting with our models” (bản dịch: Responses API là cách được khuyến nghị để tương tác với các model của chúng tôi)
Z.ai (GLM) https://api.z.ai/api/paas/v4/ Chat completions Đường dẫn v4, không phải v1
Alibaba Model Studio https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (Singapore) Chat completions Workspace ID nằm trong host; key chỉ dùng được ở region đã tạo ra nó, nếu không sẽ báo 401
BroadNet Inference https://inference.broadnet.ai/v1 Chat completions, audio transcriptions Model ID bắt đầu bằng broadnet/; xem bên dưới

Alibaba cũng liệt kê một endpoint ở Mỹ (Virginia) trên us-east-1. Dòng Bắc Kinh trên cùng trang lại hiển thị host Singapore trong khi phần khác của trang ghi cn-beijing, nên hãy xác nhận endpoint Trung Quốc trong console. Bảng này là ảnh chụp tại một thời điểm. Endpoint có thể thay đổi: tài liệu của cả Anthropic và Google đều chuyển hướng sang địa chỉ mới ngay trong lúc chúng tôi kiểm tra.

Để xem giá của các nhà cung cấp này, hãy xem các trang giá API LLM theo nhà cung cấp.

Đặt base URL trong code như thế nào?

Trong Python, truyền base_url vào client:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)

Trong Node, tùy chọn có tên baseURL:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

Hoặc đặt một lần cho mọi công cụ dùng SDK chính thức. Mã nguồn Node SDK lấy giá trị mặc định của baseURL từ process.env['OPENAI_BASE_URL'], sau đó mới đến https://api.openai.com/v1; README của bản Python cũng ghi cùng biến này:

export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"

Hướng dẫn đầy đủ: OpenAI Python SDK, OpenAI Node SDK. Để biết base URL là gì và vì sao các công cụ hỏi đến nó, hãy xem phần thuật ngữ.

Thử một base URL mới bằng curl như thế nào?

Gửi một request thật nhỏ trước khi sửa bất kỳ dòng code ứng dụng nào:

curl https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'

Thay base URL, key và model bằng giá trị của nhà cung cấp bạn đang thử. Phản hồi 200 có mảng choices nghĩa là đường dẫn, key và model ID đều đúng. Lỗi 404 thường do sai đường dẫn; 401 nghĩa là key hoặc region sai; 400 thường nêu tên tham số mà nhà cung cấp từ chối. Hướng dẫn nhanh curl có thêm ví dụ, và công cụ tạo API request viết sẵn phiên bản curl, Python và Node cho bạn.

Những lỗi thường gặp khi đổi base_url là gì?

  • Dán cả endpoint đầy đủ. SDK tự nối thêm /chat/completions. Base URL đã kết thúc bằng phần đó sẽ thành /chat/completions/chat/completions và báo 404.
  • Thêm hoặc bỏ /v1 theo thói quen. Base trong tài liệu của DeepSeek không có /v1, của Z.ai kết thúc bằng /v4/ và của Gemini bằng /v1beta/openai/. Hãy sao chép chính xác chuỗi của nhà cung cấp.
  • Giữ nguyên tên model của OpenAI. Tên gpt-… sẽ lỗi ở nơi khác. Mỗi nhà cung cấp có định dạng riêng: deepseek-ai/DeepSeek-V4-Flash-0731 trên DeepInfra, accounts/fireworks/models/… trên Fireworks, broadnet/deepseek-v4.1-flash trên BroadNet.
  • Gửi tham số mà nhà cung cấp từ chối hoặc bỏ qua. Groq trả về 400 cho logprobs; lớp tương thích của Anthropic lặng lẽ bỏ qua seed, logit_bias và reasoning_effort. Một tham số bị lặng lẽ bỏ qua còn tệ hơn một lỗi, vì không có gì báo cho bạn biết.
  • Cho rằng các trường trong response giống nhau. Lớp tương thích của Anthropic trả về prompt_tokens_details rỗng, nên thiếu báo cáo token cache. Fireworks đặt usage của streaming trong chunk cuối, điều mà kiểu dữ liệu của SDK có thể không khai báo.
  • Cho rằng endpoint nào cũng có. “Tương thích OpenAI” thường chỉ có nghĩa là chat completions. Embeddings, âm thanh, tạo ảnh và Responses API là những câu hỏi riêng, như bảng đã cho thấy.
  • Nhầm region. Key của Alibaba gắn với một region, còn Together có một host riêng chỉ dành cho Mỹ. Key hợp lệ nhưng sai host vẫn sẽ lỗi.

Danh sách đầy đủ cần kiểm tra trước khi chuyển nằm trong checklist chuyển đổi sang API tương thích OpenAI.

BroadNet Inference hỗ trợ những endpoint nào?

Tài liệu tham chiếu API của BroadNet mô tả hai endpoint model trên https://inference.broadnet.ai/v1, cộng với GET /v1/models cho metadata của danh mục:

Endpoint Model
POST /v1/chat/completions DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B
POST /v1/audio/transcriptions BroadNet Transcribe Arabic, BroadNet Transcribe (14 ngôn ngữ)

Trên thực tế, điều đó có nghĩa là:

  • Không có tài liệu cho embeddings, tạo ảnh hay Responses API. Công cụ nào cần một trong số đó sẽ phải dùng thêm nhà cung cấp thứ hai cho phần ấy.
  • Gọi công cụ và đầu ra có cấu trúc có tài liệu cho GLM 5.3 và Qwen3.8 27B.
  • Hình ảnh được gửi dưới dạng URL data: bên trong phần nội dung image_url, trên DeepSeek V4.1 Flash, Qwen3.8 27B và Gemma 4 VL 26B.
  • Model suy luận (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) tính phần suy luận vào max_tokens. Hãy chừa từ 1.000 token trở lên, hoặc đặt reasoning_effort thành low, như tài liệu khuyên; xem vì sao model suy luận trả về câu trả lời rỗng.
  • Danh sách model có phản hồi khi chúng tôi gọi GET /v1/models ngày 15 tháng 11 năm 2026, nhưng endpoint này không nằm trong danh sách endpoint có tài liệu, nên đừng xây dựng dựa trên nó.
  • Giới hạn của key trả theo mức dùng là 30 request mỗi phút và 4 request đồng thời.

Giá trên 1 triệu token: DeepSeek V4.1 Flash $0.175 đầu vào và $0.52 đầu ra, Gemma 4 VL 26B $0.10 và $0.22. DeepSeek V4.1 Flash cũng được bán dưới dạng gói giá cố định $60 mỗi tháng cho mỗi phiên, một request tại một thời điểm.

Có nên gom nhiều nhà cung cấp qua một base URL?

Nếu ứng dụng của bạn gọi nhiều nhà cung cấp trong số này, một proxy như LiteLLM cho code của bạn một base URL duy nhất và ánh xạ tên model tới từng upstream. Bạn tự chọn cách ánh xạ; không có gì tự động chuyển nhà cung cấp cho bạn trừ khi bạn tự cấu hình fallback. Failover cho API LLM hướng dẫn cách làm, trong client hoặc trong LiteLLM. Hướng dẫn proxy LiteLLM có ví dụ cấu hình BroadNet. Để hiểu thêm về thuật ngữ, hãy xem API tương thích OpenAI.

BroadNet Inference phù hợp với ai?

BroadNet phù hợp nếu code của bạn đã dùng chat completions và bạn muốn model mở, chuyển giọng nói thành văn bản cho tiếng Ả Rập và đa ngôn ngữ, hoặc một phiên DeepSeek giá cố định trên cùng một key. Nó không phù hợp nếu bạn cần embeddings, Responses API hoặc tạo ảnh từ cùng một nhà cung cấp; Together AI và Gemini có tài liệu cho nhiều phần hơn của bề mặt OpenAI API. Hãy đối chiếu bảng của chúng tôi với tài liệu của từng nhà cung cấp trước khi triển khai, vì các URL và danh sách endpoint này có thay đổi.

Câu hỏi thường gặp

Base URL của OpenAI API là gì?

https://api.openai.com/v1. Node SDK chính thức dùng địa chỉ này khi bạn không đặt baseURL lẫn biến môi trường OPENAI_BASE_URL.

base_url nên kết thúc bằng /v1 hay /chat/completions?

Kết thúc đúng như tài liệu của nhà cung cấp, thường là /v1. SDK tự thêm /chat/completions, nên base URL nào đã kết thúc bằng /chat/completions sẽ gây lỗi 404.

Có đặt base URL bằng biến môi trường được không?

Được. Cả hai OpenAI SDK chính thức đều đọc OPENAI_BASE_URL, và nhiều công cụ xây dựng trên chúng cũng vậy. Hãy đặt OPENAI_API_KEY cùng với nó, và kiểm tra tài liệu của từng công cụ, vì một số công cụ dùng tên biến riêng.

Claude API có tương thích OpenAI không?

Một phần. Anthropic cung cấp https://api.anthropic.com/v1/ cho OpenAI SDK nhưng nói lớp này chủ yếu để thử nghiệm và so sánh model, không phải hướng đi production lâu dài. Nó bỏ qua strict trên công cụ và từ chối đầu vào âm thanh và tệp.

BroadNet Inference hỗ trợ những endpoint nào?

Tài liệu của họ liệt kê POST /v1/chat/completions và POST /v1/audio/transcriptions. Tài liệu không liệt kê embeddings, tạo ảnh hay Responses API.

Vì sao request chạy được với OpenAI nhưng lỗi ở nhà cung cấp khác?

Thường là do model ID sai định dạng, hoặc một tham số bị nhà cung cấp từ chối. Ví dụ Groq trả về 400 cho logprobs, logit_bias, top_logprobs và messages[].name. Hãy bỏ các tham số tùy chọn và thử lại với đúng model ID của nhà cung cấp.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity