OpenAI-совместимый API принимает запросы в том же формате, что и API OpenAI, поэтому официальные SDK OpenAI работают, если поменять base_url и API-ключ. Сложность в том, что каждый провайдер размещает свой эндпоинт чуть по-другому. В таблице ниже 14 провайдеров; данные по каждому взяты из его собственной документации 15 ноября 2026 года.
Какой базовый URL у каждого OpenAI-совместимого провайдера?
| Провайдер | Базовый URL | Что перечислено в документации о совместимости с OpenAI | Особенности, указанные в документации |
|---|---|---|---|
| OpenAI | https://api.openai.com/v1 |
Всё; это эталон | Значение SDK по умолчанию, если ничего не задано |
| Anthropic | https://api.anthropic.com/v1/ |
Chat completions | “Primarily intended to test and compare model capabilities” (перевод: «в первую очередь предназначен для тестирования и сравнения возможностей моделей»); strict игнорируется; аудио и файлы на входе дают 400 |
| Google Gemini | https://generativelanguage.googleapis.com/v1beta/openai/ |
Chat completions, embeddings, генерация изображений, models, batch | Поддержка библиотеки OpenAI “still in beta” (перевод: «пока в бете»); Responses API не указан |
| DeepSeek | https://api.deepseek.com |
Chat completions | Нет версии в пути; отдельный URL в формате Anthropic — /anthropic |
| Groq | https://api.groq.com/openai/v1 |
Chat completions, Responses API; замечания по audio transcription | logprobs, logit_bias, top_logprobs, messages[].name дают 400; n должен быть 1; нет расшифровок в srt и vtt |
| Together AI | https://api.together.ai/v1 |
Chat, completions, images, speech, transcriptions, models, Responses | Инференс только в США — на https://us-api.together.ai/v1; embeddings только на выделенных эндпоинтах |
| Fireworks AI | https://api.fireworks.ai/inference/v1 |
Chat completions | ID моделей вида accounts/fireworks/models/…; если не указано иное, уменьшает max_tokens под размер контекста вместо ошибки |
| DeepInfra | https://api.deepinfra.com/v1/openai |
Chat completions; клиенты Responses используют тот же базовый URL | Embeddings, изображения и речь описаны на отдельной странице |
| Mistral AI | https://api.mistral.ai/v1 |
POST /v1/chat/completions |
Справочник API не называет себя OpenAI-совместимым; проверьте, прежде чем на это полагаться |
| OpenRouter | https://openrouter.ai/api/v1 |
Chat completions | Необязательные заголовки HTTP-Referer и X-OpenRouter-Title для его рейтингов |
| xAI | https://api.x.ai/v1 |
Responses API | В руководстве сказано: “The Responses API is the preferred way of interacting with our models” (перевод: «Responses API — предпочтительный способ работы с нашими моделями») |
| Z.ai (GLM) | https://api.z.ai/api/paas/v4/ |
Chat completions | Путь v4, а не v1 |
| Alibaba Model Studio | https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (Сингапур) |
Chat completions | ID рабочего пространства в имени хоста; ключ работает только в том регионе, где создан, иначе 401 |
| BroadNet Inference | https://inference.broadnet.ai/v1 |
Chat completions, audio transcriptions | ID моделей начинаются с broadnet/; подробнее ниже |
Alibaba указывает также эндпоинт в США (Вирджиния) на us-east-1. В строке для Пекина на той же странице показан сингапурский хост, хотя в другом месте страницы назван cn-beijing, поэтому китайский эндпоинт уточняйте в консоли. Таблица — снимок на дату проверки. Эндпоинты меняются: пока мы проверяли документацию Anthropic и Google, обе перенаправили нас на новые адреса.
Цены этих провайдеров смотрите на страницах цены LLM API по провайдерам.
Как задать базовый URL в коде?
В Python передайте base_url в клиент:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)
В Node параметр называется baseURL:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
Или задайте его один раз для всех инструментов, которые используют официальные SDK. В исходном коде Node SDK baseURL по умолчанию берётся из process.env['OPENAI_BASE_URL'], а если её нет — https://api.openai.com/v1; README для Python описывает ту же переменную:
export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"
Подробные руководства: OpenAI Python SDK, OpenAI Node SDK. Что такое базовый URL и зачем его запрашивают инструменты, — в глоссарии.
Как проверить новый базовый URL через curl?
Прежде чем менять код приложения, отправьте один маленький запрос:
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'
Подставьте базовый URL, ключ и модель провайдера, которого проверяете. Ответ 200 с массивом choices означает, что путь, ключ и ID модели верны. 404 обычно означает неверный путь; 401 — неверный ключ или регион; в ответе 400 часто указан параметр, который провайдер отклоняет. Больше примеров — в быстром старте с curl, а конструктор API-запросов сам напишет версии для curl, Python и Node.
Какие ошибки чаще всего допускают при смене base_url?
- Вставляют полный эндпоинт. SDK сам добавляет
/chat/completions. Если базовый URL уже на него заканчивается, получится/chat/completions/chat/completionsи 404. - Добавляют или убирают
/v1по привычке. В документированном базовом URL DeepSeek нет/v1, у Z.ai он заканчивается на/v4/, а у Gemini — на/v1beta/openai/. Копируйте строку провайдера в точности. - Оставляют названия моделей OpenAI. Имена
gpt-…у других провайдеров не работают. У каждого свой формат:deepseek-ai/DeepSeek-V4-Flash-0731у DeepInfra,accounts/fireworks/models/…у Fireworks,broadnet/deepseek-v4.1-flashу BroadNet. - Отправляют параметры, которые провайдер отклоняет или игнорирует. Groq возвращает 400 на
logprobs; слой Anthropic молча игнорируетseed,logit_biasиreasoning_effort. Молча проигнорированный параметр хуже ошибки: вы об этом просто не узнаете. - Рассчитывают на те же поля в ответе. Слой Anthropic возвращает пустой
prompt_tokens_details, поэтому данных о токенах из кэша нет. Fireworks кладёт usage при стриминге в последний чанк, а типы SDK могут это поле не объявлять. - Рассчитывают, что есть все эндпоинты. «OpenAI-совместимый» обычно означает chat completions. Embeddings, аудио, генерация изображений и Responses API — отдельные вопросы, как видно из таблицы.
- Путают регионы. Ключи Alibaba привязаны к региону, а у Together есть отдельный хост только для США. Действующий ключ на чужом хосте всё равно не сработает.
Полный список проверок перед переходом — в чек-листе миграции на OpenAI-совместимый API.
Какие эндпоинты поддерживает BroadNet Inference?
Справочник API BroadNet описывает два эндпоинта моделей на https://inference.broadnet.ai/v1, а также GET /v1/models для метаданных каталога:
| Эндпоинт | Модели |
|---|---|
POST /v1/chat/completions |
DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B |
POST /v1/audio/transcriptions |
BroadNet Transcribe Arabic, BroadNet Transcribe (14 языков) |
Что это значит на практике:
- Embeddings, генерация изображений и Responses API не документированы. Если инструменту нужно что-то из этого, для этой части потребуется второй провайдер.
- Вызов инструментов и структурированный вывод документированы для GLM 5.3 и Qwen3.8 27B.
- Изображения передаются как
data:URL внутри частей контентаimage_url— для DeepSeek V4.1 Flash, Qwen3.8 27B и Gemma 4 VL 26B. - Рассуждающие модели (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) засчитывают рассуждения в
max_tokens. Оставляйте 1000 токенов или больше либо задайтеreasoning_effortравнымlow, как советует документация; см. почему рассуждающие модели возвращают пустые ответы. - Список моделей вернулся, когда мы вызвали
GET /v1/models15 ноября 2026 года, но этого эндпоинта нет в списке документированных, поэтому не стройте на нём решения. - Лимиты для ключей с оплатой по факту: 30 запросов в минуту и 4 одновременно выполняемых.
Цены за 1 млн токенов: DeepSeek V4.1 Flash — $0.175 за вход и $0.52 за выход, Gemma 4 VL 26B — $0.10 и $0.22. DeepSeek V4.1 Flash также продаётся по тарифу с фиксированной ценой: $60 в месяц за сессию, один запрос за раз.
Стоит ли пропускать нескольких провайдеров через один базовый URL?
Если ваше приложение обращается к нескольким из этих провайдеров, прокси вроде LiteLLM даёт коду один базовый URL и сопоставляет названия моделей с каждым upstream-провайдером. Сопоставление задаёте вы; ничто не переключает провайдеров за вас, если вы сами не настроите фолбэки. Как это сделать в клиенте или в LiteLLM, показано в статье об отказоустойчивости LLM API. В руководстве по прокси LiteLLM есть пример записи для BroadNet. Что означает сам термин, читайте в статье OpenAI-совместимый API.
Какое место здесь занимает BroadNet Inference
BroadNet подойдёт, если ваш код уже работает с chat completions и вам нужны открытые модели, распознавание арабской и многоязычной речи или сессия DeepSeek по фиксированной цене — на одном ключе. Он не подойдёт, если от того же провайдера нужны embeddings, Responses API или генерация изображений; Together AI и Gemini документируют большую часть возможностей OpenAI API. Перед выпуском сверьте нашу таблицу с документацией каждого провайдера: эти URL и списки эндпоинтов меняются.
