Каждый запрос SDK — это базовый URL плюс путь. Укажите базовый URL правильно, и остальной клиент заработает без изменений.
Как это работает
Клиент соединяет две части:
| Часть | Пример |
|---|---|
| Базовый URL | https://inference.broadnet.ai/v1 |
| Путь эндпоинта | /chat/completions |
| Полный URL запроса | https://inference.broadnet.ai/v1/chat/completions |
В коде имя параметра зависит от библиотеки:
# Python SDK
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
// Node SDK
const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY });
Оба официальных SDK, если ничего не задано, берут переменную окружения OPENAI_BASE_URL, а без неё — адрес самой OpenAI. Другие инструменты используют имена вроде api_base или OPENAI_API_BASE.
Почему это важно
Именно базовый URL делает переход на OpenAI-совместимый API простой заменой. Он же определяет, куда уходят ваши промпты и кто выставляет вам счёт. Ошибочное значение может отправить трафик — и ваш API-ключ — не тому провайдеру. Храните его в конфигурации рядом с ключом, а не прописывайте в нескольких местах кода.
Роутеры используют ту же идею: вы направляете базовый URL на роутер, а не на провайдера модели.
В BroadNet Inference
Базовый URL — https://inference.broadnet.ai/v1 для всех моделей: чата, vision и распознавания речи. Чат идёт на /chat/completions, транскрибация — на /audio/transcriptions. Первый запрос показан в быстром старте с curl, а где эта настройка находится во фреймворке — в руководстве по LangChain.
Частые ошибки
- Нет
/v1.https://inference.broadnet.aiбез/v1приводит к ошибкам 404 в SDK. - Задвоенный путь. Если вставить в базовый URL полный эндпоинт, например
.../v1/chat/completions, SDK будет вызывать.../chat/completions/chat/completions. - Забытые переменные окружения. Старая
OPENAI_BASE_URLв вашей оболочке перекрывает то, что вы ожидаете. Если запросы уходят не туда, выведите её значение. - Обычный HTTP. Всегда используйте
https://. Bearer-ключи должны передаваться по TLS. - Сменили URL, но не модель. У каждого провайдера свои ID моделей, например
broadnet/deepseek-v4.1-flash.
Переносите приложение целиком? Пройдите по чек-листу миграции.