---
title: "OpenAI Python SDK со своим base_url (BroadNet) | BroadRouter"
description: "Как подключить официальный OpenAI Python SDK к BroadNet Inference, поменяв только base_url: установка, ключ, первый запрос и стриминг ответа."
url: https://broadrouter.com/ru/guides/openai-python-sdk/
lang: ru
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/guides/openai-python-sdk/) (обновлён 2026-11-16).

# OpenAI Python SDK и BroadNet Inference

Обновлено 2026-11-16

Установите пакет openai и создайте клиент с base\_url https://inference.broadnet.ai/v1 и ключом BroadNet в api\_key. Все вызовы chat.completions работают без изменений; меняется только ID модели, например broadnet/deepseek-v4.1-flash. BroadNet обслуживает chat completions и транскрибацию, но не Responses API.

Вам нужны аккаунт BroadNet Inference и ключ для инференса. Новые аккаунты получают $5 стартового гранта без привязки карты; [создайте аккаунт на inference.broadnet.ai](https://inference.broadnet.ai/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-openai-python-sdk&utm_content=body). Консоль показывает ключ один раз и хранит только его хеш, поэтому сразу скопируйте его в переменную окружения.

## 1\. Установите пакет и задайте ключ

Текущей версии пакета `openai` (3.x) нужен Python 3.10 или новее.

```bash
python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'
```

## 2\. Первый запрос

Сохраните этот код в файл `first_request.py`:

```python
from openai import OpenAI
import os

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)
```

Запустите его командой `python first_request.py`. В примере используется `broadnet/gemma-4-26b-a4b`, потому что эта модель работает на бесплатном гранте. Остальные чат-модели доступны после пополнения баланса.

## 3\. Выберите нужную модель

Меняется только `model`:

| Что вам нужно | ID модели |
| --- | --- |
| Безлимит на тарифе с фиксированной ценой, контекст 1 млн | `broadnet/deepseek-v4.1-flash` |
| Инструменты и структурированный вывод, контекст 1 млн | `broadnet/glm-5.3` |
| Арабский текст и изображения | `broadnet/qwen3.8-27b` |
| Низкая цена, работает на бесплатном гранте | `broadnet/gemma-4-26b-a4b` |

DeepSeek V4.1 Flash, GLM 5.3 и Qwen3.8 27B рассуждают перед ответом, и рассуждения расходуют `max_tokens`. Давайте им 1000 токенов или больше. [Почему маленький лимит даёт пустой ответ](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/).

## 4\. Стриминг ответа

```python
stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    stream=True,
    stream_options={"include_usage": True},
    messages=[{"role": "user", "content": "Count from one to three."}],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\n", chunk.usage)
```

С `include_usage` число токенов приходит в последнем чанке, у которого нет `choices`. Об оборванных соединениях — в [руководстве по стримингу](https://broadrouter.com/ru/guides/streaming-chat-completions/).

## 5\. Сохраняйте ID запроса

В каждом ответе есть заголовок `X-Request-ID`. Записывайте его в лог: его попросит поддержка BroadNet. У разобранных ответов он доступен как `response._request_id`. Чтобы прочитать его вместе с другими заголовками:

```python
raw = client.chat.completions.with_raw_response.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Hi"}],
)
print(raw.headers.get("x-request-id"))
response = raw.parse()
```

Ключ с оплатой по факту допускает 30 запросов в минуту, а одновременно — не больше 4. [Что означает каждый код ошибки и когда повторять запрос](https://broadrouter.com/ru/guides/errors-and-retries/).

## Решение проблем

-   **`AuthenticationError` (401).** Ключ неверен, истёк или исчерпан лимит оплаты по факту. Проверьте, что `BROADNET_API_KEY` задана в том процессе, который запускает ваш код.
-   **`NotFoundError` (404).** Проверьте, что `base_url` заканчивается на `/v1` и что вы вызываете `chat.completions`, а не `responses`. Затем проверьте ID модели с префиксом `broadnet/`.
-   **Платная модель не работает на новом аккаунте.** Стартовый грант $5 покрывает BroadNet Gemma 4 VL 26B (`broadnet/gemma-4-26b-a4b`) и обе модели BroadNet Transcribe. Чтобы пользоваться другими чат-моделями — DeepSeek V4.1 Flash, GLM 5.3 и Qwen3.8 27B, — пополните баланс.
-   **Пустой `content`.** Рассуждения расходуют `max_tokens`. Поднимите лимит до 1000 или больше. [Почему ответы приходят пустыми](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/).
-   **`RateLimitError` (429).** Вы превысили лимит запросов в минуту или одновременных запросов. По умолчанию SDK повторяет запрос дважды; чтобы изменить это, задайте `max_retries` у клиента.
-   **Ошибки собственного HTTP-клиента после обновления.** SDK 3.x использует HTTPX2. Если вы передаёте свой `http_client`, следуйте руководству SDK по миграции на HTTPX2.

## Термины в этом руководстве

[Лимит запросов (rate limit)](https://broadrouter.com/ru/glossary/rate-limit/)

Лимит запросов (rate limit) — это ограничение, которое API накладывает на объём использования клиентом за отрезок времени, например число запросов или токенов в минуту. Запросы сверх лимита отклоняются, обычно с HTTP 429 Too Many Requests, пока использование снова не опустится ниже порога.

[Контекстное окно (context window)](https://broadrouter.com/ru/glossary/context-window/)

Контекстное окно — это максимальное число токенов, с которым языковая модель может работать в одном запросе. В него входят промпт, история диалога, описания инструментов, изображения и сгенерированный ответ, включая токены рассуждений. Всё, что не помещается, приходится обрезать, сжимать в краткое изложение или делить на несколько запросов.

[Оплата по факту (pay-as-you-go)](https://broadrouter.com/ru/glossary/pay-as-you-go/)

Оплата по факту (pay-as-you-go) — это модель ценообразования, при которой вы платите только за то, что использовали, по счётчику в единицах вроде токенов, запросов или минут аудио, без подписки и минимальных обязательств. Так тарифицирует большинство LLM API — с предоплаченного баланса или по периодическому счёту.

[Параллельность (concurrency)](https://broadrouter.com/ru/glossary/concurrency/)

Параллельность (concurrency) — это число запросов, которые клиент одновременно держит в работе. LLM API часто ограничивают её на ключ или тариф отдельно от лимита запросов в минуту, потому что каждый открытый запрос занимает мощности GPU, пока ответ не будет готов.

[API-ключ (API key)](https://broadrouter.com/ru/glossary/api-key/)

API-ключ — это секретная строка, которая идентифицирует и авторизует клиента, вызывающего API. LLM API обычно ожидают его в заголовке Authorization: Bearer, и любой, у кого есть ключ, может отправлять запросы, оплачиваемые аккаунтом владельца ключа.

## Вопросы и ответы

### Нужен ли для BroadNet другой SDK?

Нет. BroadNet Inference принимает форматы OpenAI для chat completions и audio transcriptions, поэтому официальный пакет openai работает с другим base\_url.

### Можно ли и дальше использовать OPENAI\_API\_KEY?

Можно, но отдельная переменная BROADNET\_API\_KEY защищает от ошибки, когда ключ одного провайдера случайно уходит другому.

### Читает ли SDK переменную OPENAI\_BASE\_URL?

Да. Если base\_url не передан, клиент берёт OPENAI\_BASE\_URL. Задайте в ней https://inference.broadnet.ai/v1, а в OPENAI\_API\_KEY — ключ BroadNet, и OpenAI() можно создавать без аргументов.

### Работает ли client.responses.create с BroadNet?

Нет. README SDK начинается с Responses API, но в документации BroadNet перечислены только chat completions и audio transcriptions. Используйте client.chat.completions.create.

## Похожие руководства

-   [OpenAI Node.js SDK и BroadNet Inference](https://broadrouter.com/ru/guides/openai-node-sdk/)
-   [Стриминг chat completions и обрыв соединения](https://broadrouter.com/ru/guides/streaming-chat-completions/)
-   [Почему рассуждающая модель возвращает пустой ответ](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/)
-   [Коды ошибок BroadNet Inference и когда повторять запрос](https://broadrouter.com/ru/guides/errors-and-retries/)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-openai-python-sdk&utm_content=page-cta) ·

**Источники**

-   [Справочник API BroadNet Inference, первый запрос (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-openai-python-sdk&utm_content=sources#base-url)
-   [Библиотека OpenAI для Python на PyPI (3.x, Python 3.10+, дата обращения 2026-11-14)](https://pypi.org/project/openai/)
