---
title: "Pydantic AI со своим OpenAI-совместимым base_url | BroadRouter"
description: "Запуск агентов Pydantic AI на BroadNet Inference через OpenAIChatModel и OpenAICompatibleProvider: вызов инструментов, структурированный вывод и профиль модели."
url: https://broadrouter.com/ru/guides/pydantic-ai-openai-compatible/
lang: ru
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/guides/pydantic-ai-openai-compatible/) (обновлён 2026-11-16).

# Pydantic AI и BroadNet Inference (OpenAICompatibleProvider)

Обновлено 2026-11-16

Установите pydantic-ai-slim\[openai\], затем создайте OpenAIChatModel с ID модели BroadNet, например broadnet/glm-5.3, и OpenAICompatibleProvider с базовым URL https://inference.broadnet.ai/v1 и ключом BroadNet в качестве API-ключа. Передайте модель в Agent. Используйте OpenAIChatModel, а не модель для Responses: BroadNet обслуживает chat completions. По документации Pydantic AI, OpenAIProvider с base\_url предназначен для самой OpenAI.

Pydantic AI — фреймворк для агентов на Python от команды Pydantic. Для сервиса, у которого нет встроенного провайдера, документация советует использовать `OpenAICompatibleProvider` с `base_url` этого сервиса. BroadNet Inference обслуживает стандартные chat completions по адресу `https://inference.broadnet.ai/v1`, так что путь именно такой. BroadRouter — собственный сайт BroadNet; руководство следует документации Pydantic AI для версии 2.68.

## Установка

```bash
pip install "pydantic-ai-slim[openai]"
export BROADNET_API_KEY='your-broadnet-key'
```

## Подключение

В примере агента просят придумать три названия для линтера на Go.

```python
import os
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai_compatible import OpenAICompatibleProvider

model = OpenAIChatModel(
    'broadnet/glm-5.3',
    provider=OpenAICompatibleProvider(
        'broadnet',
        base_url='https://inference.broadnet.ai/v1',
        api_key=os.environ['BROADNET_API_KEY'],
    ),
)

agent = Agent(model)
result = agent.run_sync('Give me three names for a Go linting tool.')
print(result.output)
```

Запуск и есть проверка: если ответ напечатался, ключ, URL и ID модели указаны верно.

-   **Первый аргумент — ID модели**, который отправляется в BroadNet. Указывайте его точно, с префиксом `broadnet/`.
-   **Имя провайдера** (здесь `'broadnet'`) записывается в каждый ответ. Документация Pydantic AI советует не менять его, потому что от него зависит, какие данные из прошлых ответов отправляются обратно в сервис.
-   **Оставайтесь на `OpenAIChatModel`.** Документация Pydantic AI советует использовать `OpenAIResponsesModel`, только если сервис реализует Responses API. В списке BroadNet его нет.

## Инструменты и структурированный вывод

Здесь агент должен вернуть объект `City` — город, где стоит Бурдж-Халифа, и его страну.

```python
from pydantic import BaseModel

class City(BaseModel):
    name: str
    country: str

agent = Agent(model, output_type=City)
print(agent.run_sync('Which city hosts the Burj Khalifa?').output)
```

Для инструментов и структурированного вывода используйте `broadnet/glm-5.3` или `broadnet/qwen3.8-27b`: документация BroadNet заявляет обе возможности только для этих двух моделей.

## Когда задавать профиль модели

Pydantic AI выбирает профиль запроса по имени модели. Если какая-то возможность игнорируется или отклоняется, документация советует передать свой `OpenAIModelProfile`. Для BroadNet полезно знать две настройки (комментарии в коде: первая отправляет `max_tokens` — поле, которое документирует BroadNet; вторая нужна, только если строгие схемы инструментов отклоняются):

```python
from pydantic_ai.profiles.openai import OpenAIModelProfile

model = OpenAIChatModel(
    'broadnet/glm-5.3',
    provider=OpenAICompatibleProvider('broadnet', base_url='https://inference.broadnet.ai/v1', api_key=os.environ['BROADNET_API_KEY']),
    profile=OpenAIModelProfile(
        openai_chat_supports_max_completion_tokens=False,  # send max_tokens, the field BroadNet documents
        openai_supports_strict_tool_definition=False,      # only if strict tool schemas are rejected
    ),
)
```

Лимит выхода передавайте через настройки модели, например `agent.run_sync(prompt, model_settings={'max_tokens': 2000})`. На DeepSeek V4.1 Flash, GLM 5.3 и Qwen3.8 27B в него входят рассуждения.

## Какую модель выбрать

| Агент | Модель |
| --- | --- |
| Инструменты, структурированный вывод | `broadnet/glm-5.3` |
| Изображения или арабский текст, с инструментами | `broadnet/qwen3.8-27b` |
| Длинные документы, тариф с фиксированной ценой | `broadnet/deepseek-v4.1-flash` |
| Бесплатный стартовый грант | `broadnet/gemma-4-26b-a4b` (контекст 32 768 токенов) |

[Цены на все модели](https://broadrouter.com/ru/pricing/).

## Решение проблем

-   **401.** Ключ неверен, истёк или исчерпан лимит.
-   **404 или модель не найдена.** `base_url` должен заканчиваться на `/v1`. Проверьте ID модели. Для платных моделей нужно пополнить баланс; грант $5 покрывает только `broadnet/gemma-4-26b-a4b`.
-   **Пустой вывод или цикл повторных попыток валидации.** Рассуждения израсходовали бюджет на выход. Увеличьте `max_tokens`. [Почему ответы приходят пустыми](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/).
-   **400 на определениях инструментов.** Задайте в профиле `openai_supports_strict_tool_definition=False` и используйте модель, для которой BroadNet заявляет инструменты.
-   **429 при одновременном запуске агентов.** Ключ с оплатой по факту допускает 30 запросов в минуту и 4 одновременно. См. [ошибки и повторные запросы](https://broadrouter.com/ru/guides/errors-and-retries/).

## Термины в этом руководстве

[ИИ-агент (AI agent)](https://broadrouter.com/ru/glossary/agent/)

ИИ-агент — это система, в которой языковая модель сама направляет свои шаги к цели: решает, какие инструменты вызвать, читает результаты и повторяет, пока не выдаст итоговый ответ или не упрётся в лимит. Фиксированный сценарий, который вызывает модель в заранее заданных местах, обычно называют не агентом, а workflow.

[Лимит запросов (rate limit)](https://broadrouter.com/ru/glossary/rate-limit/)

Лимит запросов (rate limit) — это ограничение, которое API накладывает на объём использования клиентом за отрезок времени, например число запросов или токенов в минуту. Запросы сверх лимита отклоняются, обычно с HTTP 429 Too Many Requests, пока использование снова не опустится ниже порога.

[Оплата по факту (pay-as-you-go)](https://broadrouter.com/ru/glossary/pay-as-you-go/)

Оплата по факту (pay-as-you-go) — это модель ценообразования, при которой вы платите только за то, что использовали, по счётчику в единицах вроде токенов, запросов или минут аудио, без подписки и минимальных обязательств. Так тарифицирует большинство LLM API — с предоплаченного баланса или по периодическому счёту.

[Параллельность (concurrency)](https://broadrouter.com/ru/glossary/concurrency/)

Параллельность (concurrency) — это число запросов, которые клиент одновременно держит в работе. LLM API часто ограничивают её на ключ или тариф отдельно от лимита запросов в минуту, потому что каждый открытый запрос занимает мощности GPU, пока ответ не будет готов.

[Безлимитный тариф LLM (flat-rate LLM plan)](https://broadrouter.com/ru/glossary/flat-rate-llm-plan/)

Безлимитный тариф LLM, или тариф с фиксированной ценой, — это доступ к API языковой модели за фиксированную плату за период, например месяц, вместо оплаты за токены. Обычно такие тарифы ограничивают что-то другое — параллельность, скорость, набор моделей или окна использования, поэтому ограничения важны не меньше цены.

[Контекстное окно (context window)](https://broadrouter.com/ru/glossary/context-window/)

Контекстное окно — это максимальное число токенов, с которым языковая модель может работать в одном запросе. В него входят промпт, история диалога, описания инструментов, изображения и сгенерированный ответ, включая токены рассуждений. Всё, что не помещается, приходится обрезать, сжимать в краткое изложение или делить на несколько запросов.

[Chat Completions API](https://broadrouter.com/ru/glossary/chat-completions-api/)

Chat Completions API — это HTTP-эндпоинт OpenAI, POST /v1/chat/completions, который принимает имя модели и список сообщений с ролями и возвращает следующее сообщение модели. Формат его запроса и ответа стал общим стандартом, который повторяют OpenAI-совместимые провайдеры и SDK.

## Вопросы и ответы

### Что использовать для BroadNet: OpenAIProvider или OpenAICompatibleProvider?

OpenAICompatibleProvider. Документация Pydantic AI говорит, что OpenAIProvider тоже принимает base\_url, но он предназначен для самой OpenAI или прозрачного прокси к ней и рассчитывает на модели и возможности OpenAI.

### Почему OpenAIChatModel, а не модель OpenAI по умолчанию?

Модель OpenAI по умолчанию в Pydantic AI работает через Responses API. BroadNet обслуживает chat completions по адресу /v1/chat/completions, а именно его вызывает OpenAIChatModel.

### Работают ли инструменты и структурированный вывод?

Да, на моделях, для которых BroadNet заявляет инструменты и структурированный вывод: GLM 5.3 и Qwen3.8 27B. Для DeepSeek V4.1 Flash документация BroadNet инструменты не заявляет, поэтому агентов с инструментами на ней сначала проверьте.

### Как запретить Pydantic AI отправлять max\_completion\_tokens?

Передайте profile=OpenAIModelProfile(openai\_chat\_supports\_max\_completion\_tokens=False) в OpenAIChatModel. Тогда Pydantic AI отправляет старое поле max\_tokens — именно его описывает справочник API BroadNet.

## Похожие руководства

-   [OpenAI Python SDK и BroadNet Inference](https://broadrouter.com/ru/guides/openai-python-sdk/)
-   [LangChain и BroadNet Inference](https://broadrouter.com/ru/guides/langchain-openai-base-url/)
-   [CrewAI и BroadNet Inference как свой OpenAI-эндпоинт](https://broadrouter.com/ru/guides/crewai-custom-openai-endpoint/)
-   [Почему рассуждающая модель возвращает пустой ответ](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/)
-   [Все инструменты, которые работают с BroadNet Inference (на английском)](https://broadrouter.com/integrations/): SDK, агенты для программирования, чат-интерфейсы и инструменты автоматизации с точными настройками для каждого

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-pydantic-ai-openai-compatible&utm_content=page-cta) ·

**Источники**

-   [Документация Pydantic AI, Other compatible APIs (Other endpoints, Model profile) (дата обращения 2026-11-15)](https://pydantic.dev/docs/ai/models/compatible-apis/)
-   [Документация Pydantic AI, модели OpenAI (дата обращения 2026-11-15)](https://pydantic.dev/docs/ai/models/openai/)
-   [PyPI, pydantic-ai 2.68.0, Python 3.11+ (дата обращения 2026-11-15)](https://pypi.org/project/pydantic-ai/)
-   [Справочник API BroadNet Inference (дата обращения 2026-11-15) (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-pydantic-ai-openai-compatible&utm_content=sources)
