---
title: "Instructor с OpenAI-совместимым base_url (Pydantic) | BroadRouter"
description: "Как извлекать объекты Pydantic из BroadNet Inference с Instructor: from_openai или from_provider со своим base_url и правильный выбор Mode."
url: https://broadrouter.com/ru/guides/instructor-structured-output/
lang: ru
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/guides/instructor-structured-output/) (обновлён 2026-11-16).

# Структурированный вывод через Instructor на BroadNet Inference

Обновлено 2026-11-16

Оберните клиент OpenAI с base\_url https://inference.broadnet.ai/v1 и ключом BroadNet в instructor.from\_openai, затем вызовите chat.completions.create с response\_model — вашим классом Pydantic — и model broadnet/glm-5.3 или broadnet/qwen3.8-27b. Только для этих двух моделей BroadNet указывает инструменты и структурированный вывод. По умолчанию используется Mode.TOOLS; Mode.JSON\_SCHEMA тоже работает.

Instructor — библиотека для Python, которая превращает ответы LLM в провалидированные объекты Pydantic и умеет повторять запрос, если валидация не прошла. Она патчит клиент OpenAI, а её документация описывает работу с OpenAI-совместимыми серверами через `base_url`. BroadNet Inference отдаёт chat completions по адресу `https://inference.broadnet.ai/v1` и указывает инструменты и структурированный вывод для GLM 5.3 и Qwen3.8 27B. BroadRouter — собственный сайт BroadNet. Руководство основано на документации Instructor для версии 1.17.0.

## Установка

```bash
pip install instructor
export BROADNET_API_KEY='your-broadnet-key'
```

## Извлечение объекта

```python
import os
import instructor
from openai import OpenAI
from pydantic import BaseModel

class Invoice(BaseModel):
    vendor: str
    total: float
    currency: str

client = instructor.from_openai(
    OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"]),
    mode=instructor.Mode.TOOLS,
)

invoice = client.chat.completions.create(
    model="broadnet/glm-5.3",
    response_model=Invoice,
    max_tokens=4000,
    messages=[{"role": "user", "content": "Acme Trading invoice, total 1,250.00 SAR"}],
)
print(invoice)
```

Instructor превращает `Invoice` в схему инструмента, через `tool_choice` заставляет модель вызвать этот инструмент и валидирует аргументы. Параметр `max_retries` задаёт, сколько раз Instructor переспросит модель, передав ей ошибку валидации, если объект не прошёл проверку.

## Или через from\_provider

```python
pclient = instructor.from_provider(
    "openai/broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
invoice = pclient.create(response_model=Invoice, max_tokens=4000,
                         messages=[{"role": "user", "content": "Acme Trading, 1,250.00 SAR"}])
```

Часть `openai/` выбирает клиент. Остаток, `broadnet/glm-5.3`, отправляется как ID модели.

## Какой режим выбрать

| Режим | Что отправляется | С BroadNet |
| --- | --- | --- |
| `Mode.TOOLS` (по умолчанию) | Принудительный вызов инструмента с вашей схемой | Да, на GLM 5.3 или Qwen3.8 27B |
| `Mode.JSON_SCHEMA` | `response_format` типа `json_schema` | Да, на GLM 5.3 или Qwen3.8 27B |
| `Mode.MD_JSON` | Обычный запрос; JSON разбирается из текста | Запасной вариант для других моделей; сначала проверьте |
| `Mode.RESPONSES_TOOLS` | Responses API | Нет: BroadNet отдаёт chat completions |

## Изображения

Qwen3.8 27B принимает не только инструменты, но и изображения, поэтому может прочитать фото или скан прямо в вашу модель данных:

```python
import base64
img = base64.b64encode(open("invoice.jpg", "rb").read()).decode()
invoice = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    response_model=Invoice,
    max_tokens=4000,
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "Extract the invoice fields."},
        {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64," + img}},
    ]}],
)
```

На ключе с оплатой по факту изображение учитывается как входные токены. См. [чтение арабских счетов с помощью vision-моделей](https://broadrouter.com/ru/guides/read-arabic-invoices-with-vision/).

## Как мы это проверяли

15 ноября 2026 г. мы установили instructor 1.17.0 и openai 3.3.0 в чистое виртуальное окружение и запустили примеры выше против локального mock-сервера, который отвечает в формате chat completions BroadNet. Мы прочитали записанные запросы. `Mode.TOOLS` отправил схему как инструмент с принудительным `tool_choice`, `Mode.JSON_SCHEMA` — формат ответа `json_schema`, и оба вернули валидный `Invoice`. `from_provider` отправил ID модели без изменений. Наш mock не пишет JSON свободным текстом, поэтому `Mode.MD_JSON` мы не проверяли, а пример с изображением не отправляли. Ключа BroadNet у нас не было, поэтому реальные ответы модели мы не проверяли.

## Решение проблем

-   **Повторы валидации, которые так и не проходят.** У GLM 5.3 и Qwen3.8 27B рассуждения учитываются в `max_tokens`. При низком лимите аргументы инструмента могут оборваться. Увеличьте его. [Почему ответы приходят пустыми](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/).
-   **400 на запрос.** Убедитесь, что используете GLM 5.3 или Qwen3.8 27B. Если принудительный `tool_choice` отклоняется, попробуйте `Mode.JSON_SCHEMA`.
-   **401.** Ключ неверен, истёк или исчерпал лимит.
-   **404.** `base_url` должен заканчиваться на `/v1`. Для GLM 5.3 и Qwen3.8 27B нужно пополнить баланс; стартовый грант $5 их не покрывает.
-   **429 при пакетном извлечении.** Ключ с оплатой по факту допускает 30 запросов в минуту и не больше 4 одновременно. Каждый повтор валидации — это ещё один запрос. См. [ошибки и повторные запросы](https://broadrouter.com/ru/guides/errors-and-retries/).

## Термины в этом руководстве

[Chat Completions API](https://broadrouter.com/ru/glossary/chat-completions-api/)

Chat Completions API — это HTTP-эндпоинт OpenAI, POST /v1/chat/completions, который принимает имя модели и список сообщений с ролями и возвращает следующее сообщение модели. Формат его запроса и ответа стал общим стандартом, который повторяют OpenAI-совместимые провайдеры и SDK.

[Лимит запросов (rate limit)](https://broadrouter.com/ru/glossary/rate-limit/)

Лимит запросов (rate limit) — это ограничение, которое API накладывает на объём использования клиентом за отрезок времени, например число запросов или токенов в минуту. Запросы сверх лимита отклоняются, обычно с HTTP 429 Too Many Requests, пока использование снова не опустится ниже порога.

[Оплата по факту (pay-as-you-go)](https://broadrouter.com/ru/glossary/pay-as-you-go/)

Оплата по факту (pay-as-you-go) — это модель ценообразования, при которой вы платите только за то, что использовали, по счётчику в единицах вроде токенов, запросов или минут аудио, без подписки и минимальных обязательств. Так тарифицирует большинство LLM API — с предоплаченного баланса или по периодическому счёту.

[Параллельность (concurrency)](https://broadrouter.com/ru/glossary/concurrency/)

Параллельность (concurrency) — это число запросов, которые клиент одновременно держит в работе. LLM API часто ограничивают её на ключ или тариф отдельно от лимита запросов в минуту, потому что каждый открытый запрос занимает мощности GPU, пока ответ не будет готов.

[Входные и выходные токены (input and output tokens)](https://broadrouter.com/ru/glossary/input-and-output-tokens/)

Входные токены — это токены, которые языковая модель читает в запросе: системный промпт, история диалога, описания инструментов и изображения. Выходные токены — это токены, которые она генерирует в ответ, включая рассуждения. LLM API обычно тарифицируют их по отдельности, и выход, как правило, дороже.

[Токен (token)](https://broadrouter.com/ru/glossary/token/)

Токен — это единица текста, которую языковая модель читает и пишет: слово, часть слова, знак препинания или последовательность байтов, которую выдаёт токенизатор модели. LLM API считают, ограничивают и обычно тарифицируют использование в токенах.

[tool\_choice](https://broadrouter.com/ru/glossary/tool-choice/)

tool\_choice — это параметр запроса, который управляет использованием инструментов. В Chat Completions от OpenAI он может быть auto (модель решает сама), required (модель обязана вызвать один или несколько инструментов), none (без инструментов) или именем функции, вызов которой принудителен. Аналогичные варианты у Anthropic — auto, any, tool и none.

## Вопросы и ответы

### Какой режим Instructor использовать с BroadNet?

Mode.TOOLS, режим по умолчанию, на GLM 5.3 или Qwen3.8 27B — для них BroadNet указывает инструменты и структурированный вывод. Mode.JSON\_SCHEMA вместо этого отправляет response\_format типа json\_schema. В нашем тесте с mock-сервером оба режима вернули валидные объекты.

### Можно ли использовать Mode.RESPONSES\_TOOLS?

Нет. Документация Instructor советует выбирать его, только если сервер реализует Responses API. BroadNet отдаёт только chat completions.

### Работает ли Instructor с DeepSeek V4.1 Flash или Gemma на BroadNet?

Для этих моделей BroadNet не указывает инструменты и структурированный вывод. Mode.MD\_JSON просит JSON обычным текстом и разбирает его; это может сработать, но сначала проверьте на своих данных.

### Как записать строку модели для from\_provider?

Пишите openai/broadnet/glm-5.3. Instructor отделяет первый сегмент как провайдера, и в нашем тесте отправил на сервер broadnet/glm-5.3 без изменений.

## Похожие руководства

-   [OpenAI Python SDK и BroadNet Inference](https://broadrouter.com/ru/guides/openai-python-sdk/)
-   [Pydantic AI и BroadNet Inference (OpenAICompatibleProvider)](https://broadrouter.com/ru/guides/pydantic-ai-openai-compatible/)
-   [Как читать арабские счета и чеки vision-моделью](https://broadrouter.com/ru/guides/read-arabic-invoices-with-vision/)
-   [Почему рассуждающая модель возвращает пустой ответ](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/)
-   [Все инструменты, которые работают с BroadNet Inference (на английском)](https://broadrouter.com/integrations/): SDK, агенты для программирования, чат-интерфейсы и инструменты автоматизации с точными настройками для каждого

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-instructor-structured-output&utm_content=page-cta) ·

**Источники**

-   [Документация Instructor, OpenAI и OpenAI-совместимые серверы (дата обращения 2026-11-15)](https://python.useinstructor.com/integrations/openai/)
-   [PyPI, instructor 1.17.0 (дата обращения 2026-11-15)](https://pypi.org/project/instructor/)
-   [Справочник API BroadNet Inference (дата обращения 2026-11-15) (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-instructor-structured-output&utm_content=sources)
