---
title: "Структурированный вывод LLM: JSON mode и JSON Schema"
description: "JSON mode даёт валидный JSON, json_schema — нужную вам структуру. Как запросить оба режима у OpenAI-совместимых моделей, валидировать через Pydantic и чинить ответ."
url: https://broadrouter.com/ru/blog/structured-output-json-schema/
lang: ru
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/blog/structured-output-json-schema/) (обновлён 2026-11-14).

# JSON mode или json\_schema: надёжный структурированный вывод LLM

Команда BroadNet Inference · 4 мин чтения · Опубликовано 2026-11-14

JSON mode (response\_format json\_object) гарантирует только валидный JSON. Структурированный вывод (response\_format json\_schema) гарантирует ещё и ваши поля и типы — там, где провайдер это обеспечивает. В обоих случаях проверяйте finish\_reason, разбирайте ответ и валидируйте его по схеме, например модели Pydantic. Если валидация не прошла, отправьте ошибку обратно и запросите ответ снова, со строгим лимитом попыток.

## Главное

-   Руководство OpenAI: оба режима дают валидный JSON, но "only Structured Outputs ensure schema adherence" (перевод: «соответствие схеме гарантирует только Structured Outputs»).
-   Поддержка у OpenAI-совместимых провайдеров разная. Сначала проверьте json\_schema, при неудаче переходите на json\_object, затем на инструкцию в промпте.
-   Валидируйте каждый ответ. Ответ, обрезанный по max\_tokens, — это сломанный JSON, что бы ни говорила схема.
-   Циклы исправления работают, если отправлять обратно точную ошибку валидации. Ограничьте их двумя-тремя попытками.
-   В BroadNet Inference структурированный вывод указан для GLM 5.3 и Qwen3.8 27B.

**На этой странице**

1.  Чем JSON mode отличается от json\_schema?
2.  Как запросить json\_schema?
3.  Какой режим поддерживает ваш провайдер?
4.  Как валидировать и исправлять плохой ответ?
5.  Какие возможности схемы создают проблемы?
6.  Как мониторить структурированный вывод в продакшене?
7.  Когда лучше использовать инструмент?
8.  Какое место здесь занимает BroadNet Inference

Вашему коду нужны данные, а модели пишут текст. [Структурированный вывод](https://broadrouter.com/ru/glossary/structured-output/) закрывает этот разрыв, но «модель возвращает JSON» означает три разные вещи в зависимости от того, как вы просите. В этой статье мы сравниваем варианты на OpenAI-совместимых открытых моделях, показываем, как запросить каждый, и даём цикл валидации и исправления, который можно сразу взять в продакшен.

## Чем JSON mode отличается от json\_schema?

| Способ | Запрос | Что гарантируется |
| --- | --- | --- |
| Только промпт | «Ответь в JSON с полями…» | Ничего; обычно JSON, иногда с лишним текстом |
| JSON mode | `response_format: {"type": "json_object"}` | Валидный JSON любой структуры |
| Структурированный вывод | `response_format: {"type": "json_schema", ...}` | JSON по вашей схеме, если это обеспечивается |

Руководство OpenAI по Structured Outputs говорит прямо: “While both ensure valid JSON is produced, only Structured Outputs ensure schema adherence.” (перевод: «Хотя оба режима гарантируют валидный JSON, соответствие схеме гарантирует только Structured Outputs».) OpenAI рекомендует по возможности использовать структурированный вывод вместо JSON mode.

У провайдеров открытых моделей гарантия зависит от того, как это реализовано на сервере. Многие используют ограниченное декодирование (constrained decoding), которое блокирует токены, нарушающие схему. Некоторые принимают поле, но не обеспечивают его соблюдение. Поэтому код ниже валидирует ответ в любом случае.

## Как запросить json\_schema?

```python
import os
from openai import OpenAI
from pydantic import BaseModel, Field

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

class Invoice(BaseModel):
    vendor: str
    currency: str = Field(pattern="^[A-Z]{3}$")
    total: float
    line_items: list[float]

schema = Invoice.model_json_schema()
schema["additionalProperties"] = False

response_format = {"type": "json_schema",
                   "json_schema": {"name": "invoice", "strict": True, "schema": schema}}
```

Pydantic генерирует JSON Schema из вашего класса, поэтому схема и валидатор никогда не расходятся. Если вы не пользуетесь Pydantic, [генератор JSON Schema](https://broadrouter.com/tools/json-schema-generator/) построит схему для строгого режима по образцу объекта. Для строгого режима OpenAI требует `additionalProperties: false` и чтобы каждое свойство было указано как обязательное.

## Какой режим поддерживает ваш провайдер?

Прежде чем строить на модели что-то серьёзное, один раз прогоните этот тест:

1.  Отправьте `json_schema` с промптом, который провоцирует добавить лишнее поле («добавь ещё короткий комментарий»).
2.  Если запрос возвращает ошибку, провайдер не принимает `json_schema`. Попробуйте `json_object`.
3.  Если в ответе есть лишнее поле, схема не соблюдается принудительно. Считайте, что это JSON mode.
4.  Если `json_object` тоже даёт ошибку, используйте инструкцию в промпте плюс валидацию.

В документации BroadNet Inference структурированный вывод указан для [GLM 5.3](https://broadrouter.com/ru/models/glm-5.3/) и [Qwen3.8 27B](https://broadrouter.com/ru/models/qwen3.8-27b/) ([сравнение бок о бок](https://broadrouter.com/compare/glm-5.3-vs-qwen3.8-27b/)), но параметр запроса не назван. Прогоните тест выше на модели, которую выпускаете в продакшен.

## Как валидировать и исправлять плохой ответ?

```python
import json
from pydantic import ValidationError

def extract(text: str, model="broadnet/glm-5.3", attempts=3) -> Invoice:
    messages = [
        {"role": "system", "content": "Extract the invoice. Reply with JSON only."},
        {"role": "user", "content": text},
    ]
    for attempt in range(attempts):
        r = client.chat.completions.create(model=model, messages=messages,
                                           response_format=response_format,
                                           max_tokens=4000)
        choice = r.choices[0]
        if choice.finish_reason == "length":
            raise RuntimeError("Cut off: raise max_tokens")  # retrying won't help
        if getattr(choice.message, "refusal", None):
            raise RuntimeError(f"Refused: {choice.message.refusal}")
        raw = choice.message.content or ""
        try:
            inv = Invoice.model_validate_json(raw)
            if abs(sum(inv.line_items) - inv.total) > 0.01:
                raise ValueError("total must equal the sum of line_items")
            return inv
        except (ValidationError, ValueError) as e:
            messages += [
                {"role": "assistant", "content": raw},
                {"role": "user", "content": f"That JSON is invalid: {e}. Return corrected JSON only."},
            ]
    raise RuntimeError(f"No valid JSON after {attempts} attempts")
```

Почему этот цикл работает:

-   **Сначала проверяйте `finish_reason`.** Ответ, который упёрся в [`max_tokens`](https://broadrouter.com/ru/glossary/max-tokens/), — это обрезанный JSON. Повтор с тем же лимитом упадёт так же. Обе модели выше рассуждают перед ответом, а [рассуждения засчитываются в лимит](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/), так что оставляйте запас.
-   **Обрабатывайте отказы отдельно.** Руководство OpenAI отмечает, что отказ “does not necessarily follow the schema you have supplied” (перевод: «не обязательно соответствует заданной вами схеме»).
-   **Отправляйте обратно точную ошибку.** Слепой повтор часто возвращает ту же ошибку. Сообщение “line\_items: field required” даёт модели конкретное, что исправить.
-   **Проверяйте бизнес-правила в коде.** Схема не может выразить, что итог должен равняться сумме позиций. Проверка выше — может.
-   **Ограничивайте число попыток.** Каждая попытка заново отправляет весь промпт как [входные токены](https://broadrouter.com/ru/glossary/input-and-output-tokens/).

## Какие возможности схемы создают проблемы?

Делайте схемы скучными:

1.  **Плоское лучше вложенного.** Для большинства задач извлечения хватает двух уровней.
2.  **Enum вместо свободных строк** для категорий.
3.  **Никаких объектов с произвольными ключами.** Поля свободной формы типа `dict` сводят смысл на нет.
4.  **Короткие имена полей с описаниями.** Описания в схеме направляют модель.
5.  **Необязательные поля — как nullable.** В строгом режиме указывайте каждое поле как обязательное и разрешайте `null`.

Руководство OpenAI отмечает, что некоторые возможности JSON Schema в строгом режиме не поддерживаются. У серверов открытых моделей свои ограничения. Если схему отклоняют, упростите её, прежде чем менять режим.

## Как мониторить структурированный вывод в продакшене?

Цикл, который молча исправляет ответы, может скрывать проблему, которая каждый день стоит вам токенов. Логируйте три числа для каждого места вызова:

| Метрика | Что она показывает |
| --- | --- |
| Доля успеха с первой попытки | Насколько хорошо сочетаются модель и схема; падение часто следует за сменой промпта или модели |
| Среднее число попыток на успех | Стоимость исправлений в токенах |
| Окончательные неудачи | Входные данные, с которыми ваш конвейер не справляется; разберите их вручную |

Если доля успеха с первой попытки падает ниже привычной, упростите схему или попробуйте другую модель, прежде чем добавлять повторы. Сохраняйте выборку исходных неудачных ответов, чтобы проверять исправления на реальных случаях.

## Когда лучше использовать инструмент?

Используйте структурированный вывод для **итогового ответа**: извлечения, классификации, плана. Используйте [вызов инструментов](https://broadrouter.com/ru/blog/tool-calling-open-models/), когда модели нужно, чтобы ваш код что-то **сделал**, а она продолжила работу. Многие агенты используют и то и другое: инструменты внутри цикла, схему на последнем шаге. Пример «изображение → JSON» — в руководстве [распознавание арабских счетов vision-моделью](https://broadrouter.com/ru/guides/read-arabic-invoices-with-vision/).

## Какое место здесь занимает BroadNet Inference

BroadNet Inference указывает структурированный вывод для GLM 5.3 и Qwen3.8 27B в стандартном формате chat completions, поэтому код выше работает с [OpenAI Python SDK](https://broadrouter.com/ru/guides/openai-python-sdk/) без изменений. Qwen3.8 27B принимает и изображения, что удобно для извлечения данных из документов. Для DeepSeek V4.1 Flash и Gemma 4 VL 26B документация BroadNet структурированный вывод не указывает, поэтому там используйте инструкцию в промпте с валидацией. Цены за токены сравните на [странице цен](https://broadrouter.com/ru/pricing/).

Бесплатные инструменты по теме (на английском)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Бесплатные инструменты (на английском)](https://broadrouter.com/tools/)

## Термины в этой статье

[Структурированный вывод (structured output)](https://broadrouter.com/ru/glossary/structured-output/)

Структурированный вывод — это функция LLM API, которая ограничивает ответ модели форматом, заданным разработчиком, обычно JSON Schema, чтобы код мог надёжно его разобрать. Он строже, чем JSON mode, который гарантирует корректный JSON, но не конкретную структуру.

[JSON Schema (JSON-схема)](https://broadrouter.com/ru/glossary/json-schema/)

JSON Schema — это словарь, записанный на самом JSON, для описания и валидации структуры JSON-данных: типов, обязательных полей, допустимых значений и вложенности. Текущая версия — 2020-12. API языковых моделей используют его, чтобы задать параметры инструментов и точную форму структурированного вывода.

[JSON mode (режим JSON)](https://broadrouter.com/ru/glossary/json-mode/)

JSON mode — это настройка API языковой модели (в OpenAI-совместимых API — response\_format {"type": "json\_object"}), которая делает ответ модели валидным, разбираемым JSON. В отличие от structured outputs с JSON Schema, она не гарантирует, какие ключи, типы и значения будут в объекте.

[Токен (token)](https://broadrouter.com/ru/glossary/token/)

Токен — это единица текста, которую языковая модель читает и пишет: слово, часть слова, знак препинания или последовательность байтов, которую выдаёт токенизатор модели. LLM API считают, ограничивают и обычно тарифицируют использование в токенах.

[Вызов инструментов (tool calling)](https://broadrouter.com/ru/glossary/tool-calling/)

Вызов инструментов (function calling) — это функция LLM API, при которой модель возвращает структурированный запрос на выполнение функции, заданной разработчиком, с аргументами в JSON. Приложение выполняет функцию и отправляет результат обратно; сама модель код никогда не выполняет.

[Входные и выходные токены (input and output tokens)](https://broadrouter.com/ru/glossary/input-and-output-tokens/)

Входные токены — это токены, которые языковая модель читает в запросе: системный промпт, история диалога, описания инструментов и изображения. Выходные токены — это токены, которые она генерирует в ответ, включая рассуждения. LLM API обычно тарифицируют их по отдельности, и выход, как правило, дороже.

[Chat Completions API](https://broadrouter.com/ru/glossary/chat-completions-api/)

Chat Completions API — это HTTP-эндпоинт OpenAI, POST /v1/chat/completions, который принимает имя модели и список сообщений с ролями и возвращает следующее сообщение модели. Формат его запроса и ответа стал общим стандартом, который повторяют OpenAI-совместимые провайдеры и SDK.

[Prefill и decode (префилл и декодирование)](https://broadrouter.com/ru/glossary/prefill-and-decode/)

Prefill и decode — это две фазы инференса LLM. На этапе prefill модель параллельно обрабатывает весь промпт и заполняет KV-кэш; на этапе decode она генерирует ответ по одному токену, повторно используя этот кэш. Prefill в основном определяет время до первого токена, decode — скорость вывода.

## Вопросы и ответы

### Чем JSON mode отличается от структурированного вывода?

JSON mode (response\_format с типом json\_object) гарантирует только то, что ответ разбирается как JSON. Структурированный вывод (тип json\_schema) гарантирует ещё и заданные вами поля и типы — там, где провайдер это обеспечивает. OpenAI рекомендует по возможности использовать структурированный вывод, а не JSON mode.

### Поддерживают ли открытые модели response\_format json\_schema?

Зависит от провайдера. Одни принимают json\_schema, другие только json\_object, третьи игнорируют это поле. Отправьте тестовый запрос со схемой и промптом, который провоцирует модель добавить лишнее поле, и проверьте ответ.

### Нужно ли валидировать структурированный вывод?

Да. Ответ может быть обрезан по max\_tokens, может оказаться отказом и может нарушать бизнес-правила, которые схема не выражает, например что суммы должны сходиться.

### Сколько раз повторять запрос при невалидном JSON?

Обычно достаточно двух-трёх попыток с текстом ошибки валидации. После этого залогируйте входные данные и передайте их запасному варианту, более сильной модели или человеку. Бесконечные циклы тратят токены впустую.

### Что использовать — структурированный вывод или вызов инструментов?

Структурированный вывод — когда итоговый ответ нужен в фиксированной форме. Вызов инструментов — когда модели нужно, чтобы ваш код что-то сделал, после чего она продолжит работу.

## Читайте также

-   [Классификация арабского текста с LLM: тональность, интенты, тикеты](https://broadrouter.com/ru/blog/arabic-text-classification-llm/)
-   [Вызов инструментов в открытых моделях: схемы, параллельность, повторы](https://broadrouter.com/ru/blog/tool-calling-open-models/)
-   [Переход на OpenAI-совместимый API: чек-лист миграции](https://broadrouter.com/ru/blog/openai-compatible-api-migration-checklist/)
-   [ИИ-агент n8n на дешёвой LLM: настройка, выбор модели и цена запуска](https://broadrouter.com/ru/blog/n8n-ai-agent-cheap-llm/)
-   [Как исправить невалидный JSON от LLM: причины, починка, повтор](https://broadrouter.com/ru/blog/fix-invalid-json-from-llm/)
-   [Извлечение именованных сущностей из арабского с LLM: JSON и даты](https://broadrouter.com/ru/blog/arabic-named-entity-extraction-llm/)
-   [GPU-парк и подход к инференсу BroadNet — по описанию самой BroadNet](https://broadrouter.com/ru/blog/broadnet-gpu-fleet-and-serving/)
-   [Кэширование ответов LLM API: кэш точных совпадений на Python](https://broadrouter.com/ru/blog/cache-llm-responses-cut-cost/)
-   [Руководство: OpenAI Python SDK и BroadNet Inference](https://broadrouter.com/ru/guides/openai-python-sdk/)
-   [Руководство: Как читать арабские счета и чеки vision-моделью](https://broadrouter.com/ru/guides/read-arabic-invoices-with-vision/)
-   [Руководство: Почему рассуждающая модель возвращает пустой ответ](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-structured-output-json-schema&utm_content=page-cta) ·

**Источники**

-   [OpenAI, руководство по Structured Outputs (проверено 2026-11-14)](https://developers.openai.com/api/docs/guides/structured-outputs)
-   [Справочник OpenAI API, создание chat completion (response\_format)](https://developers.openai.com/api/reference/resources/chat/subresources/completions/methods/create)
-   [Документация Pydantic, JSON Schema и валидация](https://docs.pydantic.dev/latest/concepts/json_schema/)
-   [Справочник API BroadNet Inference, модели (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-structured-output-json-schema&utm_content=sources#models)
