BroadRouter
Начать

JSON mode (режим JSON)

Обновлено

JSON mode — это настройка API языковой модели (в OpenAI-совместимых API — response_format {"type": "json_object"}), которая делает ответ модели валидным, разбираемым JSON. В отличие от structured outputs с JSON Schema, она не гарантирует, какие ключи, типы и значения будут в объекте.

Также называют: режим JSON, JSON-режим, ответ в формате JSON, json_object, JSON mode, JSON output mode, JSON response mode

JSON mode отвечает на один вопрос: сработает ли json.loads()? На второй вопрос — тот ли это объект, которого ждёт мой код, — он не отвечает.

Как это работает

В Chat Completions API режим включается одним полем:

{"response_format": {"type": "json_object"},
 "messages": [
   {"role": "system", "content": "Return JSON with keys name and email."},
   {"role": "user", "content": "Reach me at Sara, sara@example.com"}]}

Справочник API OpenAI называет его “the older JSON mode, which ensures the message the model generates is valid JSON” (перевод: «более старый JSON mode, который гарантирует, что сгенерированное моделью сообщение — валидный JSON»). К нему прилагаются два правила. JSON нужно попросить в сообщении: в руководстве OpenAI сказано, что API “will throw an error if the string ‘JSON’ does not appear somewhere in the context” (перевод: «выдаст ошибку, если строка „JSON“ нигде не встречается в контексте»). А форма объекта остаётся на усмотрение модели. В руководстве прямо сказано, что JSON mode “will not guarantee the output matches any specific schema” (перевод: «не гарантирует, что вывод соответствует какой-либо конкретной схеме»).

Структурированный вывод — более строгий вариант. Он передаёт JSON Schema через {"type": "json_schema", ...}, и модель обязана ей следовать.

JSON mode (json_object) Structured outputs (json_schema)
Валидный JSON да да
Обязательные ключи и типы нет да
Вы передаёте схему нет да
Нужно упомянуть «JSON» в промпте да (OpenAI) нет

OpenAI рекомендует “always using Structured Outputs instead of JSON mode when possible” (перевод: «по возможности всегда использовать Structured Outputs вместо JSON mode»).

Почему это важно

  • Валидация остаётся за вами. В JSON mode пропущенный ключ или число, присланное строкой, разбираются без ошибок и ломают всё позже. Проверяйте объект по схеме в коде.
  • Обрезка. Если ответ упрётся в max_tokens, JSON будет неполным. Модели с рассуждениями уязвимее: рассуждения расходуют тот же бюджет.
  • Запасной вариант. Руководство OpenAI указывает JSON mode для старых моделей, где json_schema недоступен. Поддержка зависит от провайдера и модели, поэтому JSON mode плюс собственная валидация — запасной вариант, когда схему не принимают.

В BroadNet Inference

Справочник API BroadNet указывает структурированный вывод для GLM 5.3 и Qwen3.8 27B. В нём не сказано, какой response_format поддерживается — json_object или json_schema, — и принимают ли какой-либо из них DeepSeek V4.1 Flash и BroadNet Gemma 4 VL 26B. Проверьте оба на своей модели. Составить схему поможет генератор JSON Schema. В статье JSON mode и json_schema разобраны исправление ответов и мониторинг, а руководство по счетам показывает извлечение JSON из изображений.

Вопросы и ответы

JSON mode и structured outputs — это одно и то же?

Нет. В руководстве OpenAI сказано, что оба дают валидный JSON, но соответствие схеме гарантируют только Structured Outputs. JSON mode может вернуть любой валидный объект.

Почему JSON mode выдаёт ошибку про слово JSON?

OpenAI требует, чтобы где-то в сообщениях была инструкция выдать JSON, и возвращает ошибку, если строки "JSON" нет в контексте.

Может ли JSON mode всё же вернуть битый JSON?

Да, если ответ обрезан по max_tokens или по лимиту контекста. Проверяйте finish_reason перед разбором.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity