JSON mode отвечает на один вопрос: сработает ли json.loads()? На второй вопрос — тот ли это объект, которого ждёт мой код, — он не отвечает.
Как это работает
В Chat Completions API режим включается одним полем:
{"response_format": {"type": "json_object"},
"messages": [
{"role": "system", "content": "Return JSON with keys name and email."},
{"role": "user", "content": "Reach me at Sara, sara@example.com"}]}
Справочник API OpenAI называет его “the older JSON mode, which ensures the message the model generates is valid JSON” (перевод: «более старый JSON mode, который гарантирует, что сгенерированное моделью сообщение — валидный JSON»). К нему прилагаются два правила. JSON нужно попросить в сообщении: в руководстве OpenAI сказано, что API “will throw an error if the string ‘JSON’ does not appear somewhere in the context” (перевод: «выдаст ошибку, если строка „JSON“ нигде не встречается в контексте»). А форма объекта остаётся на усмотрение модели. В руководстве прямо сказано, что JSON mode “will not guarantee the output matches any specific schema” (перевод: «не гарантирует, что вывод соответствует какой-либо конкретной схеме»).
Структурированный вывод — более строгий вариант. Он передаёт JSON Schema через {"type": "json_schema", ...}, и модель обязана ей следовать.
JSON mode (json_object) |
Structured outputs (json_schema) |
|
|---|---|---|
| Валидный JSON | да | да |
| Обязательные ключи и типы | нет | да |
| Вы передаёте схему | нет | да |
| Нужно упомянуть «JSON» в промпте | да (OpenAI) | нет |
OpenAI рекомендует “always using Structured Outputs instead of JSON mode when possible” (перевод: «по возможности всегда использовать Structured Outputs вместо JSON mode»).
Почему это важно
- Валидация остаётся за вами. В JSON mode пропущенный ключ или число, присланное строкой, разбираются без ошибок и ломают всё позже. Проверяйте объект по схеме в коде.
- Обрезка. Если ответ упрётся в
max_tokens, JSON будет неполным. Модели с рассуждениями уязвимее: рассуждения расходуют тот же бюджет. - Запасной вариант. Руководство OpenAI указывает JSON mode для старых моделей, где
json_schemaнедоступен. Поддержка зависит от провайдера и модели, поэтому JSON mode плюс собственная валидация — запасной вариант, когда схему не принимают.
В BroadNet Inference
Справочник API BroadNet указывает структурированный вывод для GLM 5.3 и Qwen3.8 27B. В нём не сказано, какой response_format поддерживается — json_object или json_schema, — и принимают ли какой-либо из них DeepSeek V4.1 Flash и BroadNet Gemma 4 VL 26B. Проверьте оба на своей модели. Составить схему поможет генератор JSON Schema. В статье JSON mode и json_schema разобраны исправление ответов и мониторинг, а руководство по счетам показывает извлечение JSON из изображений.