Isang tanong lang ang sinasagot ng JSON mode: magtatagumpay ba ang json.loads()? Hindi nito sinasagot ang ikalawa: ito ba ang object na inaasahan ng code ko?
Paano ito gumagana
Sa Chat Completions API, isang field lang ang kailangan para i-on ito:
{"response_format": {"type": "json_object"},
"messages": [
{"role": "system", "content": "Return JSON with keys name and email."},
{"role": "user", "content": "Reach me at Sara, sara@example.com"}]}
Tinatawag ito ng API reference ng OpenAI na “the older JSON mode, which ensures the message the model generates is valid JSON.” (Salin ng BroadRouter: “ang mas lumang JSON mode, na tumitiyak na valid na JSON ang message na binubuo ng model.”) Dalawang patakaran ang kasama nito. Kailangan mong humingi ng JSON sa isang message: ayon sa gabay ng OpenAI, ang API ay “will throw an error if the string ‘JSON’ does not appear somewhere in the context.” (Salin ng BroadRouter: “magbabato ng error kung hindi lumalabas ang string na ‘JSON’ saanman sa context.”) At nasa model ang hugis. Sinasabi ng gabay na ang JSON mode ay “will not guarantee the output matches any specific schema.” (Salin ng BroadRouter: “hindi gagarantiyang tumutugma ang output sa anumang partikular na schema.”)
Ang structured output ang mas mahigpit na opsyon. Nagpapasa ito ng JSON Schema gamit ang {"type": "json_schema", ...}, at nakatali ang model doon.
JSON mode (json_object) |
Structured outputs (json_schema) |
|
|---|---|---|
| Valid na JSON | oo | oo |
| Mga kailangang key at type | hindi | oo |
| Ikaw ang nagbibigay ng schema | hindi | oo |
| Kailangang banggitin ang “JSON” sa prompt | oo (OpenAI) | hindi |
Inirerekomenda ng OpenAI ang “always using Structured Outputs instead of JSON mode when possible.” (Salin ng BroadRouter: “laging gumamit ng Structured Outputs sa halip na JSON mode kapag posible.”)
Bakit ito mahalaga
- Ikaw pa rin ang magva-validate. Sa JSON mode, nae-parse nang maayos ang kulang na key o numerong ipinadala bilang string, at saka lang pumapalya mamaya. Mag-validate laban sa schema sa code.
- Pagkaputol. Kapag tumama ang sagot sa
max_tokens, hindi kumpleto ang JSON. Mas lantad dito ang mga reasoning model, dahil iisang budget ang ginagamit ng pag-iisip. - Fallback. Inililista ng gabay ng OpenAI ang JSON mode sa mas lumang model na walang
json_schema. Iba-iba ang suporta bawat provider at model, kaya JSON mode kasama ang sarili mong validation ang fallback kapag hindi tinatanggap ang schema.
Sa BroadNet Inference
Nakalista sa API reference ng BroadNet ang structured output para sa GLM 5.3 at Qwen3.8 27B. Hindi nito sinasabi kung json_object o json_schema ang suportadong response_format, o kung tumatanggap ng alinman ang DeepSeek V4.1 Flash at BroadNet Gemma 4 VL 26B. Subukan ang dalawa sa model mo. Para isulat ang schema, gamitin ang JSON Schema generator. Tinatalakay ng post na JSON mode vs json_schema ang pag-aayos at monitoring, at ipinapakita ng gabay sa invoice ang pagkuha ng JSON mula sa mga larawan.