کوڈ کو پہلے سے معلوم ان پٹ چاہیے۔ اسٹرکچرڈ آؤٹ پٹ ماڈل کے آزاد متن کو ایسے ڈیٹا میں بدلتا ہے جس پر آپ کا پروگرام بھروسا کر سکے۔
یہ کیسے کام کرتا ہے
کنٹرول کی تین سطحیں ہیں:
| طریقہ | آپ کو کیا ملتا ہے |
|---|---|
| پرامپٹ میں مانگنا | عموماً JSON، کبھی اضافی متن یا غائب فیلڈز کے ساتھ |
| JSON mode | درست JSON، کوئی بھی ساخت |
| اسکیما کے ساتھ اسٹرکچرڈ آؤٹ پٹ | آپ کے اسکیما سے مطابقت رکھنے والا JSON |
OpenAI فارمیٹ میں JSON mode ہے response_format: {"type": "json_object"}۔ اسٹرکچرڈ آؤٹ پٹ ایک اسکیما پاس کرتا ہے:
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "invoice",
"strict": true,
"schema": {
"type": "object",
"properties": {
"vendor": { "type": "string" },
"total": { "type": "number" }
},
"required": ["vendor", "total"],
"additionalProperties": false
}
}
}
OpenAI کا ریفرنس کہتا ہے کہ json_schema ٹائپ “ensures the model will match your supplied JSON schema” (ترجمہ: یقینی بناتا ہے کہ ماڈل آپ کے دیے گئے JSON اسکیما کے مطابق ہو گا)۔ کئی فراہم کنندگان یہ constrained decoding سے کرتے ہیں: ہر قدم پر ماڈل کون سے ٹوکن بنا سکتا ہے، یہ محدود کر کے، تاکہ اسکیما توڑنے والا آؤٹ پٹ بن ہی نہ سکے۔
یہ کیوں اہم ہے
- پارسنگ ایررز کم۔ ایکسٹریکشن پائپ لائنز، کلاسیفائرز اور ایجنٹس فیلڈز براہ راست پڑھ سکتے ہیں۔
- آسان پرامپٹس۔ اسکیما لمبی فارمیٹ ہدایات کی جگہ لے لیتا ہے۔
- مکمل ضمانت نہیں۔ OpenAI کی گائیڈ کہتی ہے کہ آپ کی ایپ کو پھر بھی انکار، نامکمل ریسپانس اور ایررز سنبھالنے چاہییں۔
max_tokensسے کٹا ہوا جواب ٹوٹا ہوا JSON ہے، اسکیما چاہے کچھ بھی کہے۔
OpenAI-compatible API میں سپورٹ مختلف ہے۔ کچھ صرف json_schema قبول کرتے ہیں، کچھ صرف json_object، اور کچھ فیلڈ کو نظر انداز کر دیتے ہیں۔ اس پر انحصار سے پہلے جانچ لیں۔
BroadNet Inference پر
BroadNet کی دستاویزات GLM 5.3 اور Qwen3.8 27B کے لیے اسٹرکچرڈ آؤٹ پٹ درج کرتی ہیں۔ دستاویزات درخواست کے پیرامیٹر کا نام نہیں بتاتیں، اس لیے اپنے ماڈل پر response_format ٹیسٹ کریں، اور دونوں صورتوں میں ایرر ہینڈلنگ والا JSON پارسر رکھیں۔ LLM JSON آؤٹ پٹ ویلیڈیٹر دکھاتا ہے کہ جواب کہاں ٹوٹتا ہے اور اسے آپ کے اسکیما سے جانچتا ہے۔ دونوں ماڈلز پہلے ریزننگ کرتے ہیں، اس لیے max_tokens میں سوچنے اور JSON، دونوں کے لیے جگہ رکھیں۔
اسٹرکچرڈ آؤٹ پٹ وژن ماڈلز کے ساتھ اچھا کام کرتا ہے۔ عربی انوائس گائیڈ ایک تصویر بھیجتی ہے اور فیلڈز JSON میں مانگتی ہے۔ جوابات کے بجائے ایکشنز کے لیے ٹول کالنگ استعمال کریں۔
عام غلطیاں
- strict mode استعمال کرتے وقت
additionalProperties: falseبھول جانا، یا ہر فیلڈ کوrequiredمیں درج نہ کرنا۔ - پارس کرنے سے پہلے
finish_reasonنہ جانچنا۔