Kod öngörülebilir girdiye ihtiyaç duyar. Yapılandırılmış çıktı, bir modelin serbest metnini programınızın güvenebileceği veriye dönüştürür.
Nasıl çalışır
Üç kontrol düzeyi vardır:
| Yöntem | Ne elde edersiniz |
|---|---|
| İstemde rica etmek | Genellikle JSON; bazen fazladan metin veya eksik alanlarla |
| JSON modu | Geçerli JSON, herhangi bir yapıda |
| Şemalı yapılandırılmış çıktı | Şemanıza uyan JSON |
OpenAI biçiminde JSON modu response_format: {"type": "json_object"} şeklindedir. Yapılandırılmış çıktı ise bir şema verir:
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "invoice",
"strict": true,
"schema": {
"type": "object",
"properties": {
"vendor": { "type": "string" },
"total": { "type": "number" }
},
"required": ["vendor", "total"],
"additionalProperties": false
}
}
}
OpenAI’nin referansı, json_schema türünün “ensures the model will match your supplied JSON schema” (çeviri: modelin verdiğiniz JSON şemasına uymasını sağladığını) söyler. Birçok sağlayıcı bunu kısıtlı kod çözme (constrained decoding) ile yapar: modelin her adımda üretebileceği token’ları sınırlar, böylece şemayı bozan çıktı üretilemez.
Neden önemli
- Daha az ayrıştırma hatası. Bilgi çıkarma hatları, sınıflandırıcılar ve ajanlar alanları doğrudan okuyabilir.
- Daha basit istemler. Şema, uzun biçim talimatlarının yerini alır.
- Tam bir garanti değil. OpenAI’nin rehberi uygulamanızın retleri, eksik yanıtları ve hataları yine de ele alması gerektiğini söyler.
max_tokensnedeniyle kesilmiş bir yanıt, şema ne derse desin bozuk JSON’dur.
Destek OpenAI uyumlu API’ler arasında farklılık gösterir. Bazıları yalnızca json_schema, bazıları yalnızca json_object kabul eder, bazıları ise alanı yok sayar. Ona güvenmeden önce kontrol edin.
BroadNet Inference’ta
BroadNet’in belgeleri GLM 5.3 ve Qwen3.8 27B için yapılandırılmış çıktıyı listeler. Belgeler istek parametresinin adını vermez; bu yüzden response_format alanını modelinizde test edin ve her durumda hata yönetimi olan bir JSON ayrıştırıcısı kullanın. LLM JSON çıktı doğrulayıcısı yanıtın nerede bozulduğunu gösterir ve onu şemanıza göre kontrol eder. İki model de önce akıl yürütür; bu yüzden max_tokens değerinde düşünme artı JSON için pay bırakın.
Yapılandırılmış çıktı görsel modelleriyle iyi bir ikili oluşturur. Arapça fatura rehberi bir görsel gönderir ve alanları JSON olarak ister. Yanıt yerine eylem istiyorsanız araç çağırmayı kullanın.
Sık yapılan hatalar
- Strict modu kullanırken
additionalProperties: falseeklemeyi ya da her alanırequirediçinde listelemeyi unutmak. - Ayrıştırmadan önce
finish_reasondeğerini kontrol etmemek.