ہیلوسینیشن بالکل درست جواب کی طرح پڑھی جاتی ہے۔ یہی اسے مہنگا بناتا ہے۔
یہ کیسے ہوتی ہے
لینگویج ماڈل اپنی ٹریننگ اور پرامپٹ کی بنیاد پر سب سے ممکنہ اگلے ٹوکن لکھتا ہے۔ اس لوپ میں کوئی چیز کسی حقیقت کو اصل دنیا سے نہیں ملاتی۔ جب ماڈل کے پاس جواب نہیں ہوتا، تب بھی ایک درست سا دکھنے والا جواب دستیاب رہتا ہے۔
Kalai اور ساتھی 2025 کے ایک مقالے میں مؤقف اختیار کرتے ہیں کہ ہیلوسینیشن اس لیے برقرار رہتی ہے کہ “training and evaluation procedures reward guessing over acknowledging uncertainty” (ترجمہ: ٹریننگ اور جانچ کے طریقے غیر یقینی تسلیم کرنے کے بجائے اندازہ لگانے کو انعام دیتے ہیں)۔ زیادہ تر بینچ مارکس درست اندازے پر نمبر دیتے ہیں اور جواب نہ دینے پر کچھ نہیں، اس لیے ماڈلز اچھے امتحان دہندہ بننے کے لیے ٹیون ہوتے ہیں۔ وہ ان غلطیوں کی جڑ ایک شماریاتی وجہ میں بھی دیکھتے ہیں: اگر ماڈل درست اور غلط بیانات میں قابلِ اعتماد فرق نہیں کر پاتا تو پری ٹریننگ غلط بیانات بھی پیدا کرے گی۔
API کے کام میں عام شکلیں:
- گھڑے ہوئے حوالے، URLs یا اقتباسات
- درست دستاویز کے خلاصے میں غلط اعداد
- ایسے API میتھڈز یا پیرامیٹرز جو موجود ہی نہیں
- ایسے سوالات کے جواب جن کا دیا گیا کانٹیکسٹ احاطہ نہیں کرتا
یہ کیوں اہم ہے
نقصان آگے جا کر ہوتا ہے: ریفنڈ پالیسی گھڑنے والا سپورٹ بوٹ، غلط کل والی رپورٹ، غیر موجود فنکشن کو کال کرنے والا کوڈ۔ اس کے مقابلے میں حل سستے ہیں:
- جواب کو بنیاد دیں۔ ماخذ کا متن پرامپٹ میں رکھیں یا RAG سے نکالیں۔ Lewis اور ساتھیوں نے retrieval-augmented generation کو صرف پیرامیٹرک بیس لائن سے زیادہ “factual” (ترجمہ: حقائق پر مبنی) پایا۔ grounding دیکھیں۔
- “مجھے نہیں معلوم” کی اجازت دیں۔ Anthropic غیر یقینی تسلیم کرنے کی واضح اجازت کو ایک بنیادی قدم بتاتا ہے۔
- اقتباس مانگیں، پھر جانچیں۔ ماڈل سے ہر دعوے کے لیے تائید کرنے والا اقتباس مانگیں اور بغیر اقتباس والے دعوے ہٹا دیں۔
- پیمائش کریں۔ ایسے سوالات والا eval بنائیں جن کا جواب کانٹیکسٹ میں نہیں، اور دیکھیں کہ ماڈل کتنی بار جواب گھڑتا ہے۔ جہاں API logprobs لوٹاتا ہے وہاں یہ کم اعتماد والے جوابات کی نشاندہی کر سکتے ہیں۔
- کوڈ میں جانچیں۔ کل، تاریخیں اور IDs ماڈل کے بغیر جانچے جا سکتے ہیں۔
temperature کم کرنے سے لمبے متن میں بھٹکاؤ کم ہوتا ہے، پراعتماد غلطیاں نہیں۔
BroadNet Inference پر
BroadNet کی دستاویزات اپنے ماڈلز کی ہیلوسینیشن کی شرح شائع نہیں کرتیں اور کوئی guardrails یا فیکٹ چیکنگ سہولت درج نہیں کرتیں، اس لیے یہ کنٹرولز آپ کی ایپلیکیشن میں رہتے ہیں۔ بڑا کانٹیکسٹ جواب کو بنیاد دینے میں مدد کرتا ہے: DeepSeek V4.1 Flash اور GLM 5.3 فی درخواست 1,048,576 ٹوکن لیتے ہیں، جو پوری ماخذ دستاویزات شامل کرنے کے لیے کافی ہے۔ عربی retrieval پائپ لائنز کے لیے عربی RAG دیکھیں؛ نکالے گئے فیلڈز کو تصویر سے ملانے کے لیے انوائس گائیڈ دیکھیں۔