RAG ماڈل کو کھلی کتاب دیتا ہے: جواب دینے سے پہلے آپ کا کوڈ متعلقہ صفحات تلاش کر کے پرامپٹ میں رکھ دیتا ہے۔
یہ کیسے کام کرتا ہے
یہ اصطلاح Lewis اور ساتھیوں (2020) سے آئی ہے۔ انہوں نے ایک جنریٹر ماڈل (“parametric memory”، ترجمہ: پیرامیٹرک میموری) کو “a dense vector index of Wikipedia” (ترجمہ: Wikipedia کا ایک گھنا ویکٹر انڈیکس) (“non-parametric memory”، ترجمہ: نان پیرامیٹرک میموری) کے ساتھ جوڑا، جس تک ایک نیورل retriever کے ذریعے پہنچا جاتا تھا، اور اوپن ڈومین سوال جواب پر ان ماڈلز سے بہتر نتائج بتائے جو صرف اپنے weights پر انحصار کرتے تھے۔
LLM API کے ساتھ آج کی RAG پائپ لائن عموماً کچھ یوں ہوتی ہے:
- انڈیکس۔ دستاویزات کو ٹکڑوں (chunks) میں تقسیم کریں، ہر ٹکڑے کو embeddings میں بدلیں اور ویکٹر ڈیٹابیس میں رکھیں، اکثر ایک کی ورڈ انڈیکس کے ساتھ۔
- نکالیں (retrieve)۔ صارف کے سوال کا embedding بنائیں اور سب سے ملتے جلتے ٹکڑے نکالیں، مثلاً 5 سے 20۔
- جنریٹ کریں۔ ان ٹکڑوں کو پرامپٹ میں رکھیں، ساتھ ہدایت دیں کہ جواب صرف انہی سے دے اور ان کا حوالہ دے۔ پھر اسے چیٹ ماڈل کو بھیجیں۔
ماڈل خود کبھی سرچ نہیں کرتا۔ retrieval کا معیار ہی چھت طے کرتا ہے: درست حصہ نکلا ہی نہیں تو ماڈل اسے استعمال نہیں کر سکتا۔
یہ کیوں اہم ہے
- تازہ معلومات۔ ماڈل کے weights اس کی ٹریننگ کٹ آف پر رک جاتے ہیں۔ RAG اسے آج کی قیمتوں کی فہرست یا پالیسی سے جواب دینے دیتا ہے۔
- لاگت۔ ہر سوال پر پورا کارپس بھیجنے کے مقابلے میں 10 ٹکڑے بھیجنے میں بہت کم ان پٹ ٹوکن لگتے ہیں۔
- ماخذ کا سراغ۔ جوابات ان حصوں کا حوالہ دے سکتے ہیں جن سے وہ آئے، جس سے grounding میں مدد ملتی ہے اور ہیلوسینیشن پکڑنا آسان ہوتا ہے۔
- ترتیب اہم ہے۔ ماڈلز لمبے پرامپٹ کے آغاز اور اختتام کو درمیانی حصے سے بہتر استعمال کرتے ہیں۔ بہترین حصے پہلے رکھیں۔ lost in the middle دیکھیں۔
BroadNet Inference پر
BroadNet جنریشن والا مرحلہ سنبھالتا ہے۔ اس کی دستاویزات میں کوئی embeddings اینڈپوائنٹ درج نہیں، اس لیے retriever کے لیے الگ embedding ماڈل یا کی ورڈ سرچ چاہیے۔ DeepSeek V4.1 Flash اور GLM 5.3 تک 1,048,576 ٹوکن کا کانٹیکسٹ لیتے ہیں، جس سے کھل کر retrieval کرنا (یا چھوٹے کارپس کے لیے retrieval بالکل نہ کرنا) عملی ہو جاتا ہے۔ لمبا کانٹیکسٹ بمقابلہ RAG والی تحریر لاگت اور recall پر دونوں کا موازنہ کرتی ہے، اور عربی RAG سرچ عربی کے لیے نارملائزیشن اور hybrid retrieval کا احاطہ کرتی ہے۔
عام غلطیاں
- غلطی retriever کی ہو اور الزام ماڈل کو دینا۔ ہر جواب کے لیے لاگ کریں کہ کون سے ٹکڑے نکالے گئے۔
- ایسے ٹکڑے جو ٹیبلز یا جملوں کو درمیان سے کاٹ دیتے ہیں۔
- “نہیں ملا” کہنے کی کوئی ہدایت نہ ہونا۔ اس کے بغیر ماڈل خالی جگہ اپنی یادداشت سے بھر دیتا ہے۔