BroadRouter
شروع کریں

RAG (retrieval-augmented generation)

اپ ڈیٹ

RAG (retrieval-augmented generation) ایک طریقہ ہے جس میں ایپلیکیشن پہلے کسی بیرونی اسٹور، جیسے سرچ یا ویکٹر انڈیکس، سے سوال سے متعلقہ حصے نکالتی ہے، اور پھر انہیں پرامپٹ میں جوڑتی ہے، تاکہ لینگویج ماڈل صرف اپنی یادداشت کے بجائے اس متن سے جواب دے سکے۔

دوسرے نام: RAG، آر اے جی، ریٹریول آگمینٹڈ جنریشن، rag kya hai، RAG kya hota hai، retrieval-augmented generation، retrieval augmented generation، RAG pipeline، retrieval-augmented LLM

RAG ماڈل کو کھلی کتاب دیتا ہے: جواب دینے سے پہلے آپ کا کوڈ متعلقہ صفحات تلاش کر کے پرامپٹ میں رکھ دیتا ہے۔

یہ کیسے کام کرتا ہے

یہ اصطلاح Lewis اور ساتھیوں (2020) سے آئی ہے۔ انہوں نے ایک جنریٹر ماڈل (“parametric memory”، ترجمہ: پیرامیٹرک میموری) کو “a dense vector index of Wikipedia” (ترجمہ: Wikipedia کا ایک گھنا ویکٹر انڈیکس) (“non-parametric memory”، ترجمہ: نان پیرامیٹرک میموری) کے ساتھ جوڑا، جس تک ایک نیورل retriever کے ذریعے پہنچا جاتا تھا، اور اوپن ڈومین سوال جواب پر ان ماڈلز سے بہتر نتائج بتائے جو صرف اپنے weights پر انحصار کرتے تھے۔

LLM API کے ساتھ آج کی RAG پائپ لائن عموماً کچھ یوں ہوتی ہے:

  1. انڈیکس۔ دستاویزات کو ٹکڑوں (chunks) میں تقسیم کریں، ہر ٹکڑے کو embeddings میں بدلیں اور ویکٹر ڈیٹابیس میں رکھیں، اکثر ایک کی ورڈ انڈیکس کے ساتھ۔
  2. نکالیں (retrieve)۔ صارف کے سوال کا embedding بنائیں اور سب سے ملتے جلتے ٹکڑے نکالیں، مثلاً 5 سے 20۔
  3. جنریٹ کریں۔ ان ٹکڑوں کو پرامپٹ میں رکھیں، ساتھ ہدایت دیں کہ جواب صرف انہی سے دے اور ان کا حوالہ دے۔ پھر اسے چیٹ ماڈل کو بھیجیں۔

ماڈل خود کبھی سرچ نہیں کرتا۔ retrieval کا معیار ہی چھت طے کرتا ہے: درست حصہ نکلا ہی نہیں تو ماڈل اسے استعمال نہیں کر سکتا۔

یہ کیوں اہم ہے

  • تازہ معلومات۔ ماڈل کے weights اس کی ٹریننگ کٹ آف پر رک جاتے ہیں۔ RAG اسے آج کی قیمتوں کی فہرست یا پالیسی سے جواب دینے دیتا ہے۔
  • لاگت۔ ہر سوال پر پورا کارپس بھیجنے کے مقابلے میں 10 ٹکڑے بھیجنے میں بہت کم ان پٹ ٹوکن لگتے ہیں۔
  • ماخذ کا سراغ۔ جوابات ان حصوں کا حوالہ دے سکتے ہیں جن سے وہ آئے، جس سے grounding میں مدد ملتی ہے اور ہیلوسینیشن پکڑنا آسان ہوتا ہے۔
  • ترتیب اہم ہے۔ ماڈلز لمبے پرامپٹ کے آغاز اور اختتام کو درمیانی حصے سے بہتر استعمال کرتے ہیں۔ بہترین حصے پہلے رکھیں۔ lost in the middle دیکھیں۔

BroadNet Inference پر

BroadNet جنریشن والا مرحلہ سنبھالتا ہے۔ اس کی دستاویزات میں کوئی embeddings اینڈپوائنٹ درج نہیں، اس لیے retriever کے لیے الگ embedding ماڈل یا کی ورڈ سرچ چاہیے۔ DeepSeek V4.1 Flash اور GLM 5.3 تک 1,048,576 ٹوکن کا کانٹیکسٹ لیتے ہیں، جس سے کھل کر retrieval کرنا (یا چھوٹے کارپس کے لیے retrieval بالکل نہ کرنا) عملی ہو جاتا ہے۔ لمبا کانٹیکسٹ بمقابلہ RAG والی تحریر لاگت اور recall پر دونوں کا موازنہ کرتی ہے، اور عربی RAG سرچ عربی کے لیے نارملائزیشن اور hybrid retrieval کا احاطہ کرتی ہے۔

عام غلطیاں

  • غلطی retriever کی ہو اور الزام ماڈل کو دینا۔ ہر جواب کے لیے لاگ کریں کہ کون سے ٹکڑے نکالے گئے۔
  • ایسے ٹکڑے جو ٹیبلز یا جملوں کو درمیان سے کاٹ دیتے ہیں۔
  • “نہیں ملا” کہنے کی کوئی ہدایت نہ ہونا۔ اس کے بغیر ماڈل خالی جگہ اپنی یادداشت سے بھر دیتا ہے۔

عام سوالات

کیا RAG اور فائن ٹیوننگ ایک ہی ہیں؟

نہیں۔ RAG درخواست کے وقت دستاویزات کو پرامپٹ میں جوڑتا ہے اور ماڈل میں کچھ نہیں بدلتا۔ فائن ٹیوننگ ماڈل کے weights بدلتی ہے۔ RAG کو اپ ڈیٹ کرنا آسان ہے؛ دوبارہ ٹریننگ کے بجائے آپ بس دستاویز کو دوبارہ انڈیکس کرتے ہیں۔

کیا RAG کے لیے ویکٹر ڈیٹابیس ضروری ہے؟

ہمیشہ نہیں۔ کی ورڈ سرچ، کوئی SQL کوئری یا میموری میں رکھا چھوٹا انڈیکس بھی retriever کا کام کر سکتا ہے۔ ویکٹر ڈیٹابیس تب کام آتا ہے جب دستاویزات بہت زیادہ ہوں اور معنی کی بنیاد پر مماثلت چاہیے۔

کیا 1M ٹوکن کی کانٹیکسٹ ونڈو RAG کی جگہ لے لیتی ہے؟

کبھی کبھی۔ اگر پورا کارپس ونڈو میں آ جائے اور کیشنگ کے ساتھ بار بار پوچھا جائے تو آپ سب کچھ بھیج سکتے ہیں۔ بڑے یا تیزی سے بدلنے والے کارپس کے لیے retrieval اب بھی ہر سوال پر سستا اور تیز ہے۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں