BroadRouter
شروع کریں

ری رینکنگ (reranking)

اپ ڈیٹ

Reranking، retrieval کا دوسرا مرحلہ ہے جس میں ایک زیادہ درست لیکن سست ماڈل، عموماً cross-encoder، پہلی تلاش سے آئے ہر query اور دستاویز کے جوڑے کو اسکور کر کے ان کی ترتیب بدلتا ہے، تاکہ صرف سب سے متعلقہ چند ہی لینگویج ماڈل تک پہنچیں۔

دوسرے نام: ری رینکنگ، ری رینکر، reranking kya hai، reranker kya hota hai، reranking، reranker، rerank، re-ranking، cross-encoder reranker

پہلی تلاش تیز لیکن موٹی ہوتی ہے۔ Reranking ایک مختصر فہرست پر زیادہ compute خرچ کر کے ترتیب درست کرتا ہے۔

یہ کیسے کام کرتا ہے

دو مراحل والی پائپ لائن:

  1. Retrieve۔ کوئی تیز طریقہ، جیسے ویکٹر ڈیٹابیس میں embeddings، BM25 یا hybrid search، ٹاپ 50 سے 100 امیدوار واپس کرتا ہے۔
  2. Rerank۔ Reranker، query اور ہر امیدوار کو ساتھ پڑھتا ہے اور ہر جوڑے کو ایک مطابقت کا اسکور دیتا ہے۔ ٹاپ 3 سے 10 رکھیں۔

زیادہ تر rerankers، cross-encoders ہوتے ہیں۔ Sentence Transformers کی دستاویزات کہتی ہیں کہ cross-encoder “Generally provides superior performance compared to a Sentence Transformer (a.k.a. bi-encoder) model,” (ترجمہ: عموماً Sentence Transformer، یعنی bi-encoder، ماڈل سے بہتر کارکردگی دیتا ہے)، لیکن “Often slower” (ترجمہ: اکثر سست) ہے کیونکہ “it requires computation for each pair rather than each text.” (ترجمہ: اسے ہر متن کے بجائے ہر جوڑے کے لیے حساب کرنا پڑتا ہے)۔ دستاویزات cross-encoders کو bi-encoder کے “often used to re-rank the top-k results” (ترجمہ: اکثر top-k نتائج کو re-rank کرنے میں استعمال ہونے والے) بتاتی ہیں۔

from sentence_transformers import CrossEncoder

model = CrossEncoder("cross-encoder/ms-marco-MiniLM-L6-v2")
ranks = model.rank(query, passages)   # passages from your first-stage search
top = [passages[r["corpus_id"]] for r in ranks[:5]]

یہ طریقہ کم از کم Nogueira اور Cho (2019) تک جاتا ہے، جنہوں نے BERT کو passage re-ranker کے طور پر فائن ٹیون کیا اور MS MARCO passage retrieval پر پچھلے بہترین نتیجے کے مقابلے میں MRR@10 میں 27% نسبتی بہتری بتائی۔

ہوسٹڈ rerank APIs بھی موجود ہیں۔ Cohere کا rerank اینڈپوائنٹ “takes in a query and a list of texts and produces an ordered array with each text assigned a relevance score,” (ترجمہ: ایک query اور متون کی فہرست لیتا ہے اور ترتیب وار array بناتا ہے، جس میں ہر متن کو مطابقت کا اسکور ملتا ہے)، اسکور 0 سے 1 کی حد میں normalize ہوتے ہیں، اور نتائج محدود کرنے کے لیے ایک top_n field ہے۔

یہ کیوں اہم ہے

  • جواب کا معیار۔ LLM صرف وہی استعمال کر سکتا ہے جو آپ بھیجتے ہیں۔ بہتر ترتیب درست chunk کو پرامپٹ تک پہنچاتی ہے۔
  • ٹوکن کی لاگت۔ اچھے reranker کے ساتھ آپ 10 کے بجائے 3 chunks بھیج سکتے ہیں، جس سے ہر سوال پر ان پٹ ٹوکن کم ہوتے ہیں۔
  • Latency۔ Reranker ایک قدم بڑھاتا ہے۔ اس کی لاگت امیدواروں کی تعداد کے ساتھ بڑھتی ہے، اس لیے فہرست مختصر رکھیں۔

BroadNet Inference پر

BroadNet نہ rerank اینڈپوائنٹ دیتا ہے، نہ embeddings اینڈپوائنٹ۔ Cross-encoder خود چلائیں، مثلاً Sentence Transformers سے، یا کوئی ہوسٹڈ rerank API استعمال کریں، پھر ٹاپ chunks کو OpenAI-compatible Chat Completions API کے ذریعے BroadNet چیٹ ماڈل کو بھیجیں۔

عربی دستاویزات کے لیے دیکھیں کہ آپ کا reranker عربی یا کثیر لسانی ڈیٹا پر ٹرین ہوا ہے؛ پائپ لائن کا باقی حصہ عربی RAG سرچ میں ہے۔ اگر آپ کا کارپس چھوٹا ہے تو DeepSeek V4.1 Flash جیسا لمبے کانٹیکسٹ والا ماڈل آپ کو retrieval چھوڑنے دے سکتا ہے؛ دیکھیں لمبا کانٹیکسٹ بمقابلہ RAG۔

عام سوالات

پوری تلاش کے لیے ہی cross-encoder کیوں نہ استعمال کریں؟

یہ ہر query اور دستاویز کے جوڑے کو الگ سے اسکور کرتا ہے، اس لیے پورے مجموعے پر چلانے کے لیے بہت سست ہے۔ پہلا مرحلہ لاکھوں دستاویزات کو درجنوں یا سینکڑوں تک کم کرتا ہے، اور reranker صرف انہی کی ترتیب طے کرتا ہے۔

کیا LLM، reranker بن سکتا ہے؟

جی ہاں۔ آپ کسی چیٹ ماڈل سے امیدواروں کو اسکور کرنے یا ترتیب دینے کو کہہ سکتے ہیں۔ یہ عموماً چھوٹے cross-encoder سے سست اور فی query مہنگا ہوتا ہے، اس لیے اپنے ڈیٹا پر دونوں ٹیسٹ کریں۔

کتنے امیدواروں کو rerank کروں؟

اتنے کہ درست جواب عموماً ان میں موجود ہو۔ ناپیں کہ درست chunk پہلے مرحلے کے ٹاپ 20، 50 اور 100 میں کتنی بار آتا ہے، اور اچھے recall والی سب سے چھوٹی تعداد چنیں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں