پہلی تلاش تیز لیکن موٹی ہوتی ہے۔ Reranking ایک مختصر فہرست پر زیادہ compute خرچ کر کے ترتیب درست کرتا ہے۔
یہ کیسے کام کرتا ہے
دو مراحل والی پائپ لائن:
- Retrieve۔ کوئی تیز طریقہ، جیسے ویکٹر ڈیٹابیس میں embeddings، BM25 یا hybrid search، ٹاپ 50 سے 100 امیدوار واپس کرتا ہے۔
- Rerank۔ Reranker، query اور ہر امیدوار کو ساتھ پڑھتا ہے اور ہر جوڑے کو ایک مطابقت کا اسکور دیتا ہے۔ ٹاپ 3 سے 10 رکھیں۔
زیادہ تر rerankers، cross-encoders ہوتے ہیں۔ Sentence Transformers کی دستاویزات کہتی ہیں کہ cross-encoder “Generally provides superior performance compared to a Sentence Transformer (a.k.a. bi-encoder) model,” (ترجمہ: عموماً Sentence Transformer، یعنی bi-encoder، ماڈل سے بہتر کارکردگی دیتا ہے)، لیکن “Often slower” (ترجمہ: اکثر سست) ہے کیونکہ “it requires computation for each pair rather than each text.” (ترجمہ: اسے ہر متن کے بجائے ہر جوڑے کے لیے حساب کرنا پڑتا ہے)۔ دستاویزات cross-encoders کو bi-encoder کے “often used to re-rank the top-k results” (ترجمہ: اکثر top-k نتائج کو re-rank کرنے میں استعمال ہونے والے) بتاتی ہیں۔
from sentence_transformers import CrossEncoder
model = CrossEncoder("cross-encoder/ms-marco-MiniLM-L6-v2")
ranks = model.rank(query, passages) # passages from your first-stage search
top = [passages[r["corpus_id"]] for r in ranks[:5]]
یہ طریقہ کم از کم Nogueira اور Cho (2019) تک جاتا ہے، جنہوں نے BERT کو passage re-ranker کے طور پر فائن ٹیون کیا اور MS MARCO passage retrieval پر پچھلے بہترین نتیجے کے مقابلے میں MRR@10 میں 27% نسبتی بہتری بتائی۔
ہوسٹڈ rerank APIs بھی موجود ہیں۔ Cohere کا rerank اینڈپوائنٹ “takes in a query and a list of texts and produces an ordered array with each text assigned a relevance score,” (ترجمہ: ایک query اور متون کی فہرست لیتا ہے اور ترتیب وار array بناتا ہے، جس میں ہر متن کو مطابقت کا اسکور ملتا ہے)، اسکور 0 سے 1 کی حد میں normalize ہوتے ہیں، اور نتائج محدود کرنے کے لیے ایک top_n field ہے۔
یہ کیوں اہم ہے
- جواب کا معیار۔ LLM صرف وہی استعمال کر سکتا ہے جو آپ بھیجتے ہیں۔ بہتر ترتیب درست chunk کو پرامپٹ تک پہنچاتی ہے۔
- ٹوکن کی لاگت۔ اچھے reranker کے ساتھ آپ 10 کے بجائے 3 chunks بھیج سکتے ہیں، جس سے ہر سوال پر ان پٹ ٹوکن کم ہوتے ہیں۔
- Latency۔ Reranker ایک قدم بڑھاتا ہے۔ اس کی لاگت امیدواروں کی تعداد کے ساتھ بڑھتی ہے، اس لیے فہرست مختصر رکھیں۔
BroadNet Inference پر
BroadNet نہ rerank اینڈپوائنٹ دیتا ہے، نہ embeddings اینڈپوائنٹ۔ Cross-encoder خود چلائیں، مثلاً Sentence Transformers سے، یا کوئی ہوسٹڈ rerank API استعمال کریں، پھر ٹاپ chunks کو OpenAI-compatible Chat Completions API کے ذریعے BroadNet چیٹ ماڈل کو بھیجیں۔
عربی دستاویزات کے لیے دیکھیں کہ آپ کا reranker عربی یا کثیر لسانی ڈیٹا پر ٹرین ہوا ہے؛ پائپ لائن کا باقی حصہ عربی RAG سرچ میں ہے۔ اگر آپ کا کارپس چھوٹا ہے تو DeepSeek V4.1 Flash جیسا لمبے کانٹیکسٹ والا ماڈل آپ کو retrieval چھوڑنے دے سکتا ہے؛ دیکھیں لمبا کانٹیکسٹ بمقابلہ RAG۔