BroadRouter

الضياع في المنتصف (Lost in the middle)

آخر تحديث

الضياع في المنتصف (lost in the middle) هو الميل الملاحَظ لدى نماذج اللغة إلى استخدام المعلومات ذات الصلة على أفضل وجه حين تظهر قرب بداية المُدخل الطويل أو نهايته، وعلى أسوأ وجه حين تقع في وسطه. وقد سُمّي في دراسة أجراها Liu وآخرون عام 2023.

يُسمّى أيضًا: الضياع في المنتصف، ظاهرة الضياع في المنتصف، مشكلة منتصف السياق، تحيز الموضع في السياق الطويل، الأداء على شكل U، lost in the middle، lost-in-the-middle effect، middle-of-context problem، long-context position bias، U-shaped context performance

ضع الإجابة في منتصف أمر طويل، وسيكون كثير من النماذج أكثر عرضة لتفويتها مما لو كانت في البداية أو النهاية.

كيف يحدث

اختبر Liu وآخرون (2023) النماذج على مهمتين. في الإجابة عن الأسئلة من مستندات متعددة، تلقّى النموذج سؤالًا وعدة مستندات مسترجعة، واحد منها فقط يحوي الإجابة. وفي استرجاع المفتاح والقيمة، كان عليه أن يجد قيمة واحدة في قائمة طويلة من الأزواج. وغيّر الباحثون موضع العنصر ذي الصلة.

ونتيجتهم: الأداء “is often highest when relevant information occurs at the beginning or end of the input context, and significantly degrades when models must access relevant information in the middle of long contexts, even for explicitly long-context models.” (ترجمة: يكون غالبًا في أعلى مستوياته حين تقع المعلومات ذات الصلة في بداية سياق المُدخل أو نهايته، ويتراجع كثيرًا حين يتعين على النماذج الوصول إلى معلومات في منتصف السياقات الطويلة، حتى في النماذج المصممة صراحةً للسياق الطويل). وإذا رُسمت الدقة بحسب الموضع، اتخذت شكل حرف U.

والقراءة العملية بسيطة. نافذة السياق الطويلة تخبرك بمقدار ما يقبله النموذج، لا بمدى تساوي استخدامه له.

لماذا يهم

  • الترتيب في RAG. في التوليد المعزّز بالاسترجاع، يرتّب المسترجِع المقاطع. فإن وضعت أفضلها في وسط 20 مقطعًا، أهدرت الترتيب. ضعه أولًا، أو أولًا وأخيرًا.
  • المستندات الطويلة. السؤال عن بند في الصفحة 40 من 80 أصعب من السؤال عن الصفحة 1. وجّه النموذج إلى القسم، أو استخرجه أولًا.
  • الوكلاء. في سجل وكيل طويل، تحظى التعليمات المبكرة والدورة الأخيرة بالانتباه؛ أما مخرجات الأدوات في منتصف التشغيل فهي الجزء الأكثر عرضة لقلة الاستخدام.

والضياع في المنتصف جزء من ظاهرة أوسع تُسمّى تآكل السياق، تنخفض فيها الدقة مع الطول والمشتّتات، لا مع الموضع وحده.

في BroadNet Inference

يقبل DeepSeek V4.1 Flash وGLM 5.3 لدى BroadNet حتى 1,048,576 رمزًا في الطلب. وهذا يجعل الموضع أهم لا أقل، لأن المنتصف أكبر. وهذا ترتيب يراعي تأثيرات الموضع والإدخال المخزّن مؤقتًا معًا:

[stable system prompt and instructions]  -> cached prefix
[documents, best-ranked first]
[the question, restated in full]         -> end of prompt

ويتعمق كلٌّ من دليل سياق المليون رمز وهيكلة الأوامر للتخزين المؤقت أكثر في الموضوع.

أسئلة شائعة

هل لا تزال نماذج السياق الطويل الأحدث تضيع في المنتصف؟

وجدت الدراسة الأصلية هذا التراجع حتى في النماذج المبنية للسياقات الطويلة. ولا تزال أعمال لاحقة، مثل تقرير Chroma لعام 2025 عن تآكل السياق، تجد أن الدقة تنخفض مع الطول. اختبر نموذجك وترتيب أمرك أنت.

أين أضع أهم مستند في الأمر؟

قرب البداية أو النهاية، لا مدفونًا في الوسط. وفي RAG، ضع المقطع الأعلى ترتيبًا أولًا، وأعد صياغة السؤال بعد المستندات.

هل يتعارض هذا مع التخزين المؤقت للأوامر؟

قد يتعارض. فالتخزين المؤقت يفضّل بادئة ثابتة، بينما تفضّل تأثيرات الموضع وضع النص الأهم قرب الطرفين. أبقِ التعليمات الثابتة أولًا، وضع السؤال والمقاطع الأساسية في النهاية.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity