BroadRouter

السياق الطويل أم RAG: متى تُغني مليون رمز عن قاعدة المتجهات؟

بقلم فريق BroadNet Inference · قراءة في 5 دقائق · تاريخ النشر · آخر تحديث

يحلّ السياق الطويل محل RAG حين تتسع النافذة للمجموعة النصية كلها، وتتغير نادرًا، وتحتاج الأسئلة إلى أجزاء كثيرة منها معًا؛ ويُبقي التخزين المؤقت الاستعلامات المتكررة رخيصة. ويظل RAG أفضل حين تتجاوز المجموعة النافذة، أو تتحدث باستمرار، أو تحتاج صلاحيات لكل مستخدم، أو يجب أن تُجيب خلال ثانية أو ثانيتين. وكثير من الأنظمة تسترجع بـ RAG وتستدل بالسياق الطويل.

يشرح دليل نافذة السياق بمليون رمز ما يتسع له مليون رمز وكم يكلّف الطلب الواحد. أما هذا المقال فيجيب عن سؤال أضيق يُطرح في كل مراجعة للبنية المعمارية: هل نستطيع حذف قاعدة بيانات المتجهات ومسار RAG المحيط بها؟ أحيانًا نعم. وإليك كيف تقرّر، على أربعة محاور: التكلفة، وزمن الاستجابة، ودقة الاسترجاع، والصيانة.

متى يحلّ السياق الطويل محل RAG؟

يجب أن تتحقق الشروط الأربعة كلها:

  1. المجموعة النصية تتسع. الأمر مع الإجابة والاستدلال المنطقي يبقى داخل نافذة السياق مع هامش. وعلى DeepSeek V4.1 Flash وGLM 5.3 تبلغ النافذة 1,048,576 رمزًا (مقارنة النموذجين). وحاسبة نافذة السياق تتحقق إن كانت مستنداتك تتسع.
  2. تتغير نادرًا. دليل استخدام يُحدَّث شهريًا لا بأس به. أما قائمة تذاكر تتحدّث كل دقيقة فلا.
  3. يحق للجميع رؤيتها كلها. مجموعة واحدة مشتركة، بلا صلاحيات لكل مستخدم تحتاج إلى تصفية.
  4. الأسئلة تشمل المجموعة كلها. سؤال مثل «أي العقود تتعارض مع السياسة الجديدة؟» يحتاج إلى رؤية كل شيء؛ أما «ما مهلة الاسترداد؟» فلا.

وإن لم يتحقق أحدها، فأبقِ الاسترجاع، أو استخدم نهجًا هجينًا.

كيف تتقارن تكلفة الاستعلام الواحد؟

خذ مجموعة مستندات من 400,000 رمز وسؤالًا إجابته 500 رمز. يسترجع RAG مثلًا 8,000 رمز من المقاطع. وعلى مفتاح دفع حسب الاستخدام مع DeepSeek V4.1 Flash:

النهج الإدخال لكل استعلام تكلفة الإدخال لكل استعلام
السياق الطويل، الاستعلام الأول 400,000 جديدة 0.4 × $0.175
السياق الطويل، استعلام متكرر مع بادئة مخزّنة مؤقتًا نحو 400,000 مخزّنة مؤقتًا نحو 0.4 × $0.0055
RAG 8,000 جديدة 0.008 × $0.175

والإخراج واحد في كل الحالات: 500 رمز × $0.52 لكل مليون. (كل معامل ضرب هو ملايين الرموز مضروبة في السعر لكل مليون.)

ويترتب على ذلك ثلاثة أمور. دون تخزين مؤقت، يكلّف السياق الطويل 50 ضعف RAG في الإدخال لكل استعلام، لأنه يرسل 50 ضعف الرموز. ومع تخزين المجموعة مؤقتًا تضيق الفجوة كثيرًا، إذ يكلّف الإدخال المخزّن مؤقتًا على هذا النموذج نسبة مئوية صغيرة من الإدخال الجديد. لكن التخزين المؤقت لا يصمد إلا ما دامت البادئة متطابقة بايتًا ببايت، فيجب أن تأتي المجموعة أولًا وتبقى ثابتة؛ راجع بنية الأوامر للتخزين المؤقت. ولـ RAG تكاليفه الخاصة التي يُغفلها هذا الجدول: تضمين المجموعة، وتشغيل مخزن المتجهات، ووقت الهندسة اللازم لضبط التقطيع. وتسعّر حاسبة تكلفة التضمينات جزء التضمين، وتسعّر حاسبة تقطيع RAG جانب الاستعلام: المقاطع، والرموز لكل استعلام، وفاتورة النموذج الشهرية.

ولترى قيمة نسبة التخزين المؤقت لديك، جرّب حاسبة التخزين المؤقت للأوامر. وفي الخطة الثابتة يختفي عمود الإدخال: فخطة البدر (Full Moon) بسعر $60 شهريًا لكل جلسة دون عدّاد رموز، فيكلّف الأمر البالغ 400,000 رمز ما يكلّفه الأمر القصير.

كيف يتقارن زمن الاستجابة؟

يقرأ النموذج الأمر كله قبل أن يكتب الرمز الأول. فيزداد زمن الوصول إلى أول رمز مع طول الأمر، والأمر الذي يبلغ مئات الآلاف من الرموز يستغرق وقتًا أطول بوضوح ليبدأ مقارنةً بأمر من 8,000 رمز. وتساعد البادئات المخزّنة مؤقتًا في كثير من أنظمة التشغيل. أما البحث في المتجهات نفسه فيضيف عادةً القليل؛ فاستدعاء الاسترجاع صغير مقارنةً بالتوليد.

لذا فإن RAG هو الخيار الافتراضي الأكثر أمانًا لمساعد تفاعلي يجب أن يرد خلال ثانية أو ثانيتين. أما لمحلّل يطرح سؤالًا عميقًا واحدًا وينتظر الإجابة، فالسياق الطويل مناسب. قِس TTFT على أوامرك أنت بالحجم الذي تنوي إرساله.

أيهما أدق في الاسترجاع؟

لا أحد منهما مثالي، وهما يفشلان بطرق مختلفة.

السياق الطويل قد يُضيّع الحقائق الواقعة في الوسط (الضياع في المنتصف). فقد وجدت دراسة Lost in the Middle أن النماذج تستفيد من المعلومات أفضل ما يكون حين تقع في بداية المُدخل أو نهايته، وأسوأ فيما بينهما. ووجد مقياس RULER أن النماذج التي تحقق نتائج شبه كاملة في اختبارات «الإبرة في كومة القش» البسيطة تراجعت في المهام الأصعب مع ازدياد طول المُدخلات، وأنه من بين النماذج التي تدّعي 32K رمز أو أكثر، حافظ “only half of them” (الترجمة: «نصفها فقط») على أداء مُرضٍ عند 32K. والنماذج الأحدث أفضل، لكن النافذة المعلنة ليست هي النافذة التي تصمد فيها الجودة.

أما RAG فيفشل قبل أن يبدأ النموذج: إن أخطأ المسترجِع المقطع، فلن يراه النموذج أبدًا. والأسئلة التي تحتاج إلى مقاطع كثيرة، أو التي تستخدم كلمات مختلفة عن المصدر، هي حالات الإخفاق التقليدية.

نمط الفشل السياق الطويل RAG
حقيقة مدفونة في منتصف الأمر يزداد الخطر مع الطول منخفض، فالأمر قصير
الإجابة تحتاج 20 مقطعًا متفرقًا قوي ضعيف ما لم يكن top-k كبيرًا
صياغة الاستعلام تختلف عن المصدر قوي يعتمد على التضمينات وإعادة الترتيب
المجموعة أكبر من النافذة غير ممكن قوي

وهناك وسيلتان للتخفيف في السياق الطويل: ضع السؤال في النهاية بعد المستندات، واطلب من النموذج أن يقتبس الأسطر التي يعتمد عليها.

وماذا عن الصيانة؟

RAG نظام كامل: تقطيع، وتضمينات، وفهرس، وإعادة فهرسة عند التغيير، ومرشّحات صلاحيات، وتقييم لجودة الاسترجاع. أما السياق الطويل فأمر: اجمع الملفات بعناوين واضحة وأرسلها. ولفريق صغير لديه مجموعة تتسع لها النافذة، يُزيل حذف المسار عملًا حقيقيًا. أما لمجموعة كبيرة متغيرة ذات صلاحيات، فالمسار يؤدي وظيفة لا يستطيعها السياق الطويل.

النهج الهجين الذي ينتهي إليه معظم الفرق

  1. استرجع بسخاء، لا خمسة مقاطع بل مستندات كاملة، حتى بضع مئات الآلاف من الرموز.
  2. رتّبها ترتيبًا ثابتًا (حسب معرّف المستند، لا حسب الدرجة) لتُخزَّن البادئة مؤقتًا عبر الأسئلة المترابطة.
  3. ضع السؤال أخيرًا وأرسله إلى نموذج بسياق طويل.
  4. اطلب استشهادات بعناوين المستندات، وافحص عيّنة منها.

يحافظ هذا على قدرة RAG على تغطية مجموعة ضخمة، وعلى قدرة السياق الطويل على الاستدلال عبر مصادر كثيرة. ويتحمّل كذلك مسترجِعًا أضعف، لأن المستند القريب من الصواب يظل داخل الأمر.

أين تقع BroadNet Inference من هذا؟

تقدّم BroadNet Inference نموذجين بمليون رمز، هما DeepSeek V4.1 Flash وGLM 5.3، ولا تقصّ سياقك، فيفشل الطلب الزائد الحجم بدل أن يُضيّع مستندات بصمت. ويُحتسب الإدخال المخزّن مؤقتًا بالسعر الأقل للتخزين المؤقت على مفتاح الدفع لكل رمز، والخطط غير المحدودة تُلغي عدّاد الرموز كليًا لـ DeepSeek V4.1 Flash. ويذكر مرجعها التقني إكمالات المحادثة والتفريغ الصوتي، لا نقطة نهاية للتضمينات ولا مخزنًا للمتجهات، فعليك توفير نصف RAG بنفسك. واترك في النافذة مساحة لـ رموز الاستدلال المنطقي؛ ويشرح دليل الاستدلال المنطقي السبب. والأسعار موجودة في صفحة الأسعار.

أسئلة شائعة

هل انتهى RAG بعد أن صارت نوافذ سياق النماذج مليون رمز؟

لا. يُلغي السياق الطويل الحاجة إلى الاسترجاع حين تتسع النافذة للمجموعة كلها وتكون ثابتة. لكن معظم قواعد معرفة الشركات أكبر من مليون رمز، وتتغير يوميًا، وتحتاج إلى صلاحيات، وهذا لا يزال مجال RAG.

هل السياق الطويل أدق من RAG؟

يعتمد ذلك على السؤال. فالسياق الطويل أفضل حين تحتاج الإجابة إلى جمع مقاطع كثيرة. وقد يكون RAG أفضل في البحث عن حقيقة واحدة داخل مجموعات ضخمة، لأن الأمر القصير يُبقي النموذج مركّزًا. اختبر الاثنين على أسئلة حقيقية.

كم كلمة تتسع لها نافذة سياق بمليون رمز؟

نحو 810,000 كلمة من النثر الإنجليزي العادي في نافذة DeepSeek V4.1 Flash البالغة 1,048,576 رمزًا، بمعدل 1,290 رمز لكل 1,000 كلمة مقيسًا عبر خمسة مُرمِّزات في مجموعة بيانات المُرمِّزات من BroadRouter. والإنجليزية التقنية والشيفرة والجداول والعربية تحتاج رموزًا أكثر لكل كلمة، فتتسع النافذة لقدر أقل منها. واترك مساحة للإجابة وللاستدلال المنطقي.

هل أستطيع الجمع بين RAG والسياق الطويل؟

نعم، وهو غالبًا الخيار الأفضل. استرجع بسخاء، من 100,000 إلى 200,000 رمز من المستندات المرشّحة مثلًا، ثم دع نموذجًا بسياق طويل يستدل عليها كلها بدل أعلى خمسة مقاطع فقط.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity