BroadRouter

خريطة الأمان: كيف يتعامل 39 نموذج LLM مع البيانات الحساسة

بقلم فريق BroadNet Inference · قراءة في 3 دقائق · تاريخ النشر · آخر تحديث

خريطة الأمان (The Safety Map) ورقة أولية من BroadNet صدرت في أبريل 2026 (DOI 10.5281/zenodo.19688433). اختبرت 39 نموذجًا من 14 مختبرًا عبر 7 سيناريوهات فحص تشمل بيانات الاعتماد، والبيانات الشخصية، والبيانات الصحية، وأرقام الحسابات، وفحص DLP، في نحو 1,300 تقييم متعدد التشغيلات. ولم ينتقل الأمان بين الفئات أو قنوات الإخراج: 20 من 73 تشغيلًا ملأت معاملات استدعاء الأدوات سرّبت عبرها.

خريطة الأمان (The Safety Map) هي دراسة BroadNet لكيفية تعامل النماذج اللغوية الكبيرة مع البيانات الحساسة. نُشرت الورقة الأولية، The Safety Map: What Does and Doesn’t Transfer in LLM Sensitive-Data Handling (الترجمة: خريطة الأمان: ما الذي ينتقل وما الذي لا ينتقل في تعامل نماذج LLM مع البيانات الحساسة)، على Zenodo في 22 أبريل 2026 تحت المعرّف DOI 10.5281/zenodo.19688433، ومؤلفها محمد الزبيدي (Mohammad Al Zubaidi). وهي الورقة المرافقة لـ طريقة BroadNet لتقييم البيانات الحساسة.

ما يلي ملخصنا للخلاصة ولصفحة أبحاث BroadNet. والأحكام أحكام BroadNet.

ماذا غطّت الدراسة؟

البُعد التغطية
النماذج 39، من 14 مختبرًا مستقلًا
سيناريوهات الفحص 7
الفئات بيانات الاعتماد، والبيانات الشخصية (PII)، والمعلومات الصحية المحمية (PHI)، وأرقام الحسابات المالية، وفحص منع فقدان البيانات (DLP)
الأدلة أكثر من 135 تركيبة مصنّفة من النماذج والفحوص، من نحو 1,300 تقييم متعدد التشغيلات

ويذكر كتالوج BroadNet أنها مرّرت نحو 90 نموذجًا بعيدًا ونموذج API، لم تشغّلها قط على عتادها الخاص، عبر أدوات اختبار الأمان والتوجيه والعربية لديها، وأن تلك النتائج تغذّي هذه الخريطة.

ما النتائج الرئيسية؟

الأمان سطح، لا درجة واحدة. فهو يتفاوت على ثلاثة محاور تتراكب:

  • البنية. تذكر الورقة حدًا أدنى للسعة قدره نحو 24B معاملًا نشطًا في بيانات الاعتماد، عبر تصاميم التوجيه المختلفة، ونماذج مزيج الخبراء ذات المعاملات النشطة القليلة هي الحالة الرئيسية.
  • الجيل. تحرّك جودة المواءمة الحدّ داخل عائلة النماذج الواحدة.
  • استثمار المختبر في المواءمة. فوسم النموذج الرائد من مختبر معروف ليس ضمانًا.

ولا يتنبأ أي من المحاور الثلاثة بالأمان وحده؛ بل تجتمع.

الأمان لا ينتقل بين الفئات. فالتعامل السليم مع بيانات الاعتماد وأرقام الضمان الاجتماعي لم ينتقل إلى الأسماء أو السجلات الصحية أو أرقام الحسابات في النموذج نفسه.

قنوات الإخراج تتسرّب كلٌّ على حدة. وهذه هي النتيجة ذات الوزن العملي الأكبر:

  • من 73 تشغيلًا ملأت tool_calls.arguments، أرسل 20 تشغيلًا قيمًا حساسة عبر استدعاء الأداة. ومن بين النماذج وراء تلك التشغيلات Kimi K2.6 من Moonshot، الذي اختُبر في يوم إصداره، وهو نموذج تصنّفه الورقة في ما عدا ذلك آمنًا عبر التشغيلات المتعددة في بيانات الاعتماد والبيانات الشخصية والبيانات المالية وDLP.
  • من 43 تشغيلًا ملأ فيها المزوّد reasoning_content بعشرين حرفًا على الأقل، سرّب 29 تشغيلًا قيمًا حساسة في الاستدلال بينما صُنّف رد المحادثة آمنًا، أو فائتًا، أو مبتورًا.

التقليم قد يكسر الأمان. فنسختان مقلّمتان مستقلتان من سلسلة Llama من Meta، أعدّتهما NVIDIA بالبحث في البنى العصبية، كسرتا أمان البيانات الصحية عبر قنوات إخراج مختلفة.

وتنتهي الورقة بترتيب من خمس طبقات. مجموعتها العليا، الآمنة بانتظام في كل فئة اختُبرت، هي Claude Opus 4.7، وGPT-5.4 وGPT-5.4-mini، وGemini 3 Flash وGemini 3.1 Pro. ويقول الملخص إن النماذج الرائدة من xAI Grok وMeta Llama لا تدخل تلك المجموعة.

ما الذي يجب أن تغيّره في منظومتك؟

  1. رشّح كل قناة. فالفحص على الرد الظاهر يفوّت معاملات استدعاء الأدوات وحقول الاستدلال. وإذا كنت تستخدم استدعاء الأدوات أو نموذج استدلال، فافحص الاثنين.
  2. اختبر بحسب الفئة. فالنتيجة السليمة في بيانات الاعتماد لا تقول شيئًا عن البيانات الصحية أو بيانات الرواتب.
  3. أعد الاختبار عند تحديث النماذج. فنتيجة Kimi K2.6 جاءت من نموذج في يوم إصداره.
  4. احجب أولًا حيثما أمكن. فالنموذج لا يستطيع تسريب ما لم يرَه قط. ويعرض دليلنا للبيانات الحساسة الحجب بعناصر نائبة في Python.

ما هو LSDF؟

LSDF، أي LLM Sensitive Data Firewall (جدار حماية البيانات الحساسة لنماذج LLM)، هو أداة التحكم التي بنتها BroadNet من هاتين الورقتين وأصدرتها مفتوحة المصدر بترخيص Apache-2.0 على github.com/brntech/lsdf. وهو وكيل عكسي (reverse proxy) لواجهة chat completions المتوافقة مع OpenAI: توجّه base URL في عميلك إليه، فيمرّر الطلبات إلى خادم النموذج أو المزوّد لديك. وتقول BroadNet إنه يفحص الطلبات، والاستجابات، والأجزاء المتدفقة، ومعاملات استدعاء الأدوات المتدفقة، والسياق المسترجع، وحقول الاستدلال، وينظّف التتبعات والسجلات بشكل منفصل.

ويذكر تقييم BroadNet في مايو 2026 على مجموعات بياناتها الخاصة معدل الاستدعاء (recall) التالي:

مجموعة الكواشف إعادة تشغيل بيانات الاعتماد المعلومات الصحية السريرية PHI البيانات الشخصية الإنجليزية الواسعة
التعابير النمطية (Regex) فقط 0.944 0.019 0.208
Microsoft Presidio 0.194 0.056 0.326
كواشف LSDF للبيانات الشخصية الواسعة 1.000 0.944 0.685

هذه أرقام مورّد لأداته الخاصة، على مجموعات بيانات اختارها. وهي مفيدة كنقطة بداية، ويتضمن المستودع إعادة التشغيل لتتمكن من التحقق منها. ويعمل LSDF أمام أي نموذج، بما في ذلك النماذج التي لا تستضيفها BroadNet.

ما الحدود؟

الورقة أولية، ولم تخضع لمراجعة الأقران. وبموجب سياسة النشر المسؤول لدى BroadNet، حُجبت الأوامر الدقيقة، وصيغ بيانات الاعتماد، والعتبات من النسخة العامة، وتُشارك مع مزوّدي النماذج والباحثين عند الطلب. وإصدارات النماذج تتغير بسرعة، فالحكم الصادر في أبريل 2026 سبب للاختبار، لا بديل عنه.

أسئلة شائعة

ما النماذج التي حققت أفضل أداء في خريطة الأمان؟

يضع الملخص في القمة مجموعة نماذج المواءمة الرائدة، الآمنة بانتظام في كل فئة اختُبرت: Claude Opus 4.7، وGPT-5.4 وGPT-5.4-mini، وGemini 3 Flash وGemini 3.1 Pro. ويأتي Claude Sonnet 4.6 أدنى منها مباشرة، بتسرّب واحد للبيانات الصحية اقتصر على تاريخ الميلاد عبر 15 تشغيلًا.

هل النموذج الذي لا يسرّب مفاتيح API أبدًا آمن مع بيانات المرضى؟

ليس بالضرورة. وجدت الورقة أن الأمان ينفصل بحسب الفئة: فالنموذج الذي حمى بيانات الاعتماد وأرقام الضمان الاجتماعي وكلمات مرور قواعد البيانات قد يذكر مع ذلك أسماء الموظفين في مستند رواتب في كل تشغيل.

لماذا يهم استدعاء الأدوات؟

لأن كثيرًا من المرشحات لا تفحص إلا رد المحادثة. فمن 73 تشغيلًا ملأ فيها النموذج معاملات استدعاء الأدوات، أرسل 20 تشغيلًا قيمًا حساسة عبر تلك القناة، بما في ذلك نموذج كان آمنًا عبر التشغيلات المتعددة في ما عدا ذلك.

هل تسرّب نماذج مزيج الخبراء الصغيرة أكثر؟

تذكر الورقة حدًا أدنى للسعة قدره نحو 24B معاملًا نشطًا في بيانات الاعتماد، وتصاميم مزيج الخبراء ذات المعاملات النشطة القليلة هي أبرز مظاهره. ويقول منشور BroadNet الموجّه للممارسين إنها لم تجد بعد نموذج MoE بأقل من 24B معاملًا نشطًا لا يسرّب في فحوصها للبيانات المهيكلة.

هل نماذج BroadNet Inference مشمولة في خريطة الأمان؟

لا يذكر الملخص أحكامًا لكل نموذج منها، والورقة منشورة مسودةً في أبريل 2026، فلا يمكن أن يرد فيها نموذج صدر بعد ذلك. ولدى Gemma 4 VL 26B نحو 4B معاملات نشطة، فاختبره بفحوصك الخاصة للبيانات الحساسة، أو احجب البيانات قبل الإرسال، إذا كان سيرى بيانات اعتماد أو بيانات شخصية.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity