بوتات خدمة العملاء تقرأ شكاوى فيها أسماء وأرقام طلبات. ومسارات مراكز الاتصال ترسل نصوصًا مفرّغة فيها أرقام بطاقات. وتطبيقات الصحة ترسل الأعراض. كل ذلك مفيد للنموذج، وكله بيانات حساسة منذ اللحظة التي تغادر فيها خوادمك.
تضع OWASP الإفصاح عن المعلومات الحساسة في المرتبة LLM02 ضمن قائمتها لأهم عشرة مخاطر لتطبيقات LLM لعام 2025. معظم الإرشادات تركّز على ما قد يكشفه النموذج. أما هذا المقال فيركّز على الجزء الذي تتحكم فيه أنت: ما ترسله، وما تحتفظ به.
ما الذي يُعدّ بيانات حساسة عند استخدام LLM API؟
صنّف الحقول في ثلاث فئات قبل أن تكتب أي أمر:
| الفئة | أمثلة | القاعدة الافتراضية |
|---|---|---|
| معرّفات مباشرة | الاسم، البريد الإلكتروني، الهاتف، رقم الهوية الوطنية، رقم الحساب | استبدلها بعناصر نائبة |
| فئات خاصة أو خاضعة للتنظيم | الصحة، البيانات الحيوية، الدين، أرقام البطاقات، بيانات الدخول | لا ترسلها ما لم تتطلبها المهمة ولديك أساس قانوني |
| السياق | أسماء المنتجات، نوع المشكلة، التواريخ، المبالغ | إرسالها مقبول عادةً |
بموجب اللائحة العامة لحماية البيانات (GDPR)، تحتاج الفئات الخاصة (المادة 9) إلى شرط محدد قبل معالجتها أصلًا. أما بيانات البطاقات والأسرار مثل كلمات المرور أو مفاتيح API فيجب ألا تصل إلى أي أمر أبدًا.
الخطوة 1: ما الحقول التي تحتاجها المهمة فعلًا؟
أفضل حجب هو ألا ترسل الحقل أصلًا. اسأل ماذا تحتاج المهمة:
- تلخيص تذكرة دعم؟ يحتاج النموذج إلى الشكوى، لا إلى عنوان العميل.
- تصنيف النية؟ يحتاج إلى نص الرسالة، لا إلى معرّف الحساب.
- صياغة رد؟ يحتاج إلى الاسم الأول على الأكثر، والعنصر النائب يؤدي الغرض.
ابنِ الأوامر من حقول مختارة، لا بإلقاء السجل كاملًا بصيغة JSON. وهذا يقلّل أيضًا رموز الإدخال، فيوفّر المال.
الخطوة 2: كيف تحجب البيانات ويظل النص مفهومًا للنموذج؟
استبدل كل قيمة بعنصر نائب مرقّم يحدد نوعها. يحتفظ النموذج ببنية الجملة، وتعيد شيفرتك القيم بعد ذلك.
import os, re
from openai import OpenAI
PATTERNS = { # order matters: IBAN before PHONE, or the phone pattern eats IBAN digits
"EMAIL": r"[\w.+-]+@[\w-]+\.[\w.-]+",
"IBAN": r"\b[A-Z]{2}\d{2}[A-Z0-9]{11,30}\b",
"PHONE": r"\+?\d[\d\s-]{7,}\d",
}
def redact(text):
mapping, n = {}, {}
for kind, pat in PATTERNS.items():
def sub(m):
n[kind] = n.get(kind, 0) + 1
key = f"[{kind}_{n[kind]}]"
mapping[key] = m.group(0)
return key
text = re.sub(pat, sub, text)
return text, mapping
def restore(text, mapping):
for key, value in mapping.items():
text = text.replace(key, value)
return text
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
# Any OpenAI-compatible endpoint works; this uses Qwen3.8 27B on BroadNet Inference.
ticket = "Call me on +971 50 123 4567 or mail sara@example.com about my refund."
safe, mapping = redact(ticket)
reply = client.chat.completions.create(
model="broadnet/qwen3.8-27b",
messages=[
{"role": "system", "content": "Keep placeholders like [PHONE_1] exactly as written."},
{"role": "user", "content": f"Draft a short reply to this ticket:\n{safe}"},
],
).choices[0].message.content
print(restore(reply, mapping)) # the mapping never left your server
التعابير النمطية تلتقط القيم ذات البنية الثابتة. أما الأسماء والعناوين فتحتاج إلى التعرّف على الكيانات. وأدوات مفتوحة المصدر مثل Microsoft Presidio تجمع بين الأنماط وأرقام التحقق ونماذج التعرّف على الكيانات المسمّاة، وتتيح لك إضافة أدوات تعرّف خاصة بك. اختبر أي أداة اكتشاف على بياناتك أنت: فالأسماء العربية، وصيغ أرقام الهواتف الخليجية، والنصوص المختلطة بين الحروف العربية واللاتينية هي المواضع التي تخطئ فيها أدوات الاكتشاف العامة.
وإن كنت تفضّل تشغيل وكيل وسيط (proxy) على كتابة الحجب بنفسك، فإن BroadNet تنشر واحدًا مفتوح المصدر: جدار حماية البيانات الحساسة لنماذج LLM (LSDF)، برخصة Apache-2.0. يعمل أمام أي نقطة نهاية متوافقة مع OpenAI، بما فيها نماذج لا تستضيفها BroadNet، وتقول BroadNet إنه يفحص الطلبات، والردود، والأجزاء المبثوثة، ووسائط استدعاء الأدوات المبثوثة، والسياق المسترجَع، وحقول الاستدلال المنطقي، مع أداة تنقية منفصلة للتتبعات والسجلات. وفي تقييم BroadNet لشهر مايو 2026 على مجموعات بياناتها الخاصة، استرجعت أدوات الاكتشاف الواسعة للبيانات الشخصية فيه 1.000 من اختبار إعادة تشغيل لبيانات الدخول من 40 حالة، و0.944 من بيانات سريرية اصطناعية، و0.685 من البيانات الشخصية الإنجليزية العامة، مقابل 0.194 و0.056 و0.326 لـMicrosoft Presidio وحده (تقرير BroadNet). هذه أرقام BroadNet عن أداتها هي؛ شغّل ملف التعريف monitor على حركة بياناتك قبل أن تفرض أي شيء.
قاعدتان للعناصر النائبة:
- حافظ على ثباتها داخل المحادثة، بحيث يكون
[NAME_1]الشخص نفسه في كل دور. - اطلب من النموذج إبقاءها دون تغيير، كما في أمر النظام أعلاه.
الخطوة 3: ماذا يحدث للبيانات لدى المزوّد؟
الحجب يقلّل ما يغادر. أما ما يحدث بعد ذلك فيقرره المزوّد. اسأل:
- هل يُخزَّن المحتوى بعد الطلب، وإلى متى؟
- هل يُستخدم للتدريب، وما الإعداد الافتراضي؟
- من يشغّل العتاد، وأين؟
تختلف إجابات المزوّدين كثيرًا. راجع مقارنة الاحتفاظ بالبيانات في LLM API للصياغة الرسمية لدى خمسة منهم، وقائمة التحقق لعدم الاحتفاظ بالبيانات (ZDR) للأسئلة التقنية، وقائمة التحقق للائحة العامة لحماية البيانات للجانب التعاقدي.
الخطوة 4: كيف تُبقي الأوامر خارج سجلاتك؟
بنيتك التقنية أنت هي المكان الذي تبقى فيه الأوامر في أغلب الأحيان. أشهر مواضع التسريب:
- سجلات التصحيح في عميل HTTP التي تطبع نصوص الطلبات.
- حِزم SDK للتتبع والمراقبة التي تسجّل الأوامر كاملة افتراضيًا.
- أدوات الإبلاغ عن الأخطاء التي ترفق حمولة الطلب الفاشل.
- أحداث التحليلات التي تتضمن رسالة المستخدم.
- طوابير إعادة المحاولة وطوابير الرسائل الميتة التي تخزّن الطلبات كاملة.
وسجّل بدلًا من ذلك: معرّف الطلب، والنموذج، وعدد رموز الأمر والإكمال، وزمن الاستجابة، ورمز الحالة، ومعرّف جدول الحجب الخاص بك (لا الجدول نفسه أبدًا). هذا يكفي لتتبّع التكلفة والأخطاء. ويتضمن مقال تسجيل الاستخدام غلافًا يكتب هذه الحقول بالضبط ويحسب تكلفة كل استدعاء.
الخطوة 5: كيف تحمي الطريق إلى API؟
- أبقِ المفاتيح على الخوادم، ولا تضعها أبدًا في شيفرة المتصفح أو تطبيقات الجوال. يتناول مقال أمان مفاتيح LLM API التخزين والتدوير.
- اقصر المفاتيح على عناوين الخروج لديك باستخدام قوائم عناوين IP المسموحة.
- استخدم مفتاح API منفصلًا لكل خدمة، لتتمكن من إلغاء أحدها دون إيقاف كل شيء.
الخطوة 6: ماذا تفحص في الرد؟
الحجب يحمي الطلب. والرد يحتاج إلى فحص أيضًا، لأن النموذج قد يكرر القيم أو يخمّنها أو يعيد تركيبها:
- سلامة العناصر النائبة. بعد
restore()، ابحث عن عناصر متبقية مثل[PHONE_3]لم تكن في جدولك أصلًا. وجودها يعني أن النموذج اخترع واحدًا. - بيانات شخصية جديدة في المخرجات. شغّل أداة الاكتشاف نفسها على الرد. الرد الذي يحتوي على بريد إلكتروني لم ترسله أصلًا يستحق نظرة ثانية قبل أن يصل إلى العميل.
- التسرّب بين المستخدمين. إذا كنت تخزّن الردود مؤقتًا أو تشارك حالة المحادثة، فتأكد من أن القيم المسترجَعة لمستخدم ما لا يمكن أن تظهر أبدًا في رد مستخدم آخر.
افحص كل قنوات الإخراج، لا رد المحادثة وحده. فقد وجدت دراسة خريطة الأمان (Safety Map) من BroadNet أن القيم الحساسة خرجت عبر وسائط استدعاء الأدوات في 20 من أصل 73 تشغيلًا ملأتها، وعبر حقل الاستدلال المنطقي في 29 من أصل 43 تشغيلًا ملأته، بينما صُنّف الرد الظاهر آمنًا أو فائتًا أو مقطوعًا.
اختبر الحلقة كاملة على مجموعة ثابتة من 50 مثالًا حقيقيًا حساسًا كلما غيّرت الأمر أو النموذج أو أداة الاكتشاف. عُدّ القيم الفائتة، لا الملتقطة فقط: فرقم بطاقة واحد فائت أهم من مئة عنصر نائب صحيح.
هل يحتاج الصوت الحساس إلى المعاملة نفسها؟
قد تحمل رسالة صوتية اسمًا ورقم هاتف وتفصيلًا صحيًا في عشر ثوانٍ. والنصوص المفرّغة ترث ذلك كله. احجب النص المفرّغ قبل أن يذهب إلى LLM للتلخيص، ولا تحتفظ بالصوت الخام إلا للمدة التي يجب عليك. ويُظهر مسار تفريغ تسجيلات مركز الاتصال الحجب بين خطوة التفريغ وخطوة التلخيص.
أين تقع BroadNet Inference من هذا؟
يقول بيان الخصوصية لدى BroadNet إن بوابتها “keeps no prompts, messages, images, audio, responses or transcripts” (الترجمة: لا تحتفظ بأي أوامر أو رسائل أو صور أو صوت أو ردود أو نصوص مفرّغة) وإنها لا تستخدم بيانات الاستدلال “to train, fine-tune or evaluate models” (الترجمة: لتدريب النماذج أو ضبطها الدقيق أو تقييمها). وتحتفظ بسجلات خالية من المحتوى مثل التوقيتات وعدد الرموز والتكلفة؛ والقائمة الكاملة في صفحة عدم الاحتفاظ بالبيانات. ويمكن قصر المفاتيح على عناوين IP الخاصة بك. وقد اختبرت BroadNet نموذج Qwen3.8 27B، المستخدم في المثال أعلاه، باللغة العربية، وهذا مهم حين تقع عناصرك النائبة داخل نص عربي.
هذا يغطي جانب المزوّد. فهو لا يحجب البيانات بدلًا منك، ولا ينظّف سجلاتك. الخطوات 1 و2 و4 تظل مسؤوليتك مع أي مزوّد، بما في ذلك BroadNet. وإذا احتجت إلى اتفاقية معالجة بيانات (DPA) مكتوبة أو قائمة بالمعالجين الفرعيين لبيانات خاضعة للتنظيم، فاسأل BroadNet قبل أن ترسلها؛ إذ يقول البيان إن قائمة المعالجين الفرعيين متاحة عند الطلب.

