تخبرك لوحات تحكم المزوّدين بما أنفقته. لكنها نادرًا ما تخبرك أي ميزة أو أي عميل أنفقه، ولا تستطيع أن تخبرك لماذا قفزت الفاتورة يوم الثلاثاء. أما سجلّ الاستخدام الخاص بك فيستطيع. يعرض هذا المقال مخطط السجل، ودالة إحاطة تملؤه، وكيف تحسب تكلفة كل استدعاء، وكيف تُبقي البيانات الشخصية خارجه. أما ما تفعله بالأرقام فمشروح في مواضع أخرى: التكلفة لكل مستخدم وتسعير SaaS والميزانيات وحراس الحلقات.
ماذا تسجّل لكل استدعاء لـ LLM؟
صف واحد لكل محاولة، بما في ذلك إعادة المحاولات:
| الحقل | مثال | السبب |
|---|---|---|
ts |
2026-11-14T09:12:03Z | السلاسل الزمنية، والجداول الزمنية للحوادث |
feature |
support_reply |
التكلفة لكل ميزة |
user_hash |
hmac:4f1c… |
التكلفة لكل مستخدم دون تخزين هويته |
tenant |
acme |
التكلفة لكل عميل في تطبيقات B2B |
model |
broadnet/deepseek-v4.1-flash | البحث عن السعر، والمقارنة بين النماذج |
prompt_tokens |
18,240 | تكلفة المدخلات |
cached_tokens |
16,384 | المدخلات المخزَّنة مؤقتًا أرخص؛ تتبّع نسبة التخزين المؤقت |
reasoning_tokens |
612 | تكلفة مخرجات مخفية في نماذج الاستدلال المنطقي |
completion_tokens |
1,104 | تكلفة المخرجات (تشمل الاستدلال المنطقي) |
cost_usd |
محسوبة | الرقم الذي يطلبه قسم المالية |
latency_ms، ttft_ms |
4,210 / 690 | تراجعات الأداء |
status |
200، 429، 503 | معدلات الأخطاء وإعادة المحاولة |
request_id |
قيمة X-Request-ID |
تذاكر الدعم ونزاعات الفواتير |
prompt_version |
support-v14 |
يربط تغيّرات التكلفة بتغيّرات الأمر |
لا نص للأمر، ولا نص للإجابة. فهذان يأتيان لاحقًا، ومع الحجب فقط.
كيف تحسب تكلفة كل استدعاء؟
اقرأ كتلة usage وسعّر كل نوع من الرموز على حدة. تنشر BroadNet أسعارًا مقروءة آليًا في pricing.json، بأسعار لكل مليون رمز للمدخلات والمدخلات المخزَّنة مؤقتًا والمخرجات لكل نموذج:
import json, urllib.request
PRICES = {m["id"]: m for m in json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))["models"]}
def call_cost(model: str, usage) -> float:
p = PRICES[model]
details = getattr(usage, "prompt_tokens_details", None)
cached = (getattr(details, "cached_tokens", 0) or 0) if details else 0
new_input = usage.prompt_tokens - cached
return (
new_input * (p.get("input_per_m") or 0)
+ cached * (p.get("cached_input_per_m") or p.get("input_per_m") or 0)
+ usage.completion_tokens * (p.get("output_per_m") or 0)
) / 1_000_000
خزّن ملف الأسعار مؤقتًا وحدّثه يوميًا بدلًا من جلبه مع كل استدعاء. وهناك خطآن سهلا الوقوع: تسعير الرموز المخزَّنة مؤقتًا كمدخلات جديدة (يضخّم التكلفة)، ونسيان أن رموز الاستدلال المنطقي مضمّنة أصلًا في completion_tokens (فلا تضفها مرتين).
كيف تبدو دالة الإحاطة للتسجيل؟
import hashlib, hmac, os, time, logging
from openai import OpenAI
log = logging.getLogger("llm.usage")
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
HASH_KEY = os.environ["USAGE_HASH_KEY"].encode()
def user_hash(user_id: str) -> str:
return "hmac:" + hmac.new(HASH_KEY, user_id.encode(), hashlib.sha256).hexdigest()[:16]
def chat(*, feature: str, user_id: str, prompt_version: str, **kwargs):
t0 = time.perf_counter()
row = {"feature": feature, "user_hash": user_hash(user_id),
"model": kwargs["model"], "prompt_version": prompt_version}
try:
raw = client.chat.completions.with_raw_response.create(**kwargs)
resp = raw.parse()
u = resp.usage
d = getattr(u, "completion_tokens_details", None)
row.update(
status=200,
request_id=raw.headers.get("x-request-id"),
prompt_tokens=u.prompt_tokens,
cached_tokens=getattr(getattr(u, "prompt_tokens_details", None), "cached_tokens", 0) or 0,
reasoning_tokens=(getattr(d, "reasoning_tokens", 0) or 0) if d else 0,
completion_tokens=u.completion_tokens,
cost_usd=round(call_cost(kwargs["model"], u), 6),
)
return resp
except Exception as e:
row.update(status=getattr(e, "status_code", "error"),
request_id=getattr(getattr(e, "response", None), "headers", {}).get("x-request-id"))
raise
finally:
row["latency_ms"] = int((time.perf_counter() - t0) * 1000)
log.info("llm_call", extra={"llm": row})
يمنحك with_raw_response الترويسات، فتحتفظ بـ X-Request-ID. وللاستدعاءات المتدفقة، أضف stream_options={"include_usage": True} واملأ الصف من الجزء الأخير، كما يبيّن مقال التدفق عبر SSE. واحفظ HASH_KEY سريًا وثابتًا: فالمستخدم نفسه يُحوَّل دائمًا إلى القيمة المُجزّأة نفسها، لكن لا يمكن عكسها دون المفتاح.
كيف توزّع التكلفة على المستخدمين والميزات؟
مع الصفوف السابقة في أي مخزن SQL، يصبح التوزيع استعلامًا واحدًا:
SELECT feature, model,
count(*) AS calls,
sum(cost_usd) AS cost,
sum(cached_tokens)::float / nullif(sum(prompt_tokens), 0) AS cache_rate,
avg(completion_tokens) AS avg_out
FROM llm_calls
WHERE ts >= now() - interval '7 days'
GROUP BY feature, model
ORDER BY cost DESC;
استبدل feature بـ user_hash أو tenant لحساب التكلفة لكل عميل. وثلاث متابعات تؤتي ثمارها سريعًا:
- أعلى 1% من المستخدمين تكلفةً. غالبًا حلقة واحدة أو روبوت. وانخفاض
cache_rateهو الإنذار المبكر الآخر؛ وتُظهر حاسبة التخزين المؤقت للأوامر قيمة كل نقطة من نسبة التخزين المؤقت. - التكلفة لكل نتيجة ناجحة، لا لكل استدعاء: اربطها بأحداث النجاح لديك.
- حصة إعادة المحاولات. تُظهر الصفوف ذات الحالة 429 أو 5xx كم تنفق على الإخفاقات؛ راجع التعامل مع أخطاء 429.
كيف تُبقي البيانات الشخصية خارج سجلات LLM؟
أكثر السجلات أمانًا هو الذي لا يحوي نص الأمر إطلاقًا. وحين تحتاج إلى النص، للتصحيح أو للتقييم، فاتبع هذه الخطوات بالترتيب:
- خذ عيّنة. احتفظ بالنص لنسبة صغيرة من الاستدعاءات وللإخفاقات، لا لكل شيء.
- احجب قبل الكتابة. شغّل الحجب في العملية التي تكتب السجل. فالحجب لاحقًا يعني أن النص الخام موجود أصلًا على القرص وفي النسخ الاحتياطية.
- ادمج طبقات من أدوات الكشف. التعابير النمطية للبيانات المنظَّمة، وأداة للتعرّف على الكيانات المسمّاة للأسماء والعناوين.
- خزّنها منفصلة. ضع النص في جدول أو حاوية تخزين مختلفة بصلاحيات وصول أشد ومدة احتفاظ قصيرة، مربوطة بـ
request_id. - لا تسجّل الأسرار أبدًا. تُدرج OWASP Logging Cheat Sheet رموز الوصول وكلمات المرور ومفاتيح التشفير ضمن البيانات التي يجب استبعادها؛ ومفتاح API ينتمي إلى تلك القائمة.
طبقة تعابير نمطية بسيطة:
import re
PATTERNS = [
(re.compile(r"[\w.+-]+@[\w-]+\.[\w.-]+"), "[EMAIL]"),
(re.compile(r"\+?\d[\d\s().-]{7,}\d"), "[PHONE]"),
(re.compile(r"\b(?:\d[ -]?){13,19}\b"), "[CARD]"),
(re.compile(r"\b(sk|key|bearer)[-_ ]?[A-Za-z0-9]{16,}\b", re.I), "[SECRET]"),
]
def redact(text: str) -> str:
for pat, label in PATTERNS:
text = pat.sub(label, text)
return text
تلتقط هذه الطبقة الحالات الواضحة وتفوّت الأسماء والعناوين وأي شيء غير مألوف. ويضيف Microsoft Presidio التعرّف على الكيانات لهذه الحالات، ويقول ملف README الخاص به صراحة إنه لا ضمان بأنه سيجد كل المعلومات الحساسة. فخطّط للحالات الفائتة: مدة الاحتفاظ القصيرة والصلاحيات المحكمة تحدّان من الضرر حين يتسرّب شيء.
أين تناسب BroadNet Inference
تعيد BroadNet Inference كتلة usage مع الرموز المخزَّنة مؤقتًا ورموز الاستدلال المنطقي حين يُبلغ النموذج عنها، وX-Request-ID في كل استجابة، وملف أسعار عامًا يمكنك تحميله لحساب التكلفة. ومن جهتها، تُعالَج الأوامر والإجابات لأجل الطلب ولا يُحتفظ بها؛ ولا تحتفظ إلا بسجلات خالية من المحتوى مثل التوقيتات وأعداد الرموز والتكلفة (كيف يعمل عدم الاحتفاظ بالبيانات). وهذا يجعل سجلاتك أنت النسخة الوحيدة من أي نص أمر، فقواعد الحجب السابقة هي التي تحدّد مدة احتفاظك الفعلية. ولا تحوي طلبات المحادثة في BroadNet حقلًا للبيانات الوصفية لكل مستخدم، فالتوزيع يتم في دالة الإحاطة لديك. وللميزانيات المنفصلة لكل فريق، استخدم مفاتيح منفصلة؛ ويتناول دليل المفاتيح التسميات وقوائم السماح.
