BroadRouter
ابدأ الآن

تسجيل استخدام LLM API: التكلفة لكل مستخدم وميزة وحجب البيانات

بقلم فريق BroadNet Inference · قراءة في 4 دقائق · تاريخ النشر

أحِط كل استدعاء لـ LLM بدالة واحدة تسجّل النموذج، والميزة، ومعرّف المستخدم مُجزّأً، ورموز الأمر والمخزَّنة مؤقتًا والاستدلال المنطقي والإخراج، والتكلفة، وزمن الاستجابة، والحالة، ومعرّف الطلب لدى المزوّد. احسب التكلفة من جدول أسعار، لا من الفاتورة. سجّل البيانات الوصفية افتراضيًا؛ وإن اضطررت للاحتفاظ بنص الأمر، فاحجب بياناته الشخصية قبل الكتابة واجعل مدة الاحتفاظ قصيرة.

تخبرك لوحات تحكم المزوّدين بما أنفقته. لكنها نادرًا ما تخبرك أي ميزة أو أي عميل أنفقه، ولا تستطيع أن تخبرك لماذا قفزت الفاتورة يوم الثلاثاء. أما سجلّ الاستخدام الخاص بك فيستطيع. يعرض هذا المقال مخطط السجل، ودالة إحاطة تملؤه، وكيف تحسب تكلفة كل استدعاء، وكيف تُبقي البيانات الشخصية خارجه. أما ما تفعله بالأرقام فمشروح في مواضع أخرى: التكلفة لكل مستخدم وتسعير SaaS والميزانيات وحراس الحلقات.

ماذا تسجّل لكل استدعاء لـ LLM؟

صف واحد لكل محاولة، بما في ذلك إعادة المحاولات:

الحقل مثال السبب
ts 2026-11-14T09:12:03Z السلاسل الزمنية، والجداول الزمنية للحوادث
feature support_reply التكلفة لكل ميزة
user_hash hmac:4f1c… التكلفة لكل مستخدم دون تخزين هويته
tenant acme التكلفة لكل عميل في تطبيقات B2B
model broadnet/deepseek-v4.1-flash البحث عن السعر، والمقارنة بين النماذج
prompt_tokens 18,240 تكلفة المدخلات
cached_tokens 16,384 المدخلات المخزَّنة مؤقتًا أرخص؛ تتبّع نسبة التخزين المؤقت
reasoning_tokens 612 تكلفة مخرجات مخفية في نماذج الاستدلال المنطقي
completion_tokens 1,104 تكلفة المخرجات (تشمل الاستدلال المنطقي)
cost_usd محسوبة الرقم الذي يطلبه قسم المالية
latency_ms، ttft_ms 4,210 / 690 تراجعات الأداء
status 200، 429، 503 معدلات الأخطاء وإعادة المحاولة
request_id قيمة X-Request-ID تذاكر الدعم ونزاعات الفواتير
prompt_version support-v14 يربط تغيّرات التكلفة بتغيّرات الأمر

لا نص للأمر، ولا نص للإجابة. فهذان يأتيان لاحقًا، ومع الحجب فقط.

كيف تحسب تكلفة كل استدعاء؟

اقرأ كتلة usage وسعّر كل نوع من الرموز على حدة. تنشر BroadNet أسعارًا مقروءة آليًا في pricing.json، بأسعار لكل مليون رمز للمدخلات والمدخلات المخزَّنة مؤقتًا والمخرجات لكل نموذج:

import json, urllib.request

PRICES = {m["id"]: m for m in json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))["models"]}

def call_cost(model: str, usage) -> float:
    p = PRICES[model]
    details = getattr(usage, "prompt_tokens_details", None)
    cached = (getattr(details, "cached_tokens", 0) or 0) if details else 0
    new_input = usage.prompt_tokens - cached
    return (
        new_input * (p.get("input_per_m") or 0)
        + cached * (p.get("cached_input_per_m") or p.get("input_per_m") or 0)
        + usage.completion_tokens * (p.get("output_per_m") or 0)
    ) / 1_000_000

خزّن ملف الأسعار مؤقتًا وحدّثه يوميًا بدلًا من جلبه مع كل استدعاء. وهناك خطآن سهلا الوقوع: تسعير الرموز المخزَّنة مؤقتًا كمدخلات جديدة (يضخّم التكلفة)، ونسيان أن رموز الاستدلال المنطقي مضمّنة أصلًا في completion_tokens (فلا تضفها مرتين).

كيف تبدو دالة الإحاطة للتسجيل؟

import hashlib, hmac, os, time, logging
from openai import OpenAI

log = logging.getLogger("llm.usage")
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
HASH_KEY = os.environ["USAGE_HASH_KEY"].encode()

def user_hash(user_id: str) -> str:
    return "hmac:" + hmac.new(HASH_KEY, user_id.encode(), hashlib.sha256).hexdigest()[:16]

def chat(*, feature: str, user_id: str, prompt_version: str, **kwargs):
    t0 = time.perf_counter()
    row = {"feature": feature, "user_hash": user_hash(user_id),
           "model": kwargs["model"], "prompt_version": prompt_version}
    try:
        raw = client.chat.completions.with_raw_response.create(**kwargs)
        resp = raw.parse()
        u = resp.usage
        d = getattr(u, "completion_tokens_details", None)
        row.update(
            status=200,
            request_id=raw.headers.get("x-request-id"),
            prompt_tokens=u.prompt_tokens,
            cached_tokens=getattr(getattr(u, "prompt_tokens_details", None), "cached_tokens", 0) or 0,
            reasoning_tokens=(getattr(d, "reasoning_tokens", 0) or 0) if d else 0,
            completion_tokens=u.completion_tokens,
            cost_usd=round(call_cost(kwargs["model"], u), 6),
        )
        return resp
    except Exception as e:
        row.update(status=getattr(e, "status_code", "error"),
                   request_id=getattr(getattr(e, "response", None), "headers", {}).get("x-request-id"))
        raise
    finally:
        row["latency_ms"] = int((time.perf_counter() - t0) * 1000)
        log.info("llm_call", extra={"llm": row})

يمنحك with_raw_response الترويسات، فتحتفظ بـ X-Request-ID. وللاستدعاءات المتدفقة، أضف stream_options={"include_usage": True} واملأ الصف من الجزء الأخير، كما يبيّن مقال التدفق عبر SSE. واحفظ HASH_KEY سريًا وثابتًا: فالمستخدم نفسه يُحوَّل دائمًا إلى القيمة المُجزّأة نفسها، لكن لا يمكن عكسها دون المفتاح.

كيف توزّع التكلفة على المستخدمين والميزات؟

مع الصفوف السابقة في أي مخزن SQL، يصبح التوزيع استعلامًا واحدًا:

SELECT feature, model,
       count(*)                          AS calls,
       sum(cost_usd)                     AS cost,
       sum(cached_tokens)::float / nullif(sum(prompt_tokens), 0) AS cache_rate,
       avg(completion_tokens)            AS avg_out
FROM llm_calls
WHERE ts >= now() - interval '7 days'
GROUP BY feature, model
ORDER BY cost DESC;

استبدل feature بـ user_hash أو tenant لحساب التكلفة لكل عميل. وثلاث متابعات تؤتي ثمارها سريعًا:

  1. أعلى 1% من المستخدمين تكلفةً. غالبًا حلقة واحدة أو روبوت. وانخفاض cache_rate هو الإنذار المبكر الآخر؛ وتُظهر حاسبة التخزين المؤقت للأوامر قيمة كل نقطة من نسبة التخزين المؤقت.
  2. التكلفة لكل نتيجة ناجحة، لا لكل استدعاء: اربطها بأحداث النجاح لديك.
  3. حصة إعادة المحاولات. تُظهر الصفوف ذات الحالة 429 أو 5xx كم تنفق على الإخفاقات؛ راجع التعامل مع أخطاء 429.

كيف تُبقي البيانات الشخصية خارج سجلات LLM؟

أكثر السجلات أمانًا هو الذي لا يحوي نص الأمر إطلاقًا. وحين تحتاج إلى النص، للتصحيح أو للتقييم، فاتبع هذه الخطوات بالترتيب:

  1. خذ عيّنة. احتفظ بالنص لنسبة صغيرة من الاستدعاءات وللإخفاقات، لا لكل شيء.
  2. احجب قبل الكتابة. شغّل الحجب في العملية التي تكتب السجل. فالحجب لاحقًا يعني أن النص الخام موجود أصلًا على القرص وفي النسخ الاحتياطية.
  3. ادمج طبقات من أدوات الكشف. التعابير النمطية للبيانات المنظَّمة، وأداة للتعرّف على الكيانات المسمّاة للأسماء والعناوين.
  4. خزّنها منفصلة. ضع النص في جدول أو حاوية تخزين مختلفة بصلاحيات وصول أشد ومدة احتفاظ قصيرة، مربوطة بـ request_id.
  5. لا تسجّل الأسرار أبدًا. تُدرج OWASP Logging Cheat Sheet رموز الوصول وكلمات المرور ومفاتيح التشفير ضمن البيانات التي يجب استبعادها؛ ومفتاح API ينتمي إلى تلك القائمة.

طبقة تعابير نمطية بسيطة:

import re
PATTERNS = [
    (re.compile(r"[\w.+-]+@[\w-]+\.[\w.-]+"), "[EMAIL]"),
    (re.compile(r"\+?\d[\d\s().-]{7,}\d"), "[PHONE]"),
    (re.compile(r"\b(?:\d[ -]?){13,19}\b"), "[CARD]"),
    (re.compile(r"\b(sk|key|bearer)[-_ ]?[A-Za-z0-9]{16,}\b", re.I), "[SECRET]"),
]
def redact(text: str) -> str:
    for pat, label in PATTERNS:
        text = pat.sub(label, text)
    return text

تلتقط هذه الطبقة الحالات الواضحة وتفوّت الأسماء والعناوين وأي شيء غير مألوف. ويضيف Microsoft Presidio التعرّف على الكيانات لهذه الحالات، ويقول ملف README الخاص به صراحة إنه لا ضمان بأنه سيجد كل المعلومات الحساسة. فخطّط للحالات الفائتة: مدة الاحتفاظ القصيرة والصلاحيات المحكمة تحدّان من الضرر حين يتسرّب شيء.

أين تناسب BroadNet Inference

تعيد BroadNet Inference كتلة usage مع الرموز المخزَّنة مؤقتًا ورموز الاستدلال المنطقي حين يُبلغ النموذج عنها، وX-Request-ID في كل استجابة، وملف أسعار عامًا يمكنك تحميله لحساب التكلفة. ومن جهتها، تُعالَج الأوامر والإجابات لأجل الطلب ولا يُحتفظ بها؛ ولا تحتفظ إلا بسجلات خالية من المحتوى مثل التوقيتات وأعداد الرموز والتكلفة (كيف يعمل عدم الاحتفاظ بالبيانات). وهذا يجعل سجلاتك أنت النسخة الوحيدة من أي نص أمر، فقواعد الحجب السابقة هي التي تحدّد مدة احتفاظك الفعلية. ولا تحوي طلبات المحادثة في BroadNet حقلًا للبيانات الوصفية لكل مستخدم، فالتوزيع يتم في دالة الإحاطة لديك. وللميزانيات المنفصلة لكل فريق، استخدم مفاتيح منفصلة؛ ويتناول دليل المفاتيح التسميات وقوائم السماح.

أسئلة شائعة

كيف أتتبّع تكلفة LLM API لكل مستخدم؟

وسِّم كل استدعاء بمعرّف للمستخدم، واقرأ كتلة usage من الاستجابة، واضرب أعداد الرموز في جدول أسعارك، واكتب صفًا واحدًا في السجل لكل استدعاء. ثم جمّع حسب وسم المستخدم. واستخدم معرّفًا مُجزّأً بدلًا من البريد الإلكتروني.

هل أسجّل الأوامر والإجابات كاملة؟

ليس افتراضيًا. فهي حيث تقيم البيانات الشخصية. سجّل أعداد الرموز والبيانات الوصفية لكل استدعاء، واحتفظ بالنص الكامل فقط لعيّنة من الاستدعاءات أو للاستدعاءات الفاشلة، بعد الحجب، ولمدة احتفاظ قصيرة.

لماذا تختلف التكلفة التي أحسبها عن فاتورة المزوّد؟

غالبًا لأن الرموز المخزَّنة مؤقتًا سُعّرت كمدخلات جديدة، أو لأن رموز الاستدلال المنطقي أُغفلت من المخرجات، أو لأن إعادة المحاولات لم تُسجَّل. سجّل كل محاولة، بما فيها المحاولات الفاشلة التي أعادت usage.

كيف أحصل على استهلاك الرموز من استجابة متدفقة؟

اضبط include_usage في stream_options على true. وعندها يحمل الجزء الأخير كتلة usage مع قائمة choices فارغة.

ما أداة حجب البيانات الشخصية التي أستخدمها لسجلات LLM؟

ابدأ بالتعابير النمطية للبيانات المنظَّمة مثل البريد الإلكتروني وأرقام الهواتف وأرقام البطاقات، وأضف أداة قائمة على التعرّف على الكيانات المسمّاة مثل Microsoft Presidio للأسماء والعناوين. ويقول ملف README الخاص بـ Presidio نفسه إنه لا يضمن العثور على كل شيء.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity