معظم ما يرسله الوكيل إلى نموذج اللغة يتكرر في كل دور: أمر النظام، وتعريفات الأدوات، والملفات التي يعمل عليها، والمحادثة حتى الآن. وحدها الرسالة الأخيرة جديدة. والتخزين المؤقت للأوامر يعني ألّا يحتسب المزوّد ذلك الجزء المتكرر بالسعر الكامل.
ما رمز الإدخال المخزّن مؤقتًا؟
يتكوّن كل طلب من رموز إدخال ورموز إخراج. وقبل أن يجيب النموذج، يعالج الأمر كله. فإذا بدأ طلب سابق بالرموز نفسها تمامًا، يستطيع نظام التشغيل إعادة استخدام ذلك العمل بدل تكراره. ويُبلَّغ عن الجزء المُعاد استخدامه بوصفه رموز إدخال مخزّنة مؤقتًا، ويُحتسب بسعر أقل.
ويترتب على طريقة العمل هذه أمران:
- البادئة وحدها تُخزَّن مؤقتًا. يبدأ التطابق من الرمز الأول ويتوقف عند أول اختلاف.
- الإجابة لا تُخزَّن مؤقتًا أبدًا. يظل النموذج يولّد إخراجًا جديدًا، يُحتسب بسعر الإخراج الكامل.
كم تكلّف الرموز المخزّنة مؤقتًا في BroadNet Inference؟
لكل مليون رمز، من ملف الأسعار المنشور:
| النموذج | الإدخال الجديد | الإدخال المخزّن مؤقتًا | الإخراج |
|---|---|---|---|
| DeepSeek V4.1 Flash | $0.175 | $0.0055 | $0.52 |
| GLM 5.3 | $0.78 | $0.173 | $3.46 |
| Qwen3.8 27B | $0.175 | $0.0435 | $2.17 |
الفارق كبير في DeepSeek V4.1 Flash: قارن $0.0055 لكل مليون رمز مخزّن مؤقتًا بسعر $0.175 لكل مليون رمز جديد. وبالنسبة إلى وكيل يعيد إرسال مستودع من 200,000 رمز في كل دور، تحدد نسبة الإصابة في الذاكرة المؤقتة معظم الفاتورة.
كم يمكن أن يوفّر التخزين المؤقت؟ مثال محسوب
يرسل وكيل برمجة أمرًا من 200,000 رمز 100 مرة في يوم العمل. أي 20 مليون رمز إدخال يوميًا.
| نسبة الإصابة | رموز الإدخال الجديدة | رموز الإدخال المخزّنة مؤقتًا |
|---|---|---|
| 0% | 20M بسعر $0.175 لكل مليون | 0 |
| 50% | 10M بسعر $0.175 لكل مليون | 10M بسعر $0.0055 لكل مليون |
| 90% | 2M بسعر $0.175 لكل مليون | 18M بسعر $0.0055 لكل مليون |
معادلة فاتورة الإدخال اليومية هي new tokens (M) × input price + cached tokens (M) × cached price. عند 90%، يُحتسب 18M من رموز الإدخال البالغة 20M بالسعر المخزّن مؤقتًا بدل سعر الإدخال الكامل، لذا كلما اتسعت الفجوة بين السعرين، زاد ما توفّره من فاتورة الإدخال. ويبقى الإخراج كما هو. جرّب أرقامك في حاسبة التخزين المؤقت للأوامر.
كيف ترى الرموز المخزّنة مؤقتًا في استجابة API؟
يذكر المرجع التقني لواجهة BroadNet أن كائن usage يتضمن prompt_tokens_details.cached_tokens حين يبلّغ عنه النموذج: وهي رموز الأمر المقروءة من الذاكرة المؤقتة، وتُحتسب بالسعر المخزّن مؤقتًا. وفي البث المتدفق، اطلب بيانات الاستخدام في الجزء الأخير:
from openai import OpenAI
import os
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
messages = [
{"role": "system", "content": "You are a code reviewer."}, # stable prefix: keep it identical
{"role": "user", "content": "Review the diff below."},
]
stream = client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
messages=messages,
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.usage:
u = chunk.usage
cached = (u.prompt_tokens_details.cached_tokens if u.prompt_tokens_details else 0) or 0
print(f"prompt={u.prompt_tokens} cached={cached} rate={cached / max(1, u.prompt_tokens):.0%}")
سجّل تلك النسبة لكل طلب على مدى يوم. ستعرف منها ما تدفعه فعلًا، وهي الرقم الذي تُدخله في حاسبة التخزين المؤقت للأوامر. والمزيد عن بيانات الاستخدام في البث المتدفق في دليل البث المتدفق.
كيف يختلف التخزين المؤقت للأوامر بين OpenAI وAnthropic وDeepSeek؟
التخزين المؤقت غير موحّد. هذا ما قالته الوثائق الرسمية حين راجعناها في 14 نوفمبر 2026:
| OpenAI | Anthropic | DeepSeek (الواجهة المباشرة) | |
|---|---|---|---|
| التفعيل | افتراضيًا للنماذج المدعومة | بالاشتراك عبر الحقل cache_control (تلقائيًا أو لكل كتلة) |
افتراضيًا لجميع المستخدمين |
| الحد الأدنى للأمر | 1,024 رمزًا في GPT-5.6 وما بعده | من 512 إلى 4,096 رمزًا، حسب النموذج | لا حد أدنى مذكور |
| مدة بقاء الذاكرة المؤقتة | 30 دقيقة افتراضيًا في GPT-5.6 وما بعده؛ وخيار 12 ساعة | 5 دقائق افتراضيًا، وساعة واحدة بتكلفة إضافية | بأفضل جهد؛ تُمسح حين لا تُستخدم، “a few hours to a few days” (الترجمة: «من بضع ساعات إلى بضعة أيام») |
| الكتابة | 1.25× سعر الإدخال (30 دقيقة) أو 2.5× (12 ساعة) في GPT-5.6 وما بعده | 1.25× سعر الإدخال لمدة 5 دقائق، و2× لساعة واحدة | لا ذكر لرسوم كتابة |
| القراءة | 0.1× سعر الإدخال في GPT-5.6 وما بعده (0.05× في GPT-6.1 Sol وTerra) | 0.1× سعر الإدخال في معظم النماذج، وأقل في بعضها | سعر منفصل لـ “cache hit” (الإصابة في الذاكرة المؤقتة) |
| حقل الاستخدام | cached_tokens ضمن تفاصيل الرموز |
cache_read_input_tokens |
prompt_cache_hit_tokens |
المصادر: دليل التخزين المؤقت للأوامر من OpenAI، ووثائق التخزين المؤقت للأوامر من Anthropic، ووثائق التخزين المؤقت للسياق من DeepSeek. وحيث تكلّف الكتابة مبلغًا إضافيًا، فإن ذاكرة مؤقتة تُكتب ولا تُقرأ أبدًا تكلّف أكثر من عدم التخزين المؤقت إطلاقًا. التخزين المؤقت لا يؤتي ثماره إلا مع الأوامر التي تكررها فعلًا. ولمقارنة الأسعار المعلنة لكل نموذج، راجع جدول أسعار LLM API.
ما الذي يخفّض نسبة الإصابة لديك؟
تطابق الذاكرة المؤقتة بادئة مطابقة تمامًا، لذا فإن أي تغيير في بداية الأمر يجعل بقيته جديدة. الأسباب المعتادة:
- طابع زمني أو معرّف طلب أو اسم مستخدم قرب أعلى أمر النظام؛
- تعريفات أدوات أو JSON تُسلسَل بترتيب مفاتيح مختلف في كل استدعاء، مما يغيّر الرموز؛
- وكيل يعيد كتابة سجله أو يلخّصه بدل أن يضيف إليه؛
- فترات توقف طويلة تنتهي بعدها صلاحية الذاكرة المؤقتة.
الحل ترتيب ثابت للطبقات (أمر النظام، ثم الأدوات، ثم المستندات، ثم السجل، ثم الرسالة الجديدة)، مع إبقاء كل طبقة متطابقة بايتًا ببايت بين الاستدعاءات. ويشرح دليلنا كيف تبني الأوامر لتُخزَّن بادئتها مؤقتًا هذا الترتيب في الشيفرة، مع اختبار يثبت أن البادئة يُعاد استخدامها.
متى يفقد التخزين المؤقت أهميته؟
في الخطة الثابتة لا تعتمد الفاتورة على الرموز أصلًا. خطة البدر (Full Moon) بسعر $60 شهريًا لكل جلسة، مع استخدام غير محدود لنموذج DeepSeek V4.1 Flash. فإذا كان وكيلك قد تجاوز نقطة التعادل، لم تعد نسبة الإصابة مشكلة تكلفة. لكن العادات السابقة تظل تساعد في السرعة مع الأوامر الطويلة، فهي تستحق الإبقاء عليها في الحالتين.
لماذا تزداد أهمية التخزين المؤقت مع السياق الطويل؟
يقبل DeepSeek V4.1 Flash وGLM 5.3 ما يصل إلى 1,048,576 رمزًا في الطلب الواحد. والتخزين المؤقت هو ما يجعل الأوامر الطويلة جدًا معقولة التكلفة مع مفتاح الدفع لكل رمز، لأن الجزء الكبير المتكرر من نافذة السياق يُحتسب بالسعر المخزّن مؤقتًا. راجع متى تستحق نافذة سياق من مليون رمز.
أين تقع BroadNet Inference من هذا؟
تنشر BroadNet سعرًا للإدخال المخزّن مؤقتًا لكل نموذج محادثة له هذا السعر، وتبلّغ عن الرموز المخزّنة مؤقتًا في بيانات الاستخدام حين يبلّغ عنها النموذج، فتستطيع قياس نسبتك قبل أن تلتزم. لكنها لا تنشر مدة بقاء الذاكرة المؤقتة ولا الحد الأدنى لطول الأمر، لذا قِس هذين على حركة طلباتك الفعلية. وإذا كان وكيلك يعمل طوال اليوم، فإن الخطة الثابتة تُسقط هذا السؤال كليًا.
