عبارة “نحتاج إلى نقطة نهاية مخصصة” بداية محادثة، لا مواصفات. فالمزوّد لا يستطيع تحديد حجم السعة ولا مكانها ولا سعرها دون أرقامك، وأنت لا تستطيع تقييم إجابته دونها أيضًا. يسرد هذا المقال ما ينبغي تحديده قبل أن تطلب، بمثال محسوب لاستخراج بيانات الفواتير، وينتهي بسكربت يتحقق من نقطة النهاية التي تُسلَّم لك.
وهو ينطبق على أي مزوّد. وحيث يصف عرض BroadNet، يلتزم بما تقوله BroadNet علنًا، كما تحقّقنا منه في 15 نوفمبر 2026. وأي شيء أبعد من ذلك سؤال يوجَّه إلى BroadNet.
متى تكون نقطة النهاية الخاصة منطقية؟
غالبًا لأحد أربعة أسباب:
- حركة بيانات تتجاوز حدود الخدمة الذاتية. ينشر المرجع التقني لواجهة BroadNet حدًا قدره 30 طلبًا في الدقيقة و4 طلبات قيد التنفيذ لمفتاح الدفع حسب الاستخدام. وحجم العمل الثابت الذي يتجاوز ذلك مسألة سعة، لا مسألة إعادة محاولة. (ويتناول التعامل مع أخطاء 429 الدفعات القصيرة.)
- نموذج غير موجود في القائمة العامة. يوسم كتالوج BroadNet بعض النماذج بأنها “available on request” (الترجمة: متاحة عند الطلب)، منها Qwen3-VL 30B-A3B وQwen3-VL 8B ونسخة مضبوطة من BroadNet لـ Cohere Transcribe Arabic. ويشرح مقال قراءة كتالوج النماذج الفرق.
- موقع معالجة يجب أن تتحكم فيه. قد تتطلب قواعد إقامة البيانات، مثل تلك الواردة في قائمة تحقق نظامَي حماية البيانات الشخصية في السعودية والإمارات، منطقة اتفقت عليها كتابيًا.
- زمن استجابة متوقَّع. السعة المشتركة تتفاوت مع حمل المستخدمين الآخرين. والسعة المحجوزة تزيل هذا المتغيّر، لكنها لا تزيل بُعد الشبكة ولا أحجام أوامرك أنت.
إذا لم ينطبق أيٌّ من ذلك، فمفتاح الخدمة الذاتية أبسط. وإذا كان حجمك كبيرًا جدًا وثابتًا، فقارنه بتشغيل النموذج بنفسك: ففي مقال الاستضافة الذاتية مقابل تكلفة API الطريقة.
ما الذي تحدّده عن حجم العمل؟
اكتب ملخصًا من صفحة واحدة. هذه هي الأرقام التي يحتاجها المزوّد:
| البند | ما تدوّنه | مثال |
|---|---|---|
| المهمة | ما يفعله النموذج، في جملة واحدة | قراءة صور الفواتير وإعادة حقول JSON |
| الحجم | الطلبات يوميًا، والحصة في أكثر ساعة ازدحامًا | 40,000 يوميًا، 15% منها في ساعة الذروة |
| الرموز | متوسط رموز المدخلات والمخرجات والمئين الخامس والتسعون | 1,800 داخلة (صورة صفحة واحدة + الأمر)، و350 خارجة |
| السياق | أكبر طلب منفرد، الأمر مع الإجابة | 4,000 رمز |
| زمن الاستجابة | الزمن المقبول حتى أول رمز وحتى الإجابة الكاملة | الإجابة الكاملة خلال 10 ثوانٍ |
| التدفق | مطلوب أم لا | غير مطلوب (معالجة دفعية) |
| المدخلات | نص أو صور أو صوت؛ الصيغ والأحجام | JPEG وPNG، صفحة واحدة لكل منها |
| اللغات | أيها، وحصة كل منها | العربية والإنجليزية، 60/40 |
| النمو | الحجم المتوقع بعد 6 و12 شهرًا | الضعف خلال 12 شهرًا |
قِس أعداد الرموز على عيّنات حقيقية، لا بالتخمين. فالعربية تحتاج غالبًا إلى رموز أكثر من الإنجليزية للنص نفسه؛ ويُظهر عدّاد الرموز العربية والتكلفة الفعلية حسب اللغة بأي قدر على مُرمِّزات مختلفة. وللصور، تعطي حاسبة رموز الصور تقديرًا أوليًا.
كيف تحوّل الحجم إلى رموز في الثانية وتزامن؟
الطلبات في الثانية في الذروة هي حجم أكثر ساعة ازدحامًا مقسومًا على 3,600. أما التزامن، أي عدد الطلبات قيد التنفيذ في وقت واحد، فيُستنتج من قانون Little: متوسط العدد داخل النظام يساوي معدل الوصول مضروبًا في متوسط الزمن الذي يقضيه كل عنصر فيه. وفي حالة API، هذا يساوي الطلبات في الثانية × الثواني لكل طلب.
import math
def size(requests_per_day: int, peak_share_of_day_in_busiest_hour: float,
in_tokens: int, out_tokens: int, out_tok_per_s_per_stream: float) -> dict:
"""Rough peak numbers to put in a capacity enquiry. Measure your own inputs; these are not provider specs."""
peak_rps = requests_per_day * peak_share_of_day_in_busiest_hour / 3600
seconds_per_request = out_tokens / out_tok_per_s_per_stream # ignores queueing and prompt time
concurrency = peak_rps * seconds_per_request # Little's law: L = λ × W
return {
"peak_requests_per_second": round(peak_rps, 2),
"seconds_per_request": round(seconds_per_request, 1),
"concurrent_requests_at_peak": math.ceil(concurrency),
"peak_input_tokens_per_second": round(peak_rps * in_tokens),
"peak_output_tokens_per_second": round(peak_rps * out_tokens),
"monthly_tokens_millions": round(requests_per_day * 30 * (in_tokens + out_tokens) / 1e6, 1),
}
# 40,000 invoice extractions a day, 15% of them in the busiest hour,
# 1,800 tokens in, 350 out, 60 tokens/s per stream measured on a trial.
print(size(40_000, 0.15, 1_800, 350, 60))
طبع السكربت 1.67 طلب في الثانية في الذروة، ونحو 5.8 ثانية لكل طلب، و10 طلبات متزامنة، و3,000 رمز إدخال و583 رمز إخراج في الثانية، و2,580 مليون رمز في الشهر. وقيمة 60 رمزًا في الثانية افتراض لأغراض المثال؛ فقِس قيمتك أنت على النموذج الذي ستستخدمه، لأن السرعة تتفاوت حسب النموذج وطول الأمر والحمل. ويشرح مقال زمن الاستجابة وTTFT والإنتاجية ما ينبغي توقيته.
تنبيهان. تتجاهل المعادلة زمن معالجة الأمر، فالأوامر الطويلة أو الصور الكبيرة تجعل الطلبات الفعلية أبطأ وترفع التزامن. والمتوسطات تخفي الدفعات المفاجئة: فأعطِ المزوّد حجم الطلب عند المئين الخامس والتسعين وملفًا قصيرًا للدفعات، لا المتوسط فقط. وذروة هذا المثال (نحو 100 طلب في الدقيقة و10 قيد التنفيذ) أعلى بكثير من حدود الخدمة الذاتية المنشورة لمفتاح دفع حسب الاستخدام واحد، وهذا تحديدًا هو الوقت الذي تستحق فيه محادثة السعة أن تُجرى.
ماذا عن المنطقة وإقامة البيانات والحدود؟
اتفق عليها صراحة، وكتابيًا، قبل نقل أي بيانات خاضعة للتنظيم. تقول شروط BroadNet (البند 7.3a): “Contact us to agree processing locations for your deployment before sending data with residency requirements,” (الترجمة: تواصل معنا للاتفاق على مواقع المعالجة لنشرك قبل إرسال بيانات لها متطلبات إقامة)، وتذكر أن المعالجة لدى الشركاء المستضيفين والمعالجة الاحتياطية تشمل جهات معالجة أخرى، مع قائمة حالية بالمعالجين الفرعيين متاحة للعملاء عند الطلب. ويقول بيان الخصوصية لديها إن نماذج BroadNet الخاصة ونماذج الأوزان المفتوحة التي تستضيفها تعمل على عتاد تملكه BroadNet أو تستأجره في الولايات المتحدة، مع سعة لدى الشركاء كاحتياط، وتقول صفحة النظرة العامة إن المعالجة الإقليمية في منطقة الشرق الأوسط وشمال أفريقيا أو أوروبا متاحة عند الطلب.
فالأسئلة التي توجّهها لأي مزوّد هي:
- أي منطقة تعالج الطلبات، وأي منطقة تحوي السعة الاحتياطية؟
- أي معالجين فرعيين يمكنهم الوصول إلى حركة البيانات، بما في ذلك عند التحويل الاحتياطي أو الفائض؟
- ما حدود المعدّل والتزامن والرموز لنقطة النهاية، وماذا يحدث عند تجاوزها؟
- ما شروط التوافرية والدعم المطبّقة، وأين هي مكتوبة؟ تقول شروط BroadNet (البند 7.4) إن الخدمة الذاتية بلا التزام بالتوافرية، وإن نقاط النهاية الخاصة والسعة المحجوزة تخضع لاتفاقيتك المكتوبة المنفصلة. ولترى ما تغطيه اتفاقيات مستوى الخدمة المكتوبة لدى مزوّدين آخرين، اقرأ مقارنة اتفاقيات مستوى الخدمة في LLM API.
- ما الذي يُحتفظ به؟ الموقف المنشور لواجهة الاستدلال في BroadNet هو: لا يُحتفظ بمحتوى الاستدلال؛ ويُحتفظ ببيانات الحساب والفوترة والأمان الوصفية الضرورية كما يوضّح بيان الخصوصية. تأكّد من أن الأمر نفسه ينطبق على نقطة النهاية الخاصة بك.
أي نموذج، وبأي ترخيص؟
سمِّ النموذج وإصداره بالضبط، وتحقّق من أن ترخيصه يسمح باستخدامك وبتقديمه عبر API. تذكر صفحات نماذج BroadNet ترخيص Apache-2.0 لـ Gemma 4 26B وQwen3-VL 30B-A3B والأوزان الأساسية لـ Cohere Transcribe، والنسخة المضبوطة من BroadNet لـ Cohere Transcribe Arabic بأنها “under contract” (الترجمة: بموجب عقد). وتقول شروطها إن النماذج تخضع لتراخيصها، وإن ترخيص DeepSeek V4.1 Flash يظل ساريًا حين يستضيفه شريك.
واتفق أيضًا على نافذة السياق. فحدود السياق تعتمد على النموذج وعلى طريقة النشر، لا على الحد الأقصى للنموذج الأساسي فقط: إذ تُدرج BroadNet سياقًا من 32K رمز لـ Gemma 4 VL 26B على واجهتها العامة، و16K لـ Qwen3-VL 30B-A3B المتاح عند الطلب. استخدم حاسبة نافذة السياق مع أكبر طلب لديك، لا مع متوسط طلباتك.
كيف تضع الميزانية؟
لا تنشر BroadNet سعرًا لنقاط النهاية الخاصة؛ إذ تقول صفحة النظرة العامة: “Reserved GPU, priced to your traffic. Ask for a quote.” (الترجمة: GPU محجوزة، مسعّرة وفق حركة بياناتك. اطلب عرض سعر.) فضع سقفك أنت أولًا. سعّر حجم العمل نفسه على الخدمة الذاتية بـ حاسبة تكلفة LLM API، باستخدام عدد الرموز الشهري من سكربت التقدير، وقرّر كم تساوي لديك فوق ذلك السعةُ المتوقَّعة، أو المنطقةُ المحددة، أو النموذجُ غير العام. فعرض السعر الأقل من رقم الخدمة الذاتية مكسب إضافي؛ أما العرض الأعلى منه بكثير فيحتاج إلى مبرر من قائمة متطلباتك.
كيف ترسل الاستفسار؟
يقول المرجع التقني لواجهة BroadNet: “Private endpoints, our Arabic fine-tunes and other models on request are reached with a private ID issued with the endpoint.” (الترجمة: يُوصل إلى نقاط النهاية الخاصة ونماذجنا العربية المضبوطة والنماذج الأخرى المتاحة عند الطلب بمعرّف خاص يُصدر مع نقطة النهاية.) وتطلب صفحة النظرة العامة “your model, languages and traffic requirements” (الترجمة: نموذجك ولغاتك ومتطلبات حركة بياناتك). أرسل ملخصك ذا الصفحة الواحدة عبر صفحة التواصل، دون مفاتيح API أو بيانات عملاء. وضمّنه مخرجات التقدير، والمنطقة، والنموذج وترخيصه، وهدف زمن الاستجابة، وسقف ميزانيتك، وجدولك الزمني.
كيف تتحقق من نقطة النهاية التي تُسلَّم لك؟
قبل حركة بيانات الإنتاج، اختبر نقطة النهاية مقابل ما اتُّفق عليه. يستخدم هذا السكربت مكتبة Python القياسية فقط. ويتحقق من أن معرّف النموذج الخاص يعمل، وأن التدفق ينتهي بالعلامة data: [DONE] التي تصفها وثائق BroadNet، وأن التزامن المتفق عليه يعمل دون أخطاء 429، وأن معرّف نموذج خاطئًا يُرفض.
import json, os, sys, time, urllib.error, urllib.request
from concurrent.futures import ThreadPoolExecutor
BASE = os.environ["ENDPOINT_BASE_URL"].rstrip("/") # from your agreement, e.g. https://.../v1
KEY = os.environ["ENDPOINT_API_KEY"]
MODEL = os.environ["ENDPOINT_MODEL_ID"] # the private ID issued with the endpoint
AGREED_CONCURRENCY = int(os.environ.get("AGREED_CONCURRENCY", "4"))
def post(payload: dict, stream=False):
req = urllib.request.Request(f"{BASE}/chat/completions", data=json.dumps(payload).encode(),
headers={"Authorization": f"Bearer {KEY}", "Content-Type": "application/json"})
t0 = time.monotonic()
try:
with urllib.request.urlopen(req, timeout=120) as r:
body = r.read().decode()
return r.status, r.headers.get("X-Request-ID"), body, time.monotonic() - t0
except urllib.error.HTTPError as e:
return e.code, e.headers.get("X-Request-ID"), e.read().decode(), time.monotonic() - t0
def main() -> int:
msg = [{"role": "user", "content": "Reply with the word OK."}]
results = {}
code, rid, body, secs = post({"model": MODEL, "messages": msg, "max_tokens": 1000})
ok = code == 200 and "usage" in json.loads(body)
results["model_id_accepted"] = (ok, f"HTTP {code}, request ID {rid}, {secs:.2f}s")
code, _, body, _ = post({"model": MODEL, "messages": msg, "stream": True,
"stream_options": {"include_usage": True}})
results["stream_ends_with_DONE"] = (code == 200 and body.rstrip().endswith("data: [DONE]"), f"HTTP {code}")
with ThreadPoolExecutor(AGREED_CONCURRENCY) as pool:
codes = list(pool.map(lambda _: post({"model": MODEL, "messages": msg, "max_tokens": 1000})[0],
range(AGREED_CONCURRENCY)))
results["agreed_concurrency_no_429"] = (all(c == 200 for c in codes), f"codes {sorted(codes)}")
code, _, _, _ = post({"model": MODEL + "-typo", "messages": msg})
results["unknown_model_rejected"] = (code in (400, 403, 404), f"HTTP {code}")
for name, (passed, note) in results.items():
print(f"{'PASS' if passed else 'FAIL'} {name}: {note}")
return 0 if all(p for p, _ in results.values()) else 1
if __name__ == "__main__":
sys.exit(main())
شغّلناه على خادم محاكاة محلي (لا نقطة نهاية حقيقية) يسمح بـ 8 طلبات قيد التنفيذ. ومع AGREED_CONCURRENCY=8 نجحت الفحوص الأربعة كلها. ومع 12، فشل فحص التزامن بثماني استجابات 200 وأربع 429، وهذه هي النتيجة التي تريد رؤيتها قبل الإطلاق لا بعده. وتترك max_tokens=1000 مساحة لنماذج الاستدلال المنطقي، التي تستهلك جزءًا من الميزانية قبل الإجابة.
بعد الاختبار السريع، أجرِ اختبار حمل قصيرًا عند الذروة التي قستها بأوامر بأحجام حقيقية، وسجّل زمن نقطة النهاية حتى أول رمز وزمن الإجابة الكاملة. واحتفظ بمعرّفات الطلبات؛ فوثائق BroadNet تطلب X-Request-ID والطابع الزمني والمسار والحالة في طلبات الدعم.
أين تناسب BroadNet Inference
BroadRouter هو موقع BroadNet نفسها. وتبيع BroadNet Inference وصولًا بالخدمة الذاتية إلى النماذج العامة بالرمز، وبدقيقة الصوت، وبخطط الجلسات، وبالمفاتيح بالساعة؛ والأسعار في صفحة الأسعار. أما نقاط النهاية الخاصة، والمعالجة الإقليمية، والنماذج المضبوطة، والنماذج الموسومة “on request” (عند الطلب)، فليست خدمة ذاتية: إنها استفسارات تقدّم BroadNet عروض أسعارها وتتفق عليها كتابيًا. ولا يستطيع هذا المقال أن يخبرك بما ستعرضه BroadNet لحجم عملك. والملخص الواضح هو طريقتك لمعرفة ذلك.
