«بلا خوادم» لا يعني أنه لا توجد خوادم. بل يعني أنك لا تراها أبدًا، وأنك تتوقف عن الدفع حين تتوقف عن إرسال الطلبات.
كيف يعمل
يقدّم دليل SageMaker من AWS نسخة مرجعية واضحة. فنقاط النهاية بلا خوادم “automatically launch compute resources and scale them in and out depending on traffic” (ترجمة: تُطلق موارد الحوسبة تلقائيًا وتوسّعها وتقلّصها بحسب حركة الطلبات)، وحين لا توجد طلبات فإن الخدمة “scales your endpoint down to 0” (ترجمة: تقلّص نقطة النهاية إلى الصفر). وتدفع حسب الاستخدام لا حسب المثيل (instance).
ثمن التقلّص إلى الصفر هو البدء البارد. فإذا كانت نقطة النهاية خاملة ووصل طلب، “it can take some time for your endpoint to spin up the compute resources” (ترجمة: قد يستغرق الأمر بعض الوقت حتى تشغّل نقطة النهاية موارد الحوسبة). وفي نماذج اللغة الكبيرة، يزيد تحميل عشرات الغيغابايتات من الأوزان هذا التأخير. والحل المعتاد هو الدفع لإبقاء بعض السعة جاهزة؛ تسمّي AWS ذلك provisioned concurrency وتحاسب عليه بحسب الذاكرة والمدة ومستوى التزامن.
تختلف الميزات من منصة لأخرى. فقائمة AWS نفسها للميزات غير المدعومة في SageMaker Serverless Inference تشمل وحدات GPU، ولذلك تأتي الاستضافة بلا خوادم لنماذج بحجم LLM عادةً من منصات أخرى. وتصف Hugging Face خدمة Inference Providers بأنها طريقة لاستخدام “serverless inference of models” (ترجمة: الاستدلال بلا خوادم للنماذج) عبر عدة مزوّدين برمز وصول واحد.
لماذا يهم
| نقطة نهاية بلا خوادم | GPU مستأجرة (ساعة GPU) | واجهة مشتركة بالدفع لكل رمز | |
|---|---|---|---|
| تدفع وقت الخمول | لا (إلا إذا أبقيتها جاهزة) | نعم | لا |
| البدء البارد | ممكن | لا، بعد التشغيل | نادر للنماذج المُدرجة |
| نموذجك الخاص | نعم | نعم | فقط ما يُدرجه المزوّد |
| عمل التوسيع | على المنصة | عليك | على المزوّد |
يناسب الاستدلال بلا خوادم حركة الطلبات المتقطعة أو القليلة مع نموذجك الخاص. أما الحمل الثقيل الثابت فعادةً ما يكون أقل تكلفة على عتاد محجوز. ويظهر البدء البارد في الذيل الطويل لزمن الاستجابة، لا في المتوسط، فتحقق من p95.
في BroadNet Inference
لا تصف BroadNet واجهتها بأنها بلا خوادم، ولا يذكر توثيقها شيئًا عن البدء البارد. لكن مفاتيح الدفع حسب الاستخدام لديها تشترك عمليًا في سمات الخدمات بلا خوادم التي تهم المستدعي: لا مثيل تختاره، ولا شيء توسّعه، والمحاسبة لكل رمز أو لكل دقيقة صوت. والحدود لكل مفتاح، 30 طلب في الدقيقة و4 قيد التنفيذ، لا لكل جهاز. ولا يمكنك استدعاء إلا النماذج التي تُدرجها BroadNet، مثل Qwen3.8 27B؛ أما نقاط النهاية الخاصة والنماذج الأخرى فعند الطلب. وتجربة أول طلب باستخدام curl تستغرق دقيقة.