BroadRouter
ابدأ الآن

الاستدلال بلا خوادم (Serverless inference)

آخر تحديث

الاستدلال بلا خوادم طريقة لتشغيل نماذج تعلّم الآلة تبدأ فيها المنصة موارد الحوسبة خلف نقطة النهاية وتوسّعها وتوقفها تلقائيًا، وغالبًا حتى الصفر عند الخمول، وتحاسبك على الاستخدام لا على أجهزة محجوزة. والثمن هو احتمال تأخير البدء البارد.

يُسمّى أيضًا: serverless، الاستدلال دون خادم، نقطة نهاية بلا خوادم، التوسع إلى الصفر، serverless LLM، serverless model endpoint، scale to zero، serverless GPU inference

«بلا خوادم» لا يعني أنه لا توجد خوادم. بل يعني أنك لا تراها أبدًا، وأنك تتوقف عن الدفع حين تتوقف عن إرسال الطلبات.

كيف يعمل

يقدّم دليل SageMaker من AWS نسخة مرجعية واضحة. فنقاط النهاية بلا خوادم “automatically launch compute resources and scale them in and out depending on traffic” (ترجمة: تُطلق موارد الحوسبة تلقائيًا وتوسّعها وتقلّصها بحسب حركة الطلبات)، وحين لا توجد طلبات فإن الخدمة “scales your endpoint down to 0” (ترجمة: تقلّص نقطة النهاية إلى الصفر). وتدفع حسب الاستخدام لا حسب المثيل (instance).

ثمن التقلّص إلى الصفر هو البدء البارد. فإذا كانت نقطة النهاية خاملة ووصل طلب، “it can take some time for your endpoint to spin up the compute resources” (ترجمة: قد يستغرق الأمر بعض الوقت حتى تشغّل نقطة النهاية موارد الحوسبة). وفي نماذج اللغة الكبيرة، يزيد تحميل عشرات الغيغابايتات من الأوزان هذا التأخير. والحل المعتاد هو الدفع لإبقاء بعض السعة جاهزة؛ تسمّي AWS ذلك provisioned concurrency وتحاسب عليه بحسب الذاكرة والمدة ومستوى التزامن.

تختلف الميزات من منصة لأخرى. فقائمة AWS نفسها للميزات غير المدعومة في SageMaker Serverless Inference تشمل وحدات GPU، ولذلك تأتي الاستضافة بلا خوادم لنماذج بحجم LLM عادةً من منصات أخرى. وتصف Hugging Face خدمة Inference Providers بأنها طريقة لاستخدام “serverless inference of models” (ترجمة: الاستدلال بلا خوادم للنماذج) عبر عدة مزوّدين برمز وصول واحد.

لماذا يهم

نقطة نهاية بلا خوادم GPU مستأجرة (ساعة GPU) واجهة مشتركة بالدفع لكل رمز
تدفع وقت الخمول لا (إلا إذا أبقيتها جاهزة) نعم لا
البدء البارد ممكن لا، بعد التشغيل نادر للنماذج المُدرجة
نموذجك الخاص نعم نعم فقط ما يُدرجه المزوّد
عمل التوسيع على المنصة عليك على المزوّد

يناسب الاستدلال بلا خوادم حركة الطلبات المتقطعة أو القليلة مع نموذجك الخاص. أما الحمل الثقيل الثابت فعادةً ما يكون أقل تكلفة على عتاد محجوز. ويظهر البدء البارد في الذيل الطويل لزمن الاستجابة، لا في المتوسط، فتحقق من p95.

في BroadNet Inference

لا تصف BroadNet واجهتها بأنها بلا خوادم، ولا يذكر توثيقها شيئًا عن البدء البارد. لكن مفاتيح الدفع حسب الاستخدام لديها تشترك عمليًا في سمات الخدمات بلا خوادم التي تهم المستدعي: لا مثيل تختاره، ولا شيء توسّعه، والمحاسبة لكل رمز أو لكل دقيقة صوت. والحدود لكل مفتاح، 30 طلب في الدقيقة و4 قيد التنفيذ، لا لكل جهاز. ولا يمكنك استدعاء إلا النماذج التي تُدرجها BroadNet، مثل Qwen3.8 27B؛ أما نقاط النهاية الخاصة والنماذج الأخرى فعند الطلب. وتجربة أول طلب باستخدام curl تستغرق دقيقة.

أسئلة شائعة

ما هو البدء البارد في الاستدلال بلا خوادم؟

هو التأخير الذي يحدث حين تتلقى نقطة نهاية قلّصت مواردها طلبًا، فتضطر أولًا إلى تشغيل الحوسبة وتحميل النموذج. يصفه توثيق SageMaker من AWS، ويقدّم provisioned concurrency لإبقاء سعة جاهزة مقابل رسوم.

هل واجهة LLM API التي تحاسب لكل رمز هي خدمة بلا خوادم؟

من جهة المستدعي، نعم في الغالب. ترسل الطلبات وتدفع لكل رمز ولا تدير أي خوادم. والفرق أن الواجهة المشتركة تُبقي النماذج الشائعة محمّلة لعملاء كثيرين، فلا تنتظر عادةً بدء تشغيل نموذجك أنت.

هل الاستدلال بلا خوادم أرخص من وحدة GPU مخصصة؟

لحركة الطلبات المتقطعة أو القليلة، غالبًا نعم، لأنك تتوقف عن الدفع عند الخمول. أما للحمل الثقيل الثابت، فكثيرًا ما تكون GPU المحجوزة أقل تكلفة لكل طلب. قارن نمط حركة طلباتك بالسعرين.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity