BroadRouter
ابدأ الآن

كيف تشغّل وكلاء برمجة متوازيين على LLM API بسعر ثابت

بقلم فريق BroadNet Inference · قراءة في 5 دقائق · تاريخ النشر · آخر تحديث

امنح كل وكيل يعمل في الوقت نفسه جلسة خطة خاصة به. تشغّل الجلسة طلبًا واحدًا في كل مرة دون عدّاد للرموز، لذا يحتاج منسّق مع ثلاثة وكلاء فرعيين إلى أربع جلسات. وضع في شيفرتك سقفًا للطلبات قيد التنفيذ يطابق ذلك. يمكن لمفتاح واحد أن يحمل عدة جلسات، وكل جلسة على خطة البدر تكلّف $60 شهريًا.

انتقلت أطر الوكلاء من مساعد واحد إلى مساعدين كثيرين: منسّق يخطط، ووكلاء فرعيون يكتبون الشيفرة ويراجعونها ويشغّلون الاختبارات، وعمّال دفعات يعالجون قائمة أعمال متراكمة. على API تُحتسب لكل رمز (توكن)، يضيف كل واحد من هؤلاء إلى الفاتورة. أما على API بسعر ثابت فيصبح السؤال: كم جهة تستدعي النموذج في اللحظة نفسها؟

ماذا تغطي الجلسة بسعر ثابت؟

تبيع خطط BroadNet غير المحدودة جلسات. تشغّل الجلسة طلبًا واحدًا في كل مرة، مع رموز غير محدودة من DeepSeek V4.1 Flash ودون نافذة متجددة أو سقف أسبوعي. وهذا يطابق طريقة عمل الوكيل الواحد: يرسل طلبًا، ويقرأ الإجابة، ويشغّل أداة، ثم يرسل الطلب التالي.

الإعداد الطلبات قيد التنفيذ في الذروة الجلسات
وكيل برمجة واحد في طرفية واحدة 1 1
منسّق + 3 وكلاء فرعيين 4 4
10 عمّال دفعات 10 10
مطوّران، لكل منهما وكيل 2 2 (كلٌّ على حسابه الخاص)

كل جلسة من خطة البدر (Full Moon) بسعر $60 شهريًا. ويمكن لمفتاح واحد أن يحمل عدة جلسات، أو يمكنك توزيع جلسات الخطة على مفاتيحها، كمفتاح لكل خادم أو لكل مشروع، فلا يوقف المفتاح المسرّب أو الملغى إلا الوكلاء الذين يستخدمونه. والمفاتيح والحسابات شخصية: يمكنك بناء خطة داخل منتجك، لكن لا يمكنك مشاركة المفتاح أو إعادة بيعه. قواعد الجلسات كاملة.

كم جلسة يحتاج الوكلاء المتوازيون؟

يقضي الوكلاء وقتًا طويلًا دون استدعاء النموذج: يشغّلون الاختبارات، ويقرؤون الملفات، وينتظرون اكتمال البناء. وأربعة وكلاء فرعيين يستدعي كل منهم النموذج 40% من الوقت نادرًا ما يحتاجونه جميعًا في آن واحد. قبل أن تشتري أربع جلسات:

  1. سجّل وقت البدء والانتهاء لكل طلب يرسله إطارك إلى النموذج، لكل وكيل.
  2. عُدّ أكبر عدد من الطلبات المتداخلة في كل دقيقة.
  3. اشترِ جلسات للتداخل الذي تبلغه معظم الوقت، لا للذروة المطلقة، وضع الباقي في طابور داخل شيفرتك (انظر الـ semaphore أدناه). لا تذكر صفحات BroadNet هل ينتظر الطلب الزائد عن الحد أم يُرفض، فلا تدع الوكلاء يرسلونه دون ضابط.

مثلًا، إذا أظهرت سجلاتك طلبين قيد التنفيذ معظم الوقت وأربعة في دفقات قصيرة فقط، فقد يكون الإعداد الأرخص جلستين مع طابور من جهة العميل.

ويتولى سكربت قصير العدّ. بإعطائه قائمة من أوقات (start, end) بالثواني من سجلاتك:

from collections import Counter

def overlap_histogram(requests):
    events = sorted([(s, 1) for s, _ in requests] + [(e, -1) for _, e in requests])
    in_flight, last_t, seconds_at = 0, None, Counter()
    for t, delta in events:
        if last_t is not None:
            seconds_at[in_flight] += t - last_t
        in_flight += delta
        last_t = t
    return dict(sorted(seconds_at.items()))   # {requests in flight: seconds}

إذا أظهرت النتيجة أن معظم الوقت يمر بطلب أو طلبين قيد التنفيذ، فاشترِ جلستين. وإذا بقيت عند أربعة لساعات، فاشترِ أربعًا.

كم جلسة يحتاج كل نمط من أنماط الوكلاء؟

النمط كيف يستدعي النموذج قاعدة التحجيم
منسّق + عمّال يستدعي المخطِّط، ثم يتفرّع العمّال الذين يعملون معًا، وواحدة إضافية للمخطِّط إن ظل يعمل
خط معالجة (كتابة ← مراجعة ← اختبار) مرحلة واحدة في كل مرة لكل مهمة جلسة لكل مهمة تعمل بالتوازي
قائمة أعمال بالدفعات وظائف كثيرة متطابقة جلسة لكل عامل؛ والعمّال الأكثر ينهون أسرع
وكلاء عدة مطوّرين مستقلون جلسة لكل مطوّر، كلٌّ على حسابه الخاص

كيف تُبقي الوكلاء المتوازيين بعيدين عن طريق بعضهم؟

سعة النموذج نصف المشكلة فقط. فوكيلان يعدّلان الملف نفسه سيلغي كل منهما عمل الآخر. والحل المعتاد git worktree لكل وكيل: يحصل كل منهم على نسخة عمل وفرع خاصين به من المستودع نفسه.

git worktree add ../agent-auth -b agent/auth
git worktree add ../agent-billing -b agent/billing

ثم وزّع المهام حسب الوحدة، كي نادرًا ما يلمس الوكلاء الملفات نفسها، وادمج عبر خطوة مراجعة. ولتشغيلهم دون إشراف، راجع تشغيل وكلاء البرمجة طوال الليل؛ ولما يكلّفه الوكلاء الإضافيون من رموز، راجع تكلفة الأنظمة متعددة الوكلاء.

متى يكون الدفع حسب الاستخدام أفضل للوكلاء المتوازيين؟

يسمح مفتاح الدفع حسب الاستخدام بـ 4 طلبات قيد التنفيذ و30 طلبًا في الدقيقة. وهذا يناسب التفرّع القصير المتقطع: خطوة مراجعة تُطلق أربعة مدققين لعشرين ثانية ثم تهدأ. فالحمل الثابت يناسب الجلسات، والحمل المتقطع يناسب الدفع لكل رمز. وكثير من الإعدادات تستخدم الاثنين: جلسات خطة للوكلاء الذين يعملون طويلًا، ومفتاح دفع حسب الاستخدام للدفقات وللنماذج الأخرى مثل GLM 5.3.

حين يبلغ مفتاح الدفع حسب الاستخدام حد المعدل أو حد التزامن يُرجع 429. تمهّل وأعد المحاولة؛ راجع رموز الأخطاء ومتى تعيد المحاولة. وتبيّن حاسبة حدود المعدل إلى أي مدى يكفي حدٌّ معيّن لنمط طلباتك.

كيف تربط الوكلاء بالخطة؟

تقبل معظم أطر الوكلاء عنوانًا أساسيًا متوافقًا مع OpenAI. وجّه كل وكيل إلى https://inference.broadnet.ai/v1 مع النموذج broadnet/deepseek-v4.1-flash وامنح كلًّا منهم مفتاحًا:

export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="$BROADNET_PLAN_KEY"

لوكيل برمجة واحد في الطرفية، يحتوي دليل Aider على الإعدادات الدقيقة؛ ولكلٍّ من Cline وOpenCode دليله. ولمنسّقك الخاص، يبيّن دليل OpenAI Python SDK إعداد العميل. وفي شيفرتك، ضع سقفًا للطلبات قيد التنفيذ يساوي عدد الجلسات كي تنتظر في طابور من جهتك، حيث تستطيع رؤيتها:

import asyncio
SESSIONS = 4
gate = asyncio.Semaphore(SESSIONS)

async def ask(client, messages):
    async with gate:
        return await client.chat.completions.create(
            model="broadnet/deepseek-v4.1-flash", messages=messages, max_tokens=4000)

ما الذي يتعطل مع الوكلاء المتوازيين؟

  • تشغيل كل الوكلاء دفعة واحدة. دفقة من الاستدعاءات الأولى المتزامنة تتجاوز جلساتك فورًا. باعد بين بدء الوكلاء ببضع ثوانٍ.
  • عواصف إعادة المحاولة. إذا أعاد كل الوكلاء المحاولة في اللحظة نفسها، تصادموا من جديد. أضف عشوائية (jitter) إلى التأخير المتزايد.
  • max_tokens أصغر من اللازم. يستدل DeepSeek V4.1 Flash منطقيًا قبل أن يجيب؛ والحد الصغير قد يُرجع ردًا فارغًا. السبب.
  • مشاركة مفتاح واحد بين عدة أشخاص. المفاتيح شخصية. امنح كل مطوّر حسابه الخاص.

كم من السياق يمكن لكل وكيل استخدامه؟

يمكن لكل طلب أن يحمل حتى 1,048,576 رمزًا على DeepSeek V4.1 Flash. فيستطيع الوكيل الفرعي قراءة الوحدة التي يعمل عليها كاملة بدل ملخص مقتطع، وعلى الخطة لا يكلّف الأمر الطويل شيئًا إضافيًا. متى تفيد نافذة سياق من مليون رمز.

كيف تختبر الإعداد بتكلفة منخفضة؟

اشترِ ساعة من خطة الشهاب (Meteor) بسعر ($1) لكل جلسة تظن أنك تحتاجها، وشغّل سير عمل وكلائك الحقيقي. إذا انتظر الوكلاء بعضهم كثيرًا، فأضف جلسة. وإذا بقيت إحداها خاملة، فاستغنِ عنها. ثم انتقل إلى خطة البدر أو إلى جلسات خطة المدار (Orbit) الأسبوعية ($15 لكل جلسة).

أين تقع BroadNet Inference؟

تناسب جلسات الخطط الوكلاء الثابتين المتوازيين على نموذج واحد، لأن الفاتورة تعتمد على عدد من يعمل منهم في وقت واحد، لا على حجم ما يقرؤونه. وإذا احتاج وكلاؤك إلى عدة نماذج مختلفة، أو لم يستدعوا النموذج إلا في دفقات قصيرة، فقد يكلّف مفتاح الدفع حسب الاستخدام أو موجّه (router) أقل. قارن أولًا مع حساب نقطة التعادل.

أسئلة شائعة

ماذا يحدث إذا استخدم وكيلان جلسة واحدة في الوقت نفسه؟

تشغّل الجلسة طلبًا واحدًا في كل مرة، ولا تذكر صفحات BroadNet هل ينتظر الطلب الثاني أم يُرفض بخطأ 429. لا تعتمد على أي منهما: ضع في شيفرتك سقفًا للطلبات قيد التنفيذ يساوي عدد جلساتك، وأعد المحاولة عند 429 مع تأخير متزايد، وأضف جلسة إذا طال انتظار الوكلاء.

كم وكيل برمجة يمكنني تشغيله بالتوازي؟

بقدر ما لديك من جلسات للطلبات المتداخلة. كل جلسة خطة تشغّل طلبًا واحدًا في كل مرة، لذا تحتاج أربعة وكلاء يستدعون النموذج في اللحظة نفسها إلى أربع جلسات. والوكلاء الذين يقضون معظم وقتهم في تشغيل الأدوات يمكنهم تقاسم جلسات أقل إذا كانت شيفرتك تضع استدعاءاتهم للنموذج في طابور.

كيف أمنع الوكلاء المتوازيين من تعديل الملفات نفسها؟

امنح كل وكيل git worktree وفرعًا خاصين به، ووزّع العمل حسب الملف أو الوحدة. وادمج عبر طلبات السحب (pull requests) المعتادة أو خطوة مراجعة أخيرة.

هل يمكنني الجمع بين خطة والدفع حسب الاستخدام؟

نعم. مفاتيح الخطط ومفاتيح الدفع حسب الاستخدام منفصلة. والنمط الشائع جلسات خطة للوكلاء الثابتين ومفتاح دفع حسب الاستخدام للدفقات العارضة أو للنماذج الأخرى.

هل يجب أن تكون الجلسات على مفاتيح منفصلة؟

لا. يمكن لمفتاح واحد أن يحمل عدة جلسات، أو يمكنك توزيعها على مفاتيح، مثل مفتاح لكل خادم أو لكل مشروع.

هل يكلّف الوكلاء المتوازيون أكثر على خطة بسعر ثابت؟

فقط بعدد الجلسات. الرموز لا تُعدّ على الخطة، لذا فالفاتورة هي عدد الجلسات مضروبًا في سعر الخطة، مهما قرأ كل وكيل أو كتب.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity