BroadRouter
ابدأ الآن

استخدام OpenAI Python SDK مع BroadNet Inference

آخر تحديث

ثبّت الحزمة openai، ثم أنشئ العميل مع ضبط base_url على https://inference.broadnet.ai/v1 ووضع مفتاح BroadNet في api_key. تعمل كل استدعاءات chat.completions دون تعديل؛ يتغيّر معرّف النموذج فقط، مثل broadnet/deepseek-v4.1-flash. يقدّم BroadNet إكمال المحادثات والتفريغ الصوتي، لا Responses API.

تحتاج إلى حساب في BroadNet Inference ومفتاح استدلال. تبدأ الحسابات الجديدة برصيد قدره $5 دون بطاقة دفع؛ أنشئ حسابًا على inference.broadnet.ai. تعرض لوحة التحكم المفتاح مرة واحدة فقط، ولا تحفظ سوى بصمته (hash)، فانسخه مباشرة إلى متغيرات البيئة لديك.

1. ثبّت الحزمة واضبط المفتاح

تتطلب الحزمة الحالية openai (الإصدار 3.x) الإصدار Python 3.10 أو أحدث.

python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'

2. أرسل أول طلب

احفظ ما يلي في الملف first_request.py:

from openai import OpenAI
import os

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)

شغّله بالأمر python first_request.py. يستخدم هذا المثال broadnet/gemma-4-26b-a4b لأنه يعمل بالرصيد المجاني. أما نماذج المحادثة الأخرى فتتاح بعد شحن الرصيد.

3. انتقل إلى النموذج الذي تريده

غيّر model فقط:

ما تريده معرّف النموذج
استخدام غير محدود بخطة ثابتة السعر، وسياق 1M broadnet/deepseek-v4.1-flash
الأدوات والمخرجات المنظَّمة، وسياق 1M broadnet/glm-5.3
النصوص العربية والصور broadnet/qwen3.8-27b
سعر منخفض، ويعمل بالرصيد المجاني broadnet/gemma-4-26b-a4b

تُجري نماذج DeepSeek V4.1 Flash وGLM 5.3 وQwen3.8 27B استدلالًا منطقيًا قبل أن تجيب، ويُحتسب هذا الاستدلال ضمن max_tokens. امنحها 1,000 رمز (توكن) أو أكثر. إليك لماذا يُرجع الحد الصغير إجابة فارغة.

4. بثّ الإجابة

stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    stream=True,
    stream_options={"include_usage": True},
    messages=[{"role": "user", "content": "Count from one to three."}],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\n", chunk.usage)

مع include_usage تصل أعداد الرموز في آخر جزء، وهو جزء لا يحتوي على choices. ويتناول دليل البث المتدفق حالات انقطاع الاتصال.

5. احتفظ بمعرّف الطلب

تحمل كل استجابة الترويسة X-Request-ID. سجّلها، فدعم BroadNet يطلبها. وتعرضها الاستجابات المحلَّلة في response._request_id. ولقراءتها مع الترويسات الأخرى:

raw = client.chat.completions.with_raw_response.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Hi"}],
)
print(raw.headers.get("x-request-id"))
response = raw.parse()

يسمح مفتاح الدفع حسب الاستخدام بما يصل إلى 30 من الطلبات في الدقيقة و4 من الطلبات قيد التنفيذ في آنٍ واحد. ما معنى كل رمز خطأ ومتى تعيد المحاولة.

حل المشكلات

  • AuthenticationError (401). المفتاح خاطئ أو منتهي الصلاحية، أو استُنفدت حصة الدفع حسب الاستخدام. تأكّد من ضبط BROADNET_API_KEY في العملية التي تشغّل شيفرتك.
  • NotFoundError (404). تأكّد من أن base_url ينتهي بـ /v1، وأنك تستدعي chat.completions لا responses. ثم تحقّق من معرّف النموذج مع البادئة broadnet/.
  • فشل نموذج مدفوع على حساب جديد. يغطي الرصيد المبدئي البالغ $5 نموذج BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) ونموذجَي BroadNet Transcribe. اشحن رصيدك لاستخدام نماذج المحادثة الأخرى: DeepSeek V4.1 Flash وGLM 5.3 وQwen3.8 27B.
  • content فارغ. يُحتسب الاستدلال المنطقي ضمن max_tokens. ارفعه إلى 1,000 أو أكثر. لماذا تصل الإجابات فارغة.
  • RateLimitError (429). تجاوزت الحد في الدقيقة أو حد التزامن. تعيد حزمة SDK المحاولة مرتين افتراضيًا؛ اضبط max_retries على العميل لتغيير ذلك.
  • أخطاء في عميل HTTP مخصّص بعد الترقية. تستخدم حزمة SDK في الإصدار 3.x مكتبة HTTPX2. إذا كنت تمرّر http_client خاصًا بك، فاتبع دليل الانتقال إلى HTTPX2 الخاص بالحزمة.

أسئلة شائعة

هل أحتاج إلى حزمة SDK مختلفة؟

لا. يتعامل BroadNet Inference بصيغ OpenAI لإكمال المحادثات وتفريغ الصوت، لذا تعمل الحزمة الرسمية openai بمجرد تغيير base_url.

هل يمكنني الاستمرار في استخدام OPENAI_API_KEY؟

يمكنك ذلك، لكن متغيرًا منفصلًا باسم BROADNET_API_KEY يجنّبك إرسال مفتاح مزوّد إلى مزوّد آخر بالخطأ.

هل تقرأ حزمة SDK المتغير OPENAI_BASE_URL؟

نعم. إذا لم تمرّر base_url، يستخدم العميل OPENAI_BASE_URL. اضبطه على https://inference.broadnet.ai/v1، واضبط OPENAI_API_KEY على مفتاح BroadNet، وعندها لا يحتاج OpenAI() إلى أي وسائط.

هل يمكنني استخدام client.responses.create مع BroadNet؟

لا. يبدأ ملف README الخاص بالحزمة بـ Responses API، لكن وثائق BroadNet لا تذكر سوى إكمال المحادثات وتفريغ الصوت. استخدم client.chat.completions.create.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity