BroadRouter

استدعاء BroadNet Inference من Go بحزمة openai-go

آخر تحديث

ثبّت github.com/openai/openai-go/v3 وأنشئ العميل مع option.WithBaseURL("https://inference.broadnet.ai/v1") وoption.WithAPIKey مضبوطًا على مفتاح BroadNet. استدعِ client.Chat.Completions.New مع معرّف نموذج من BroadNet مثل broadnet/glm-5.3 كسلسلة نصية عادية. استخدم إكمال المحادثات لا Responses API، واضبط MaxTokens بما يترك مساحة للاستدلال المنطقي.

openai-go هي مكتبة Go الرسمية من OpenAI. تقبل base URL مخصّصًا عبر option.WithBaseURL، لذا يمكنها استدعاء أي واجهة API متوافقة مع OpenAI. ويقدّم BroadNet Inference إكمال المحادثات على https://inference.broadnet.ai/v1. موقع BroadRouter هو موقع BroadNet نفسها، ويتبع هذا الدليل ملف README لـ openai-go في الإصدار v3.99.0.

التثبيت

go get -u 'github.com/openai/openai-go/v3@v3.99.0'
export BROADNET_API_KEY='your-broadnet-key'

يتطلب الإصدار الحالي Go 1.26 أو أحدث.

إكمال محادثة

package main

import (
	"context"
	"fmt"
	"os"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/option"
)

func main() {
	client := openai.NewClient(
		option.WithBaseURL("https://inference.broadnet.ai/v1"),
		option.WithAPIKey(os.Getenv("BROADNET_API_KEY")),
	)

	resp, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
		Model: "broadnet/glm-5.3",
		Messages: []openai.ChatCompletionMessageParamUnion{
			openai.SystemMessage("You are a concise Go reviewer."),
			openai.UserMessage("How do I check if a slice is empty in Go?"),
		},
		MaxTokens: openai.Int(2000), // reasoning counts toward this limit
	})
	if err != nil {
		panic(err)
	}
	fmt.Println(resp.Choices[0].Message.Content)
}

شغّله بالأمر go run .. ظهور إجابة مطبوعة هو اختبارك: المفتاح والعنوان ومعرّف النموذج تعمل.

  • الحقل Model سلسلة نصية عادية. فـ openai.ChatModel اسم بديل للنوع string، لذا لا تحتاج معرّفات BroadNet إلى أي تحويل.
  • استخدم Chat.Completions. يبدأ ملف README بـ Responses API (client.Responses.New)، وهي واجهة لا يدرجها BroadNet. ويقول قسم Chat Completions في الملف إن تلك الواجهة “supported indefinitely” (ترجمة: مدعومة إلى أجل غير مسمّى).
  • MaxTokens مقابل MaxCompletionTokens. تَسِم حزمة SDK الحقل max_tokens بأنه مُهمَل (deprecated) لصالح max_completion_tokens، لكن المرجع التقني لـ BroadNet يصف max_tokens. استخدم MaxTokens.
  • SystemMessage لا DeveloperMessage. يستخدم مثال README الدالة DeveloperMessage التي ترسل الدور developer. لا يذكر المرجع التقني لـ BroadNet هذا الدور، فاستخدم system وuser.

البث مع بيانات الاستخدام

stream := client.Chat.Completions.NewStreaming(context.TODO(), openai.ChatCompletionNewParams{
	Model:     "broadnet/deepseek-v4.1-flash",
	Messages:  []openai.ChatCompletionMessageParamUnion{openai.UserMessage("Count from one to five.")},
	MaxTokens: openai.Int(2000),
	StreamOptions: openai.ChatCompletionStreamOptionsParam{
		IncludeUsage: openai.Bool(true),
	},
})
defer stream.Close()

for stream.Next() {
	chunk := stream.Current()
	if len(chunk.Choices) > 0 {
		fmt.Print(chunk.Choices[0].Delta.Content)
	}
	if chunk.Usage.TotalTokens > 0 {
		fmt.Printf("\n%d tokens\n", chunk.Usage.TotalTokens)
	}
}
if err := stream.Err(); err != nil {
	panic(err)
}

تقول وثائق BroadNet إن بيانات الاستخدام تصل في آخر جزء عندما تكون stream_options.include_usage مضبوطة على true؛ وهذا الجزء لا يحتوي على choices، ومن هنا فحص الطول. راجع البث المتدفق لإكمال المحادثات لمعرفة صيغة البيانات المرسلة.

الأخطاء وإعادة المحاولة

تُرجع حزمة SDK القيمة *openai.Error عند حالات عدم النجاح. استخدم errors.As واقرأ StatusCode:

var apierr *openai.Error
if errors.As(err, &apierr) && apierr.StatusCode == 429 {
	// back off, then retry
}

تعيد openai-go محاولة بعض الأخطاء مرتين افتراضيًا مع تراجع أُسّي قصير. غيّر ذلك بـ option.WithMaxRetries(n). وتُحتسب إعادات المحاولة ضمن حدود المعدّل في BroadNet.

حل المشكلات

  • 401. المفتاح خاطئ أو منتهي الصلاحية أو استُنفدت حصته. وإذا لم تمرّر WithAPIKey، فقد استخدمت حزمة SDK المتغير OPENAI_API_KEY.
  • 404. يجب أن ينتهي base URL بـ /v1، وأن يذهب الاستدعاء إلى Chat.Completions لا Responses. ثم تحقّق من معرّف النموذج. تحتاج النماذج المدفوعة إلى شحن الرصيد؛ فرصيد $5 لا يغطي إلا broadnet/gemma-4-26b-a4b ونموذجَي Transcribe.
  • Content فارغ. استهلك الاستدلال المنطقي ميزانية المخرجات. ارفع MaxTokens. لماذا تصل الإجابات فارغة.
  • 429. يسمح مفتاح الدفع حسب الاستخدام بـ 30 من الطلبات في الدقيقة و4 قيد التنفيذ. قلّل عدد goroutines التي تستدعي الواجهة في وقت واحد. راجع الأخطاء وإعادة المحاولة.

أسئلة شائعة

هل يمكنني ضبط عنوان BroadNet بمتغيرات البيئة بدلًا من الخيارات؟

نعم. تقرأ openai-go المتغيرين OPENAI_API_KEY وOPENAI_BASE_URL افتراضيًا، لذا يعمل openai.NewClient() دون خيارات إذا كان المتغيران يحملان قيم BroadNet. ويتقدّم option.WithBaseURL الصريح على OPENAI_BASE_URL.

كيف أمرّر معرّف نموذج BroadNet والحقل Model يتوقع openai.ChatModel؟

ChatModel في openai-go اسم بديل (type alias) للنوع string، لذا يُصرَّف (compile) الحقل Model "broadnet/glm-5.3" كما هو دون مشكلات.

لماذا SystemMessage بدلًا من DeveloperMessage؟

ترسل DeveloperMessage الدور developer، وهو دور قدّمته OpenAI لنماذجها. لا يذكر المرجع التقني لـ BroadNet هذا الدور، لذا فالدور system المعتاد هو الخيار الأسلم.

ما إصدار Go الذي أحتاجه؟

يتطلب الإصدار الحالي openai-go v3 الإصدار Go 1.26 أو أحدث. ويقول ملف README إن عليك تثبيت الإصدار v3.74.0 إن كنت مضطرًا إلى البقاء على Go 1.25.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity