BroadRouter

BroadNet Inference'ı Go'dan openai-go SDK ile çağırın

Güncellendi

github.com/openai/openai-go/v3 paketini kurun ve istemciyi option.WithBaseURL("https://inference.broadnet.ai/v1") ve BroadNet anahtarınızı içeren option.WithAPIKey ile oluşturun. client.Chat.Completions.New çağrısında broadnet/glm-5.3 gibi bir BroadNet model kimliğini düz bir string olarak verin. Responses API'yi değil chat completions'ı kullanın ve MaxTokens değerini akıl yürütmeye yer bırakacak şekilde ayarlayın.

openai-go, OpenAI’nin resmi Go kütüphanesidir. option.WithBaseURL ile özel bir base URL kabul ettiği için OpenAI uyumlu herhangi bir API’yi çağırabilir. BroadNet Inference, chat completions’ı https://inference.broadnet.ai/v1 adresinde sunar. BroadRouter, BroadNet’in kendi sitesidir; bu rehber v3.99.0 için openai-go README’sini izler.

Kurulum

go get -u 'github.com/openai/openai-go/v3@v3.99.0'
export BROADNET_API_KEY='your-broadnet-key'

Güncel sürüm Go 1.26 veya daha yenisini gerektirir.

Chat completion

package main

import (
	"context"
	"fmt"
	"os"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/option"
)

func main() {
	client := openai.NewClient(
		option.WithBaseURL("https://inference.broadnet.ai/v1"),
		option.WithAPIKey(os.Getenv("BROADNET_API_KEY")),
	)

	resp, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
		Model: "broadnet/glm-5.3",
		Messages: []openai.ChatCompletionMessageParamUnion{
			openai.SystemMessage("You are a concise Go reviewer."),
			openai.UserMessage("How do I check if a slice is empty in Go?"),
		},
		MaxTokens: openai.Int(2000), // reasoning counts toward this limit
	})
	if err != nil {
		panic(err)
	}
	fmt.Println(resp.Choices[0].Message.Content)
}

go run . ile çalıştırın. Ekrana bir yanıt yazdırılması testinizdir: anahtar, URL ve model kimliği çalışıyor demektir.

  • Model düz bir string’dir. openai.ChatModel, string için bir tür takma adıdır; bu yüzden BroadNet kimlikleri dönüştürme gerektirmez.
  • Chat.Completions kullanın. README, BroadNet’in listelemediği Responses API (client.Responses.New) ile başlar. README’nin Chat Completions bölümü bu API’nin “supported indefinitely” (çeviri: süresiz olarak destekleneceğini) belirtir.
  • MaxTokens ve MaxCompletionTokens. SDK, max_tokens alanını max_completion_tokens lehine kullanımdan kaldırılmış (deprecated) olarak işaretler, ancak BroadNet’in API referansı max_tokens alanını anlatır. MaxTokens kullanın.
  • DeveloperMessage değil, SystemMessage. README örneği developer rolünü gönderen DeveloperMessage kullanır. BroadNet’in API referansı bu rolden söz etmez; bu yüzden system ve user kullanın.

Usage bilgisiyle akış

stream := client.Chat.Completions.NewStreaming(context.TODO(), openai.ChatCompletionNewParams{
	Model:     "broadnet/deepseek-v4.1-flash",
	Messages:  []openai.ChatCompletionMessageParamUnion{openai.UserMessage("Count from one to five.")},
	MaxTokens: openai.Int(2000),
	StreamOptions: openai.ChatCompletionStreamOptionsParam{
		IncludeUsage: openai.Bool(true),
	},
})
defer stream.Close()

for stream.Next() {
	chunk := stream.Current()
	if len(chunk.Choices) > 0 {
		fmt.Print(chunk.Choices[0].Delta.Content)
	}
	if chunk.Usage.TotalTokens > 0 {
		fmt.Printf("\n%d tokens\n", chunk.Usage.TotalTokens)
	}
}
if err := stream.Err(); err != nil {
	panic(err)
}

BroadNet’in belgelerine göre stream_options.include_usage true olduğunda usage bilgisi son parçada (chunk) gelir; bu parçada choices bulunmaz, uzunluk kontrolü bu yüzden var. Kablo formatı için chat completions akışı rehberine bakın.

Hatalar ve yeniden denemeler

SDK, başarısız durum kodları için *openai.Error döndürür. errors.As kullanın ve StatusCode alanını okuyun:

var apierr *openai.Error
if errors.As(err, &apierr) && apierr.StatusCode == 429 {
	// back off, then retry
}

openai-go bazı hataları varsayılan olarak kısa bir üstel geri çekilmeyle (exponential backoff) iki kez yeniden dener. Bunu option.WithMaxRetries(n) ile değiştirin. Yeniden denemeler BroadNet’in hız sınırlarına dahildir.

Sorun giderme

  • 401. Anahtar yanlış, süresi dolmuş veya kullanım hakkı tükenmiş. WithAPIKey vermediyseniz SDK OPENAI_API_KEY değişkenini kullanmıştır.
  • 404. Base URL /v1 ile bitmeli ve çağrı Responses’a değil Chat.Completions’a gitmelidir. Ardından model kimliğini kontrol edin. Ücretli modeller bakiye yüklemesi gerektirir; $5 kredi yalnızca broadnet/gemma-4-26b-a4b modelini kapsar.
  • Boş Content. Çıktı bütçesini akıl yürütme tüketmiş. MaxTokens değerini yükseltin. Yanıtlar neden boş geliyor.
  • 429. Kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda işlemde 4 isteğe izin verir. API’yi aynı anda çağıran goroutine sayısını sınırlayın. Hatalar ve yeniden denemeler rehberine bakın.

Sık sorulan sorular

BroadNet URL'sini seçenekler yerine ortam değişkenleriyle ayarlayabilir miyim?

Evet. openai-go varsayılan olarak OPENAI_API_KEY ve OPENAI_BASE_URL değişkenlerini okur; ikisi de BroadNet değerlerini taşıyorsa seçeneksiz openai.NewClient() çalışır. Açıkça verilen option.WithBaseURL, OPENAI_BASE_URL'yi geçersiz kılar.

Model alanı openai.ChatModel beklerken BroadNet model kimliğini nasıl veririm?

openai-go'da ChatModel, string için bir tür takma adıdır (type alias); bu yüzden Model "broadnet/glm-5.3" olduğu gibi derlenir.

Neden DeveloperMessage yerine SystemMessage kullanmalıyım?

DeveloperMessage, OpenAI'nin kendi modelleri için getirdiği developer rolünü gönderir. BroadNet'in API referansı bu rolden söz etmez; bu yüzden standart system rolü daha güvenli seçimdir.

Hangi Go sürümü gerekiyor?

Güncel openai-go v3, Go 1.26 veya daha yenisini gerektirir. README'ye göre Go 1.25'te kalmanız gerekiyorsa v3.74.0 sürümüne sabitleyin.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor