openai-go, OpenAI’nin resmi Go kütüphanesidir. option.WithBaseURL ile özel bir base URL kabul ettiği için OpenAI uyumlu herhangi bir API’yi çağırabilir. BroadNet Inference, chat completions’ı https://inference.broadnet.ai/v1 adresinde sunar. BroadRouter, BroadNet’in kendi sitesidir; bu rehber v3.99.0 için openai-go README’sini izler.
Kurulum
go get -u 'github.com/openai/openai-go/v3@v3.99.0'
export BROADNET_API_KEY='your-broadnet-key'
Güncel sürüm Go 1.26 veya daha yenisini gerektirir.
Chat completion
package main
import (
"context"
"fmt"
"os"
"github.com/openai/openai-go/v3"
"github.com/openai/openai-go/v3/option"
)
func main() {
client := openai.NewClient(
option.WithBaseURL("https://inference.broadnet.ai/v1"),
option.WithAPIKey(os.Getenv("BROADNET_API_KEY")),
)
resp, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/glm-5.3",
Messages: []openai.ChatCompletionMessageParamUnion{
openai.SystemMessage("You are a concise Go reviewer."),
openai.UserMessage("How do I check if a slice is empty in Go?"),
},
MaxTokens: openai.Int(2000), // reasoning counts toward this limit
})
if err != nil {
panic(err)
}
fmt.Println(resp.Choices[0].Message.Content)
}
go run . ile çalıştırın. Ekrana bir yanıt yazdırılması testinizdir: anahtar, URL ve model kimliği çalışıyor demektir.
- Model düz bir string’dir.
openai.ChatModel,stringiçin bir tür takma adıdır; bu yüzden BroadNet kimlikleri dönüştürme gerektirmez. Chat.Completionskullanın. README, BroadNet’in listelemediği Responses API (client.Responses.New) ile başlar. README’nin Chat Completions bölümü bu API’nin “supported indefinitely” (çeviri: süresiz olarak destekleneceğini) belirtir.MaxTokensveMaxCompletionTokens. SDK,max_tokensalanınımax_completion_tokenslehine kullanımdan kaldırılmış (deprecated) olarak işaretler, ancak BroadNet’in API referansımax_tokensalanını anlatır.MaxTokenskullanın.DeveloperMessagedeğil,SystemMessage. README örneğideveloperrolünü gönderenDeveloperMessagekullanır. BroadNet’in API referansı bu rolden söz etmez; bu yüzdensystemveuserkullanın.
Usage bilgisiyle akış
stream := client.Chat.Completions.NewStreaming(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/deepseek-v4.1-flash",
Messages: []openai.ChatCompletionMessageParamUnion{openai.UserMessage("Count from one to five.")},
MaxTokens: openai.Int(2000),
StreamOptions: openai.ChatCompletionStreamOptionsParam{
IncludeUsage: openai.Bool(true),
},
})
defer stream.Close()
for stream.Next() {
chunk := stream.Current()
if len(chunk.Choices) > 0 {
fmt.Print(chunk.Choices[0].Delta.Content)
}
if chunk.Usage.TotalTokens > 0 {
fmt.Printf("\n%d tokens\n", chunk.Usage.TotalTokens)
}
}
if err := stream.Err(); err != nil {
panic(err)
}
BroadNet’in belgelerine göre stream_options.include_usage true olduğunda usage bilgisi son parçada (chunk) gelir; bu parçada choices bulunmaz, uzunluk kontrolü bu yüzden var. Kablo formatı için chat completions akışı rehberine bakın.
Hatalar ve yeniden denemeler
SDK, başarısız durum kodları için *openai.Error döndürür. errors.As kullanın ve StatusCode alanını okuyun:
var apierr *openai.Error
if errors.As(err, &apierr) && apierr.StatusCode == 429 {
// back off, then retry
}
openai-go bazı hataları varsayılan olarak kısa bir üstel geri çekilmeyle (exponential backoff) iki kez yeniden dener. Bunu option.WithMaxRetries(n) ile değiştirin. Yeniden denemeler BroadNet’in hız sınırlarına dahildir.
Sorun giderme
- 401. Anahtar yanlış, süresi dolmuş veya kullanım hakkı tükenmiş.
WithAPIKeyvermediyseniz SDKOPENAI_API_KEYdeğişkenini kullanmıştır. - 404. Base URL
/v1ile bitmeli ve çağrıResponses’a değilChat.Completions’a gitmelidir. Ardından model kimliğini kontrol edin. Ücretli modeller bakiye yüklemesi gerektirir; $5 kredi yalnızcabroadnet/gemma-4-26b-a4bmodelini kapsar. - Boş
Content. Çıktı bütçesini akıl yürütme tüketmiş.MaxTokensdeğerini yükseltin. Yanıtlar neden boş geliyor. - 429. Kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda işlemde 4 isteğe izin verir. API’yi aynı anda çağıran goroutine sayısını sınırlayın. Hatalar ve yeniden denemeler rehberine bakın.
