openai-go adalah library Go resmi dari OpenAI. Library ini menerima base URL kustom lewat option.WithBaseURL, jadi bisa memanggil API apa pun yang kompatibel dengan OpenAI. BroadNet Inference melayani chat completions di https://inference.broadnet.ai/v1. BroadRouter adalah situs milik BroadNet sendiri; panduan ini mengikuti README openai-go untuk v3.99.0.
Instalasi
go get -u 'github.com/openai/openai-go/v3@v3.99.0'
export BROADNET_API_KEY='your-broadnet-key'
Rilis saat ini membutuhkan Go 1.26 atau lebih baru.
Chat completion
package main
import (
"context"
"fmt"
"os"
"github.com/openai/openai-go/v3"
"github.com/openai/openai-go/v3/option"
)
func main() {
client := openai.NewClient(
option.WithBaseURL("https://inference.broadnet.ai/v1"),
option.WithAPIKey(os.Getenv("BROADNET_API_KEY")),
)
resp, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/glm-5.3",
Messages: []openai.ChatCompletionMessageParamUnion{
openai.SystemMessage("You are a concise Go reviewer."),
openai.UserMessage("How do I check if a slice is empty in Go?"),
},
MaxTokens: openai.Int(2000), // reasoning counts toward this limit
})
if err != nil {
panic(err)
}
fmt.Println(resp.Choices[0].Message.Content)
}
Jalankan dengan go run .. Jawaban yang tercetak adalah tesnya: kunci, URL, dan ID model berfungsi.
- Model adalah string biasa.
openai.ChatModeladalah type alias untukstring, jadi ID BroadNet tidak perlu dikonversi. - Gunakan
Chat.Completions. README dibuka dengan Responses API (client.Responses.New), yang tidak dicantumkan BroadNet. Bagian Chat Completions di README menyebut API itu “supported indefinitely” (terjemahan: didukung tanpa batas waktu). MaxTokensvsMaxCompletionTokens. SDK menandaimax_tokenssebagai deprecated dan menyarankanmax_completion_tokens, tetapi referensi API BroadNet menjelaskanmax_tokens. GunakanMaxTokens.SystemMessage, bukanDeveloperMessage. Contoh di README memakaiDeveloperMessage, yang mengirim roledeveloper. Referensi API BroadNet tidak menyebut role itu, jadi gunakansystemdanuser.
Streaming dengan usage
stream := client.Chat.Completions.NewStreaming(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/deepseek-v4.1-flash",
Messages: []openai.ChatCompletionMessageParamUnion{openai.UserMessage("Count from one to five.")},
MaxTokens: openai.Int(2000),
StreamOptions: openai.ChatCompletionStreamOptionsParam{
IncludeUsage: openai.Bool(true),
},
})
defer stream.Close()
for stream.Next() {
chunk := stream.Current()
if len(chunk.Choices) > 0 {
fmt.Print(chunk.Choices[0].Delta.Content)
}
if chunk.Usage.TotalTokens > 0 {
fmt.Printf("\n%d tokens\n", chunk.Usage.TotalTokens)
}
}
if err := stream.Err(); err != nil {
panic(err)
}
Menurut dokumentasi BroadNet, usage dikirim di chunk terakhir jika stream_options.include_usage bernilai true; chunk itu tidak berisi choices, karena itulah ada pengecekan panjang. Lihat streaming chat completions untuk format datanya.
Error dan percobaan ulang
SDK mengembalikan *openai.Error untuk status yang tidak sukses. Gunakan errors.As dan baca StatusCode:
var apierr *openai.Error
if errors.As(err, &apierr) && apierr.StatusCode == 429 {
// back off, then retry
}
Secara default openai-go mengulang beberapa jenis error dua kali dengan exponential backoff singkat. Ubah dengan option.WithMaxRetries(n). Percobaan ulang ikut dihitung dalam rate limit BroadNet.
Troubleshooting
- 401. Kunci salah, kedaluwarsa, atau jatahnya habis. Jika Anda tidak memberikan
WithAPIKey, SDK memakaiOPENAI_API_KEY. - 404. Base URL harus diakhiri
/v1, dan panggilan harus keChat.Completions, bukanResponses. Lalu periksa ID model. Model berbayar memerlukan top up; kredit $5 hanya mencakupbroadnet/gemma-4-26b-a4b. Contentkosong. Penalaran menghabiskan jatah output. NaikkanMaxTokens. Kenapa jawaban kembali kosong.- 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan yang berjalan bersamaan. Batasi jumlah goroutine yang memanggil API sekaligus. Lihat error dan percobaan ulang.
