Ang openai-go ang opisyal na Go library ng OpenAI. Tumatanggap ito ng custom na base URL gamit ang option.WithBaseURL, kaya kaya nitong tawagin ang anumang OpenAI-compatible na API. Nagse-serve ang BroadNet Inference ng chat completions sa https://inference.broadnet.ai/v1. Sariling site ng BroadNet ang BroadRouter; sinusundan ng gabay na ito ang README ng openai-go para sa v3.99.0.
I-install
go get -u 'github.com/openai/openai-go/v3@v3.99.0'
export BROADNET_API_KEY='your-broadnet-key'
Kailangan ng kasalukuyang release ang Go 1.26 o mas bago.
Chat completion
package main
import (
"context"
"fmt"
"os"
"github.com/openai/openai-go/v3"
"github.com/openai/openai-go/v3/option"
)
func main() {
client := openai.NewClient(
option.WithBaseURL("https://inference.broadnet.ai/v1"),
option.WithAPIKey(os.Getenv("BROADNET_API_KEY")),
)
resp, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/glm-5.3",
Messages: []openai.ChatCompletionMessageParamUnion{
openai.SystemMessage("You are a concise Go reviewer."),
openai.UserMessage("How do I check if a slice is empty in Go?"),
},
MaxTokens: openai.Int(2000), // reasoning counts toward this limit
})
if err != nil {
panic(err)
}
fmt.Println(resp.Choices[0].Message.Content)
}
Patakbuhin ito gamit ang go run .. Ang lumabas na sagot ang test mo: gumagana ang key, URL at model ID.
- Simpleng string ang Model. Type alias ng
stringangopenai.ChatModel, kaya hindi na kailangang i-convert ang mga BroadNet ID. - Gamitin ang
Chat.Completions. Responses API (client.Responses.New) ang unang ipinapakita ng README, at hindi ito nakalista sa BroadNet. Sinasabi ng seksiyon nito sa Chat Completions na ang API na iyon ay “supported indefinitely” (Salin: susuportahan nang walang takdang katapusan). MaxTokenskontraMaxCompletionTokens. Minamarkahan ng SDK na deprecated angmax_tokenspabor samax_completion_tokens, peromax_tokensang inilalarawan ng API reference ng BroadNet. Gamitin angMaxTokens.SystemMessage, hindiDeveloperMessage.DeveloperMessageang gamit ng halimbawa sa README, na nagpapadala ngdeveloperrole. Hindi binabanggit ng API reference ng BroadNet ang role na iyon, kayasystematuserang gamitin.
Streaming na may usage
stream := client.Chat.Completions.NewStreaming(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/deepseek-v4.1-flash",
Messages: []openai.ChatCompletionMessageParamUnion{openai.UserMessage("Count from one to five.")},
MaxTokens: openai.Int(2000),
StreamOptions: openai.ChatCompletionStreamOptionsParam{
IncludeUsage: openai.Bool(true),
},
})
defer stream.Close()
for stream.Next() {
chunk := stream.Current()
if len(chunk.Choices) > 0 {
fmt.Print(chunk.Choices[0].Delta.Content)
}
if chunk.Usage.TotalTokens > 0 {
fmt.Printf("\n%d tokens\n", chunk.Usage.TotalTokens)
}
}
if err := stream.Err(); err != nil {
panic(err)
}
Ayon sa docs ng BroadNet, dumarating ang usage sa huling chunk kapag true ang stream_options.include_usage; walang choices ang chunk na iyon, kaya may length check. Tingnan ang streaming chat completions para sa wire format.
Mga error at retry
Nagbabalik ang SDK ng *openai.Error para sa mga status na hindi success. Gamitin ang errors.As at basahin ang StatusCode:
var apierr *openai.Error
if errors.As(err, &apierr) && apierr.StatusCode == 429 {
// back off, then retry
}
Bilang default, dalawang beses nire-retry ng openai-go ang ilang error na may maikling exponential backoff. Baguhin ito gamit ang option.WithMaxRetries(n). Kasama ang mga retry sa rate limits ng BroadNet.
Troubleshooting
- 401. Mali, expired o ubos na ang allowance ng key. Kung hindi ka nagpasa ng
WithAPIKey,OPENAI_API_KEYang ginamit ng SDK. - 404. Dapat nagtatapos sa
/v1ang base URL, at saChat.Completionsdapat pumunta ang tawag, hindi saResponses. Pagkatapos, suriin ang model ID. Kailangan ng top-up para sa mga bayad na model; angbroadnet/gemma-4-26b-a4bat ang dalawang Transcribe model lang ang sakop ng $5 na credit. - Walang laman na
Content. Naubos ng reasoning ang output budget. Taasan angMaxTokens. Bakit walang laman ang mga sagot. - 429. Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 na sabay-sabay. Limitahan ang mga goroutine na sabay na tumatawag sa API. Tingnan ang errors and retries.
