BroadRouter

Aggiungere BroadNet Inference a goose come provider personalizzato

Aggiornato

In goose aggiungi un custom provider di tipo OpenAI Compatible, con API URL https://inference.broadnet.ai/v1/chat/completions, la tua chiave BroadNet e modelli disponibili come broadnet/glm-5.3. Usa il pulsante Add Custom Provider di goose Desktop, goose configure nel terminale o un file JSON in ~/.config/goose/custom_providers/. goose si basa sul tool calling, quindi parti da GLM 5.3 o Qwen3.8 27B.

goose è un agente AI open source con un’app desktop e una CLI. I servizi non integrati si aggiungono come custom provider, e goose supporta quelli compatibili con OpenAI. BroadNet Inference serve chat completions standard, quindi funziona in questo modo. BroadRouter è il sito di BroadNet; i passaggi seguono la documentazione di goose sui provider alla versione 1.59.

La documentazione di goose avverte che goose “extensively uses tool calling” (traduzione: usa ampiamente il tool calling) e che i modelli che non lo supportano possono solo chattare, con tutte le estensioni disattivate. BroadNet indica il tool calling per GLM 5.3 e Qwen3.8 27B, quindi usa uno di questi due per il lavoro da agente.

Opzione 1: goose Desktop

  1. Apri la barra laterale e clicca Settings, poi la scheda Models.

  2. Clicca Configure providers, poi Add Custom Provider in fondo.

  3. Compila i dati:

    Campo Valore
    Provider Type OpenAI Compatible
    Display Name BroadNet Inference
    API URL https://inference.broadnet.ai/v1/chat/completions
    API Key la tua chiave BroadNet
    Available Models broadnet/glm-5.3, broadnet/qwen3.8-27b
    Streaming Support attivo
  4. Clicca Create Provider, poi selezionalo insieme a un modello.

Opzione 2: goose CLI

Esegui goose configure, scegli Custom Providers, poi Add A Custom Provider, e rispondi alle domande con gli stessi valori: tipo di API OpenAI Compatible, l’API URL qui sopra, autenticazione Yes con una chiave API statica, l’elenco dei modelli separati da virgole e lo streaming attivo.

Opzione 3: un file JSON

Crea ~/.config/goose/custom_providers/broadnet.json (su Windows, %APPDATA%\Block\goose\config\custom_providers\):

{
  "name": "broadnet",
  "engine": "openai",
  "display_name": "BroadNet Inference",
  "description": "BroadNet Inference, OpenAI-compatible",
  "api_key_env": "BROADNET_API_KEY",
  "base_url": "https://inference.broadnet.ai/v1/chat/completions",
  "models": [
    { "name": "broadnet/glm-5.3", "context_limit": 1048576 },
    { "name": "broadnet/qwen3.8-27b", "context_limit": 262144 },
    { "name": "broadnet/deepseek-v4.1-flash", "context_limit": 1048576 }
  ],
  "supports_streaming": true,
  "requires_auth": true
}

Poi avvia una sessione con questo provider:

export BROADNET_API_KEY='your-broadnet-key'
goose session start --provider broadnet

Puoi mettere il file in un repository per il tuo team, perché la chiave resta nell’ambiente.

Provalo

Inizia con una domanda semplice, come “what can you do?”. Se risponde, la connessione funziona. Poi chiedi qualcosa che richieda una delle estensioni attive. Se goose chiama lo strumento, funziona anche il tool calling. Se risponde solo con testo e non chiama mai uno strumento, passa a broadnet/glm-5.3.

I prezzi in goose

goose può stimare il costo se ogni modello nel file JSON ha input_token_cost e output_token_cost in USD per token. Prendi i valori dalla pagina dei prezzi di BroadNet e dividi il prezzo per milione per 1.000.000. Senza entrambi i campi, goose ripiega sui prezzi del proprio catalogo, che potrebbero non corrispondere a quelli di BroadNet.

Risoluzione dei problemi

  • 401. La chiave è sbagliata, scaduta o ha esaurito la quota, oppure BROADNET_API_KEY non è impostata nella shell che avvia goose.
  • 404. Controlla l’API URL: deve essere https://inference.broadnet.ai/v1/chat/completions. Verifica che l’ID del modello corrisponda esattamente a quello di BroadNet. I modelli a pagamento richiedono una ricarica; il credito di $5 copre solo broadnet/gemma-4-26b-a4b e i due modelli Transcribe, e il contesto da 32.768 token di Gemma è piccolo per il lavoro da agente.
  • Risposte vuote. Su DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B il ragionamento conta nel limite di output. Perché le risposte arrivano vuote.
  • 429. Una chiave a consumo consente 30 richieste al minuto e 4 in corso contemporaneamente. Vedi errori e retry.
  • Le richieste attendono o falliscono con due sessioni di goose sulla stessa chiave del piano. Una sessione del piano esegue una richiesta alla volta, quindi dai a ogni sessione di goose la sua.

Domande frequenti

L’API URL di goose deve finire con /v1 o con /v1/chat/completions?

L’esempio di custom provider nella documentazione di goose usa l’URL completo delle chat completions, quindi usa https://inference.broadnet.ai/v1/chat/completions. In questo modo goose resta anche sulle chat completions, che sono ciò che serve BroadNet.

Quale modello BroadNet funziona meglio con goose?

GLM 5.3 (broadnet/glm-5.3). La documentazione di goose dice che usa molto il tool calling, e BroadNet indica gli strumenti solo per GLM 5.3 e Qwen3.8 27B.

Posso usare goose con il piano illimitato di BroadNet?

I piani coprono solo DeepSeek V4.1 Flash, e la documentazione di BroadNet non indica il tool calling per quel modello. goose dice che i modelli senza tool calling possono solo chattare con le estensioni disattivate, quindi provalo prima di comprare un mese.

Dove salva goose la chiave API?

Nel portachiavi di sistema, oppure in secrets.yaml se il keyring è disattivato. Con un file JSON, goose legge invece la variabile indicata in api_key_env.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity