BroadRouter
Inizia

Sviluppatori

Aggiornato

BroadNet Inference usa i formati di richiesta di OpenAI su https://inference.broadnet.ai/v1. Crea una chiave nella console, salvala in una variabile d’ambiente e invia una richiesta a /chat/completions o /audio/transcriptions con un ID di modello esatto. Prima di spostare traffico di produzione, verifica parametri, streaming, strumenti, limiti ed errori di quel modello.

Come invio la mia prima richiesta di chat?

  1. Accedi a inference.broadnet.ai (in inglese) e crea una chiave di inferenza. Viene mostrata una sola volta; la console ne conserva solo l’hash.
  2. Installa l’SDK di OpenAI e imposta la chiave nella shell. Tieni le chiavi sul tuo server, mai nel codice del browser.
  3. Invia la richiesta. Leggi la risposta in choices[0].message.content.

setup

python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'

first_request.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)

L’esempio usa BroadNet Gemma 4 VL 26B, coperto dal credito iniziale di USD 5. DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B richiedono prima una ricarica. Conserva l’header di risposta X-Request-ID per l’assistenza.

How a request reaches a model
  1. 01Your appKey kept in an environment variable
  2. 02OpenAI SDKTwo settings change

    base_url api_key

  3. 03BroadNet InferenceOpenAI-compatible APIinference.broadnet.ai/v1POST /chat/completions
  4. 04The model you nameSet in every request
    • broadnet/deepseek-v4.1-flash
    • broadnet/glm-5.3
    • broadnet/qwen3.8-27b
    • broadnet/gemma-4-26b-a4byour choice
  5. 05ResponseFrom that model

You choose the model in each request. There is no automatic routing: the request runs on the model ID you sent.

Your app calls the OpenAI SDK with BroadNet’s base URL and your key. The request goes to BroadNet Inference with the model ID you wrote, and that model answers. Nothing picks or switches the model for you.

Streaming

Imposta stream=true e leggi i Server-Sent Events fino a data: [DONE]. Con stream_options.include_usage, l’uso dei token arriva nell’ultimo chunk. Se lo stream termina prima di [DONE], considera la risposta incompleta. BroadNet chiede di verificare lo streaming modello per modello prima di farci affidamento in produzione.

stream.sh

curl -N https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'

Come trascrivo un audio?

Invia WAV o MP3, fino a 26.214.400 byte per file, a /audio/transcriptions. Imposta sempre language: senza, l’arabo può tornare in lettere latine. Usa language=ar per l’arabo. Converti prima i file .ogg o .m4a: ffmpeg -i voice-note.ogg -ar 16000 -ac 1 voice-note.wav

transcribe.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
with open("recording.wav", "rb") as audio:
    result = client.audio.transcriptions.create(
        model="broadnet/cohere-transcribe-arabic",
        file=audio,
        language="ar",
    )
print(result.text)

La risposta è un JSON con la trascrizione in text. Modello arabo o multilingue, e quanto costa l’audio.

Quali ID di modello posso usare?

Passa l’ID esatto in model. Non affidarti a /v1/models per scoprire i modelli di chat; usa questo elenco o il riferimento (in inglese).

ModelloIDEndpointInputDocumentatoAccesso
DeepSeek V4.1 Flashbroadnet/deepseek-v4.1-flash/chat/completionsTesto + ImmagineRagionamentoRicarica necessaria
GLM 5.3broadnet/glm-5.3/chat/completionsTestoStrumenti, Output strutturato, RagionamentoRicarica necessaria
Qwen3.8 27Bbroadnet/qwen3.8-27b/chat/completionsTesto + ImmagineStrumenti, Output strutturato, RagionamentoRicarica necessaria
BroadNet Gemma 4 VL 26Bbroadnet/gemma-4-26b-a4b/chat/completionsTesto + Immagine—Credito iniziale
BroadNet Transcribe Arabicbroadnet/cohere-transcribe-arabic/audio/transcriptionsAudio in arabo—Credito iniziale
BroadNet Transcribebroadnet/cohere-transcribe/audio/transcriptionsAudio, 14 lingue—Credito iniziale

«Documentato» indica strumenti, output strutturato e ragionamento che il riferimento di BroadNet cita per ogni modello (verificato il 15/11/2026). Un trattino significa che il riferimento non li cita, non che siano assenti.

Migrare da un’altra API compatibile con OpenAI: checklist

I formati di richiesta ti saranno familiari, ma i modelli sono diversi. Controlla ogni punto per il modello scelto e fai dei test prima di spostare il traffico.

  1. Endpoint. Imposta l’URL di base su https://inference.broadnet.ai/v1.
  2. Chiave. Usa una chiave di inferenza BroadNet letta da una variabile d’ambiente. Le chiavi dei piani e quelle a consumo sono separate.
  3. ID del modello. Usa l’ID esatto, per esempio broadnet/gemma-4-26b-a4b.
  4. Parametri. Verifica che ogni parametro che invii sia documentato per quel modello. Togli quelli che non compaiono.
  5. Streaming. Verifica che il tuo client legga l’SSE fino a [DONE] e gestisca uno stream che si interrompe prima.
  6. Strumenti e output strutturato. Il riferimento li documenta per GLM 5.3 e Qwen3.8 27B. Testa qualsiasi altro modello prima di farci affidamento.
  7. Ragionamento. Il ragionamento può consumare parte del budget di output. Lascia margine in max_tokens; vedi risposte vuote dei modelli di ragionamento.
  8. Limiti. Una chiave a consumo consente 30 richieste al minuto e 4 contemporanee. Una sessione di un piano consente una richiesta alla volta. Una chiave oraria Gemma consente uno stream, 120 richieste al minuto e 300.000 token al minuto.
  9. Contesto. Il contesto comprende input e risposta. Controlla il limite del modello nella sua pagina del modello.
  10. Errori. Associa i codici di stato qui sotto a un retry o a una correzione, e registra X-Request-ID.
  11. Costi. Fai una stima con i calcolatori di prezzo. Le immagini contano come token di input nel pagamento a consumo.

Quali errori devo ritentare?

StatoSignificatoAzione
400 / 422Richiesta o campo non validoCorreggi la richiesta; non ritentarla così com’è
401Chiave mancante, non valida o scaduta, oppure quota esauritaControlla la chiave e l’account
402insufficient_balanceRicarica, poi ritenta
413Richiesta oltre il limite di byte o di testoInvia meno dati, per esempio un file audio più piccolo
429Limite di frequenza, concorrenza, token al minuto o spesaAttendi con un limite (backoff), poi ritenta
500–504Problema lato serverRitenta con backoff esponenziale limitato

Riassunto dalla tabella degli errori del riferimento (in inglese), verificata il 15/11/2026. Esempi di codice per i retry.

Dove trovo la documentazione completa e le guide?

Ti serve un endpoint privato o un modello che non è in elenco? Contatta BroadNet.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity