Ogni richiesta che fa un SDK è la base URL più un percorso. Se la base URL è giusta, il resto del client funziona senza modifiche.
Come funziona
Il client unisce due parti:
| Parte | Esempio |
|---|---|
| Base URL | https://inference.broadnet.ai/v1 |
| Percorso dell’endpoint | /chat/completions |
| URL completo della richiesta | https://inference.broadnet.ai/v1/chat/completions |
Nel codice, il nome del parametro dipende dalla libreria:
# Python SDK
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
// Node SDK
const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY });
Entrambi gli SDK ufficiali ripiegano sulla variabile d’ambiente OPENAI_BASE_URL, e sull’indirizzo di OpenAI quando non è impostato nulla. Altri strumenti usano nomi come api_base o OPENAI_API_BASE.
Perché è importante
La base URL è ciò che rende un’API compatibile con OpenAI un cambio immediato. Decide anche dove vanno i tuoi prompt e chi ti fattura. Un valore sbagliato può mandare il traffico, e la tua chiave API, al provider sbagliato. Tienila nella configurazione accanto alla chiave, non scritta a mano in più punti del codice.
I router usano la stessa idea: punti la base URL verso il router invece che verso un provider di modelli.
Su BroadNet Inference
La base URL è https://inference.broadnet.ai/v1 per tutti i modelli: chat, vision e speech-to-text. La chat va a /chat/completions e la trascrizione a /audio/transcriptions. La guida rapida con curl mostra una prima richiesta, e la guida a LangChain mostra dove si trova l’impostazione in un framework.
Errori comuni
- Manca
/v1.https://inference.broadnet.aisenza/v1produce errori 404 dall’SDK. - Percorso duplicato. Incollare come base URL l’endpoint completo, come
.../v1/chat/completions, fa chiamare all’SDK.../chat/completions/chat/completions. - Variabili d’ambiente rimaste. Una vecchia
OPENAI_BASE_URLnella shell sovrascrive quello che ti aspetti. Stampala quando le richieste vanno nel posto sbagliato. - HTTP semplice. Usa sempre
https://. Le chiavi bearer devono viaggiare su TLS. - Cambiare l’URL ma non il modello. Ogni provider ha i propri ID di modello, come
broadnet/deepseek-v4.1-flash.
Devi spostare un’intera app? Segui la checklist di migrazione.