BroadRouter
Commencer

Utiliser le SDK Python d’OpenAI avec BroadNet Inference

Mis à jour

Installez le paquet openai, puis créez le client avec base_url défini sur https://inference.broadnet.ai/v1 et votre clé BroadNet comme api_key. Tous les appels chat.completions fonctionnent sans modification ; seul l’ID du modèle change, par exemple broadnet/deepseek-v4.1-flash. BroadNet sert les chat completions et les transcriptions, pas la Responses API.

Il vous faut un compte BroadNet Inference et une clé d’inférence. Les nouveaux comptes démarrent avec $5 de crédit, sans carte ; créez-en un sur inference.broadnet.ai. La console n’affiche une clé qu’une seule fois et n’en conserve que le hash : copiez-la directement dans votre environnement.

1. Installer et définir la clé

Le paquet openai actuel (3.x) nécessite Python 3.10 ou plus récent.

python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'

2. Envoyer une première requête

Enregistrez ceci sous first_request.py :

from openai import OpenAI
import os

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)

Lancez-le avec python first_request.py. L’exemple utilise broadnet/gemma-4-26b-a4b parce qu’il fonctionne avec le crédit gratuit. Les autres modèles de chat sont disponibles après une recharge.

3. Passer au modèle de votre choix

Ne changez que model :

Vous voulez ID du modèle
Illimité avec un forfait, contexte de 1M broadnet/deepseek-v4.1-flash
Outils et sortie structurée, contexte de 1M broadnet/glm-5.3
Texte et images en arabe broadnet/qwen3.8-27b
Prix bas, fonctionne avec le crédit gratuit broadnet/gemma-4-26b-a4b

DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B raisonnent avant de répondre, et ce raisonnement est décompté de max_tokens. Accordez-leur 1 000 tokens ou plus. Voici pourquoi une limite trop basse renvoie une réponse vide.

4. Streamer la réponse

stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    stream=True,
    stream_options={"include_usage": True},
    messages=[{"role": "user", "content": "Count from one to three."}],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\n", chunk.usage)

Avec include_usage, le nombre de tokens arrive dans le dernier chunk, qui n’a pas de choices. Le guide du streaming traite des connexions interrompues.

5. Conserver l’ID de requête

Chaque réponse porte un en-tête X-Request-ID. Journalisez-le : le support de BroadNet vous le demandera. Les réponses analysées l’exposent sous response._request_id. Pour le lire avec les autres en-têtes :

raw = client.chat.completions.with_raw_response.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Hi"}],
)
print(raw.headers.get("x-request-id"))
response = raw.parse()

Les clés à l’usage autorisent 30 requêtes par minute et 4 requêtes en cours. Ce que signifie chaque code d’erreur et quand réessayer.

Dépannage

  • AuthenticationError (401). La clé est erronée, expirée ou son quota de paiement à l’usage est épuisé. Vérifiez que BROADNET_API_KEY est bien définie dans le processus qui exécute votre code.
  • NotFoundError (404). Vérifiez que base_url se termine par /v1 et que vous appelez chat.completions, pas responses. Vérifiez ensuite l’ID du modèle, avec le préfixe broadnet/.
  • Un modèle payant échoue sur un nouveau compte. Le crédit de départ de $5 couvre BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) et les deux modèles BroadNet Transcribe. Rechargez pour utiliser les autres modèles de chat : DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B.
  • content vide. Le raisonnement est décompté de max_tokens. Montez-le à 1 000 ou plus. Pourquoi les réponses reviennent vides.
  • RateLimitError (429). Vous avez dépassé la limite par minute ou de requêtes simultanées. Par défaut, le SDK réessaie deux fois ; réglez max_retries sur le client pour changer ce comportement.
  • Erreurs de client HTTP personnalisé après une mise à jour. Le SDK 3.x utilise HTTPX2. Si vous passez votre propre http_client, suivez le guide de migration HTTPX2 du SDK.

Questions fréquentes

Ai-je besoin d’un autre SDK ?

Non. BroadNet Inference parle les formats chat completions et audio transcriptions d’OpenAI : le paquet officiel openai fonctionne avec une autre base_url.

Puis-je continuer à utiliser OPENAI_API_KEY ?

Oui, mais une variable BROADNET_API_KEY distincte évite d’envoyer par erreur la clé d’un fournisseur à un autre.

Le SDK lit-il OPENAI_BASE_URL ?

Oui. Si vous ne passez pas base_url, le client utilise OPENAI_BASE_URL. Définissez-la sur https://inference.broadnet.ai/v1 et OPENAI_API_KEY sur votre clé BroadNet : OpenAI() n’a alors besoin d’aucun argument.

Puis-je utiliser client.responses.create avec BroadNet ?

Non. Le README du SDK met en avant la Responses API, mais la documentation de BroadNet ne mentionne que les chat completions et les audio transcriptions. Utilisez client.chat.completions.create.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity