Il vous faut un compte BroadNet Inference et une clé d’inférence. Les nouveaux comptes démarrent avec $5 de crédit, sans carte ; créez-en un sur inference.broadnet.ai. La console n’affiche une clé qu’une seule fois et n’en conserve que le hash : copiez-la directement dans votre environnement.
1. Installer et définir la clé
Le paquet openai actuel (3.x) nécessite Python 3.10 ou plus récent.
python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'
2. Envoyer une première requête
Enregistrez ceci sous first_request.py :
from openai import OpenAI
import os
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)
Lancez-le avec python first_request.py. L’exemple utilise broadnet/gemma-4-26b-a4b parce qu’il fonctionne avec le crédit gratuit. Les autres modèles de chat sont disponibles après une recharge.
3. Passer au modèle de votre choix
Ne changez que model :
| Vous voulez | ID du modèle |
|---|---|
| Illimité avec un forfait, contexte de 1M | broadnet/deepseek-v4.1-flash |
| Outils et sortie structurée, contexte de 1M | broadnet/glm-5.3 |
| Texte et images en arabe | broadnet/qwen3.8-27b |
| Prix bas, fonctionne avec le crédit gratuit | broadnet/gemma-4-26b-a4b |
DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B raisonnent avant de répondre, et ce raisonnement est décompté de max_tokens. Accordez-leur 1 000 tokens ou plus. Voici pourquoi une limite trop basse renvoie une réponse vide.
4. Streamer la réponse
stream = client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
stream=True,
stream_options={"include_usage": True},
messages=[{"role": "user", "content": "Count from one to three."}],
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if chunk.usage:
print("\n", chunk.usage)
Avec include_usage, le nombre de tokens arrive dans le dernier chunk, qui n’a pas de choices. Le guide du streaming traite des connexions interrompues.
5. Conserver l’ID de requête
Chaque réponse porte un en-tête X-Request-ID. Journalisez-le : le support de BroadNet vous le demandera. Les réponses analysées l’exposent sous response._request_id. Pour le lire avec les autres en-têtes :
raw = client.chat.completions.with_raw_response.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Hi"}],
)
print(raw.headers.get("x-request-id"))
response = raw.parse()
Les clés à l’usage autorisent 30 requêtes par minute et 4 requêtes en cours. Ce que signifie chaque code d’erreur et quand réessayer.
Dépannage
AuthenticationError(401). La clé est erronée, expirée ou son quota de paiement à l’usage est épuisé. Vérifiez queBROADNET_API_KEYest bien définie dans le processus qui exécute votre code.NotFoundError(404). Vérifiez quebase_urlse termine par/v1et que vous appelezchat.completions, pasresponses. Vérifiez ensuite l’ID du modèle, avec le préfixebroadnet/.- Un modèle payant échoue sur un nouveau compte. Le crédit de départ de $5 couvre BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) et les deux modèles BroadNet Transcribe. Rechargez pour utiliser les autres modèles de chat : DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B. contentvide. Le raisonnement est décompté demax_tokens. Montez-le à 1 000 ou plus. Pourquoi les réponses reviennent vides.RateLimitError(429). Vous avez dépassé la limite par minute ou de requêtes simultanées. Par défaut, le SDK réessaie deux fois ; réglezmax_retriessur le client pour changer ce comportement.- Erreurs de client HTTP personnalisé après une mise à jour. Le SDK 3.x utilise HTTPX2. Si vous passez votre propre
http_client, suivez le guide de migration HTTPX2 du SDK.
