Chaque requête à un LLM a deux côtés : ce que vous envoyez et ce qui revient. Les API comptent les deux en tokens, et la plupart les facturent à des tarifs différents.
Comment ça marche
L’entrée, c’est tout ce que contient la requête : le prompt système, chaque message précédent, les définitions d’outils, les résultats d’outils, les documents et les images. Un chat à plusieurs tours renvoie tout l’historique à chaque tour : l’entrée grandit donc avec la conversation.
La sortie, c’est tout ce que le modèle génère : la réponse visible, les appels d’outils et, pour les modèles de raisonnement, les tokens de raisonnement cachés.
Le bloc usage indique les deux :
"usage": {
"prompt_tokens": 18000,
"completion_tokens": 900,
"prompt_tokens_details": { "cached_tokens": 15000 },
"completion_tokens_details": { "reasoning_tokens": 600 }
}
Le coût d’une requête est :
(new input × input price) + (cached input × cached price) + (output × output price), c’est-à-dire l’entrée nouvelle fois le prix d’entrée, plus l’entrée en cache fois le prix du cache, plus la sortie fois le prix de sortie, chaque prix étant exprimé par million de tokens.
Pourquoi c’est important
Le rapport entre les deux détermine quel prix compte. Un assistant de chat peut produire quelques centaines de tokens pour une question courte. Un agent de code renvoie un gros contexte de dépôt à chaque tour et écrit un patch court : l’entrée peut alors dépasser la sortie dans un rapport de 20 pour 1, voire plus. Pour les agents, le prix d’entrée et le prix de l’entrée en cache font l’essentiel de la facture.
La sortie mérite tout de même d’être surveillée. Les modèles de raisonnement peuvent dépenser plus de tokens à réfléchir qu’à répondre, et ces tokens sont facturés comme sortie. Le rapport typique entre prix de sortie et prix d’entrée, sur les modèles que nous suivons, figure dans l’index des prix des API LLM.
Sur BroadNet Inference
Par million de tokens, d’après le fichier de prix publié :
| Modèle | Entrée | Entrée en cache | Sortie |
|---|---|---|---|
| DeepSeek V4.1 Flash | $0.175 | $0.0055 | $0.52 |
| GLM 5.3 | $0.78 | $0.173 | $3.46 |
| Qwen3.8 27B | $0.175 | $0.0435 | $2.17 |
| BroadNet Gemma 4 VL 26B | $0.10 | — | $0.22 |
Dans l’exemple chiffré de BroadNet, un agent de code à plein temps envoie 1 000 millions de tokens d’entrée par mois avec 80 % de hits de cache et reçoit 50 millions de tokens de sortie. Sur DeepSeek V4.1 Flash au token, cela coûte $65.40. Un forfait supprime le compteur : Full Moon coûte $60 par mois et par session. Comparez vos propres chiffres avec le calculateur de prix ou lisez forfait ou paiement au token.
Erreurs fréquentes
- Ne chiffrer que la réponse visible et oublier les tokens de raisonnement.
- Négliger la vitesse à laquelle l’historique grandit. Le 30e tour d’un chat peut transporter l’entrée de 30 tours.