BroadRouter

Auto-héberger un LLM ou passer par une API : coût réel et rentabilité

Par l’équipe BroadNet Inference · 5 min de lecture · Publié · Mis à jour

Un GPU loué coûte le même prix à l’heure, occupé ou inactif : l’auto-hébergement ne bat une API qu’avec une utilisation élevée et régulière. Divisez le prix horaire par les tokens que le serveur produit réellement par heure, ajoutez le temps d’ingénierie et d’astreinte, et comparez au prix de l’API par million de tokens. Pour un trafic irrégulier ou modeste, l’API gagne presque toujours.

« On ferait des économies en le faisant tourner nous-mêmes » est l’une des affirmations les plus courantes dans la planification des coûts LLM, et l’une des moins souvent vérifiées. Le calcul n’est pas difficile. Il comporte une variable que l’on estime mal (le taux d’utilisation) et un coût que l’on oublie (les personnes). Cet article donne la formule, de vrais prix de location et une méthode pour l’appliquer à vos propres chiffres.

Combien coûte la location de GPU aujourd’hui ?

Prix horaires tirés des pages de tarifs officielles, consultées le 2026-11-14 (RunPod) et le 2026-11-16 (Lambda). Un mois compte ici 730 heures.

GPU Fournisseur et offre (vérifiés le 2026-11-14) Par heure-GPU Par mois, en continu
H100 SXM RunPod Secure Cloud 4,39 USD environ 3 205 USD
H100 SXM RunPod Community Cloud 2,69 USD environ 1 964 USD
H100 PCIe RunPod Secure Cloud 2,89 USD environ 2 110 USD
H200 RunPod Secure Cloud 5,29 USD environ 3 862 USD
A100 80GB SXM RunPod Secure Cloud 2,19 USD environ 1 599 USD
L40S RunPod Secure Cloud 1,09 USD environ 796 USD
H100 SXM Lambda à la demande, de 1 à 8 GPU (en vigueur depuis le 2026-11-16 ; vérifié le 2026-11-16) de 4,59 à 4,89 USD environ de 3 351 à 3 570 USD

La page de Lambda (vérifiée le 2026-11-16) indique que ces prix s’appliquent à partir du 2026-11-16 à 00:00 UTC ; le prix par GPU baisse quand le nœud grandit, jusqu’à 4,59 USD sur un nœud de 8 GPU. Les prix Community Cloud de RunPod sont des prix « à partir de » qui varient selon l’hôte. Secure Cloud et Community Cloud sont deux niveaux d’hébergement différents : lisez les conditions de chacun si vous avez des règles de traitement des données. Beaucoup de modèles ont besoin de plus d’un GPU : un nœud H100 de 8 GPU au tarif Secure Cloud coûte environ 25 638 USD par mois.

Comment calculer le coût auto-hébergé par million de tokens ?

Un GPU produit des tokens à un certain débit global sur l’ensemble des requêtes qu’il traite en batch. Votre coût par token correspond au prix horaire réparti sur les tokens qu’il produit réellement :

coût par million de tokens = prix horaire ÷ (tokens par seconde au total × 3 600 ÷ 1 000 000) ÷ taux d’utilisation

Le taux d’utilisation est la part des heures pendant lesquelles le GPU fait un travail utile à ce débit. Un exemple chiffré avec des valeurs supposées (ce n’est pas un benchmark : mesurez votre propre modèle) :

  • GPU : un H100 SXM en Community Cloud, 2,69 USD de l’heure.
  • Sortie globale supposée : 1 500 tokens par seconde avec un bon batching.
  • Tokens par heure à pleine charge : 1 500 × 3 600 = 5,4 millions.
Taux d’utilisation Tokens effectifs par heure Coût par million de tokens de sortie
100 % (toujours saturé) 5,4 M 0,50 USD
50 % 2,7 M 1,00 USD
25 % (occupé seulement aux heures de bureau) 1,35 M 1,99 USD
10 % (trafic produit irrégulier) 0,54 M 4,98 USD

Comparez maintenant avec un prix d’API par million de tokens de sortie. Le tableau des prix des API LLM montre ce que facturent des dizaines d’hébergeurs pour les mêmes poids ouverts ; sur BroadNet Inference, DeepSeek V4.1 Flash coûte $0.52 par million de tokens de sortie et Gemma 4 VL 26B $0.22. Trouvez la ligne où votre coût auto-hébergé passe sous le prix de l’API : c’est votre taux d’utilisation de rentabilité. L’exemple ignore les tokens d’entrée, qui consomment aussi du temps GPU (prefill) : les coûts auto-hébergés réels sont donc plus élevés que ne l’indique le tableau.

Combien de tokens par mois faut-il pour atteindre la rentabilité ?

Retournez le calcul. Un GPU qui tourne coûte son prix mensuel quoi qu’il arrive. L’API coûte tokens × prix. Le volume de rentabilité est :

tokens mensuels pour la rentabilité = coût mensuel du GPU ÷ prix de l’API par million de tokens × 1 000 000

Pour un H100 en Community Cloud (environ 1 964 USD par mois) face à un prix de sortie de $0.52 par million, divisez 1 964 par ce prix pour obtenir les millions de tokens de sortie par mois qu’il vous faut remplacer avant que le GPU soit rentable. Faites de même avec votre prix mixte entrée et sortie si votre charge est dominée par l’entrée, comme c’est généralement le cas des agents ; l’article forfait ou paiement au token montre comment les combiner.

Et ce GPU doit effectivement pouvoir servir le modèle. Si le modèle a besoin de quatre GPU, multipliez le coût mensuel par quatre avant de diviser.

Quels coûts oublie-t-on ?

Coût Ce qu’il couvre Comment le compter
Mise en place Moteur de service, choix de quantification, autoscaling, tests de charge Heures ponctuelles × votre taux
Exploitation courante Mises à jour, pilotes et moteur, renouvellement des modèles Heures par mois × votre taux
Astreinte Quelqu’un se réveille quand le nœud tombe Votre politique d’astreinte
Redondance Un second nœud pour qu’une panne ne soit pas une interruption de service Double la ligne GPU
Marge inactive Capacité pour les pics, à garder chaude Fait baisser le taux d’utilisation
Évaluation Vérifier une nouvelle version de modèle avant de basculer Heures par version

C’est la redondance qui change le plus le résultat. Un GPU unique est un point de défaillance unique. Deux GPU divisent votre taux d’utilisation par deux du jour au lendemain. Voir évaluer un modèle avant de changer pour le travail d’évaluation qu’entraîne chaque mise à jour.

Quand l’auto-hébergement est-il le bon choix ?

  • Volume élevé et régulier. Des pipelines par lots qui saturent les GPU 24 heures sur 24.
  • Les données doivent rester dans votre réseau. Une exigence ferme, pas un argument de coût. Vérifiez d’abord si une API à conservation zéro des données respecte vos règles.
  • Un modèle qu’aucune API ne sert. Votre propre fine-tune ou un modèle open-weight de niche.
  • Une capacité garantie. Il vous faut un débit que les limites d’une API ne vous donneront pas.

Pour tout le reste, en particulier le trafic irrégulier, les produits en démarrage et les agents qui tournent par à-coups, une API coûte moins cher et n’exige pas de planning d’astreinte.

Existe-t-il des options à prix fixe entre un GPU et la facturation au token ?

Il existe un juste milieu entre louer un GPU et payer au token. BroadNet vend une clé horaire pour Gemma 4 VL 26B à $0.50 de l’heure (un flux, 120 requêtes par minute, 300,000 tokens par minute), soit $360.00 si vous la faites tourner tout le mois. Il vend aussi des sessions de forfait illimitées pour DeepSeek V4.1 Flash à $60 par mois, chacune traitant une requête à la fois à environ 100 tokens par seconde. Elles donnent une facture prévisible comme un GPU loué, sans mise en place ni exploitation, mais avec une simultanéité fixe par clé ou par session plutôt que la capacité de batch d’un GPU entier.

Où se situe BroadNet Inference

BroadNet Inference est le côté API de cette comparaison : prix au token, forfaits et clés horaires pour des modèles open-weight, dont certains hébergés chez des partenaires d’inférence américains, derrière une API compatible OpenAI. Il convient aux équipes dont le trafic laisserait un GPU loué inactif une bonne partie de la journée, ou qui ne veulent pas exploiter d’infrastructure d’inférence. Il ne convient pas s’il vous faut servir un fine-tune sur mesure, un déploiement sur site ou des centaines de requêtes parallèles sur une seule clé. Faites vos calculs dans le calculateur de coût d’API LLM et comparez avec le tableau ci-dessus. Si vous hésitez encore entre modèles ouverts et fermés, coût d’API des modèles open-weight ou fermés compare les prix au token relevés sur la page de chaque fournisseur. Le calculateur auto-hébergement ou API fait tout le calcul de rentabilité avec votre débit mesuré et ces prix de GPU.

Questions fréquentes

Est-il moins cher d’auto-héberger un LLM que d’utiliser une API ?

Seulement à volume élevé et régulier. Un GPU loué est facturé à chaque heure ; une API ne facture que les tokens consommés. Si votre GPU devait rester inactif la majeure partie de la journée, l’API revient moins cher, avant même de compter le temps d’ingénierie.

Combien coûte la location d’un H100 à l’heure ?

Sur la page de tarifs de RunPod au 2026-11-14, un H100 SXM coûtait 4,39 USD de l’heure en Secure Cloud et à partir de 2,69 USD en Community Cloud. Lambda affiche le H100 SXM à la demande entre 4,59 et 4,89 USD par heure-GPU selon la taille du nœud, à des prix en vigueur depuis le 2026-11-16. Consultez les pages pour les tarifs actuels.

Combien de GPU faut-il pour auto-héberger un grand modèle ?

Au minimum assez de mémoire pour les poids, plus le cache KV de vos requêtes simultanées. Les grands modèles mixture of experts nécessitent généralement un nœud multi-GPU. Consultez la fiche du modèle pour son nombre de paramètres et la configuration recommandée.

Quand l’auto-hébergement se justifie-t-il même s’il coûte plus cher ?

Quand les données ne peuvent pas quitter votre réseau, quand il vous faut un modèle fine-tuné ou sur mesure qu’aucune API ne sert, ou quand vous avez besoin d’une capacité garantie. Ce sont des raisons de contrôle, pas de coût.

Comment mesurer le débit réel de mon GPU ?

Faites tourner vos vrais prompts avec votre vraie simultanéité sur un moteur de service comme vLLM ou SGLang, et relevez le total des tokens de sortie par seconde sur l’ensemble des requêtes. Les chiffres de pointe des fabricants supposent un batching idéal.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity