BroadRouter

Comment choisir un fournisseur d’API LLM : checklist en 20 points

Par l’équipe BroadNet Inference · 5 min de lecture · Publié · Mis à jour

Choisissez un fournisseur d’API LLM en le notant sur six domaines : coût total de votre charge de travail réelle, limites de débit et de concurrence, compatibilité OpenAI, conditions de conservation des données et d’entraînement, modèles et tailles de contexte nécessaires, support et fiabilité. Faites ensuite un test d’une semaine avec votre propre trafic avant de vous engager. Le prix au token seul est un mauvais guide.

A chess knight and queen on a board, with the text "The right model. For the next move."

Pour choisir un fournisseur d’API LLM, notez chaque candidat sur six domaines : le coût mensuel de votre charge de travail réelle, les limites de débit et de concurrence, la compatibilité OpenAI, les conditions de conservation des données et d’entraînement, les modèles nécessaires, ainsi que le support et la fiabilité. Testez ensuite les deux meilleurs avec une semaine de trafic réel. Ci-dessous : 20 questions, une grille de notation et le plan de test.

Une fois votre choix fait, la checklist de migration couvre le changement lui-même, et comment évaluer un LLM avant de changer détaille les tests de qualité.

Combien cela coûtera-t-il vraiment ? (questions 1 à 4)

  1. Combien coûte ma charge de travail réelle par mois ? Chiffrez séparément l’entrée, l’entrée en cache et la sortie ; le calculateur gratuit de coût d’API LLM le fait modèle par modèle. Les agents renvoient le même contexte, si bien que l’entrée en cache domine souvent. Notre explication des tarifs passe chaque ligne en revue.
  2. Les tokens de raisonnement sont-ils facturés comme de la sortie ? Les modèles de raisonnement peuvent dépenser plus de tokens à réfléchir qu’à répondre.
  3. Existe-t-il une option forfaitaire ? Pour des agents qui tournent en continu, un forfait peut battre la facturation au token. Voir le calcul du seuil de rentabilité.
  4. Les prix sont-ils lisibles par machine et datés ? Un fichier de prix en JSON vous permet de suivre les changements et de créer des alertes de coûts.

Notre jeu de données ouvert sur les offres gratuites et limites de débit des API LLM compare ce que 14 fournisseurs publient sur l’accès gratuit, les limites de débit de départ, l’exigence d’une carte et l’entraînement sur les données des offres gratuites, avec la source et la date de chaque valeur.

Quelles limites atteindrez-vous en premier ? (questions 5 à 7)

  1. Quelles sont les limites de requêtes par minute et de concurrence ? La concurrence (requêtes en cours) est ce qui bloque les agents parallèles et les traitements par lots. Voir limites de débit et concurrence, et dimensionnez votre trafic par rapport à une limite avec le calculateur de limites de débit.
  2. Y a-t-il un plafond de tokens, une fenêtre glissante ou un quota hebdomadaire ? Les offres « illimitées » en ont souvent un. Lisez ce que veut vraiment dire « illimité ».
  3. Quelle est la fenêtre de contexte, et est-elle tronquée ? Vérifiez le maximum réel par requête, et si le fournisseur coupe en silence les longs prompts.

Est-ce compatible avec votre code ? (questions 8 à 10)

  1. Est-ce compatible OpenAI, et jusqu’où ? Changer l’URL de base devrait suffire. Testez ensuite le streaming avec l’usage, les appels d’outils, la sortie structurée et les codes d’erreur. La checklist de migration liste ce qui casse.
  2. Est-ce que cela fonctionne avec mes outils ? SDK, frameworks d’agents, assistants d’IDE. Consultez les guides d’intégration du fournisseur.
  3. Les identifiants de modèles sont-ils stables ? Il vous faut des identifiants versionnés et un préavis avant le retrait d’un modèle.

Que deviennent vos données ? (questions 11 à 13)

  1. Les prompts et les réponses sont-ils conservés, et combien de temps ? Beaucoup de fournisseurs conservent par défaut le contenu des appels API jusqu’à 30 jours. Comparez les formulations officielles dans la conservation des données des API LLM comparée.
  2. Mes données servent-elles à l’entraînement ? Vérifiez le réglage par défaut de votre offre, par écrit.
  3. Puis-je signer un DPA (accord de traitement des données), voir les sous-traitants et restreindre les clés ? Utilisez la checklist RGPD si vous traitez des données personnelles de l’UE, et demandez des listes d’IP autorisées.

Le fournisseur a-t-il les modèles qu’il vous faut ? (questions 14 à 16)

  1. Le fournisseur a-t-il les tailles de modèles et les capacités dont j’ai besoin ? Vision, appel d’outils, raisonnement, contexte long, parole.
  2. Comment chaque modèle s’en sort-il sur mes tâches ? Construisez 30 à 50 cas de test réels et notez-les. Les benchmarks sont un premier filtre ; où comparer les LLM liste les classements et ce que chacun mesure. Le guide d’évaluation montre comment construire le jeu et éviter les biais du modèle juge.
  3. Open-weight ou fermé ? Les modèles open-weight peuvent être hébergés par plusieurs fournisseurs, ce qui réduit la dépendance. Voir modèles open-weight ou fermés.

Le service restera-t-il disponible, et qui répond ? (questions 17 à 20)

  1. Y a-t-il une page de statut et un historique des incidents ?
  2. Y a-t-il un SLA écrit pour la production ?
  3. Qui exploite les GPU ? Matériel propre, cloud ou capacité revendue d’une autre API. Chaque cas ajoute un acteur sur le chemin des données et de la fiabilité.
  4. Comment joindre un humain ? Délais de réponse, canaux, et accès éventuel du support au contenu de vos requêtes.

Comment noter les fournisseurs entre eux ?

Notez chaque question 0 (non ou inconnu), 1 (en partie) ou 2 (oui, par écrit). Pondérez les groupes selon votre cas d’usage :

Groupe Questions Poids pour un agent Poids pour une application réglementée
Prix 1 à 4 Élevé Moyen
Limites 5 à 7 Élevé Moyen
Compatibilité 8 à 10 Moyen Moyen
Confidentialité 11 à 13 Moyen Élevé
Modèles 14 à 16 Élevé Élevé
Support et fiabilité 17 à 20 Moyen Élevé

Un « inconnu » vaut 0 pour une bonne raison : si un fournisseur ne peut pas répondre, vous ne pouvez pas compter sur lui.

Comment tester un fournisseur en une semaine ?

  1. Prenez les deux meilleurs fournisseurs de la grille.
  2. Envoyez une part du trafic réel à chacun via le même SDK OpenAI, avec les identifiants de modèles et les URL de base dans la configuration.
  3. Journalisez par requête : modèle, tokens de prompt, tokens en cache, tokens de complétion, latence, code de statut. Ne journalisez jamais le contenu.
  4. Provoquez votre pic : lancez votre traitement par lots ou vos agents parallèles et surveillez les erreurs 429. Le guide des erreurs et nouvelles tentatives montre un back-off correct.
  5. Multipliez les tokens de la semaine par environ 4,3 et chiffrez le mois pour chaque fournisseur.
  6. Notez les réponses sur votre jeu de test.

Les réponses de BroadNet Inference à la checklist

N° BroadNet Inference
1, 4 Prix au token publiés dans pricing.json, synchronisés 2026-11-14
3 Forfaits pour DeepSeek V4.1 Flash : $60 par mois, $15 par semaine ou $1 de l’heure, par session
5 Paiement à l’usage : 30 requêtes par minute, 4 en cours ; les sessions des forfaits traitent une requête à la fois
6 Forfaits : pas de compteur de tokens, pas de fenêtre glissante, pas de plafond hebdomadaire
7 Jusqu’à 1 048 576 tokens sur DeepSeek V4.1 Flash et GLM 5.3 ; la page des forfaits indique que le contexte n’est jamais tronqué
8 Compatible OpenAI à l’adresse https://inference.broadnet.ai/v1
11, 12 Aucun prompt ni aucune réponse conservés ; pas d’utilisation pour entraîner, affiner ou évaluer des modèles
13 Listes d’IP autorisées jusqu’à 32 entrées ; liste des sous-traitants sur demande ; demandez un DPA
14 Quatre modèles de chat et deux modèles de transcription (speech-to-text)
19 Selon la déclaration de confidentialité de BroadNet, ses propres modèles et les modèles open-weight qu’elle héberge tournent sur du matériel détenu ou loué par BroadNet aux États-Unis, avec de la capacité partenaire en secours ; les modèles servis par des partenaires, comme DeepSeek V4.1 Flash, tournent chez des partenaires d’inférence américains sous conditions ZDR

Ce que nous n’avons pas trouvé dans la documentation ni sur les pages de forfaits de BroadNet (vérifié le 14 novembre 2026) : un SLA, une page de statut ou une politique de retrait des modèles. Demandez-les si cela compte pour vous, et gardez un second fournisseur pour les chemins critiques. Le catalogue est aussi plus restreint que celui d’un agrégateur : si vous avez besoin de modèles GPT, Claude ou Gemini, BroadNet n’est pas le fournisseur pour ce trafic. Le crédit de départ de $5 suffit pour l’étape 3 du plan de test sur une charge légère, mais, parmi les modèles de chat qu’il couvre, uniquement avec Gemma 4 VL 26B (il couvre aussi les deux modèles Transcribe) ; les autres modèles de chat nécessitent une recharge.

Questions fréquentes

Que faut-il regarder chez un fournisseur d’API LLM ?

Le coût total pour votre charge de travail, les limites de débit et de concurrence, la compatibilité OpenAI, les conditions de conservation des données et d’entraînement, les modèles et tailles de contexte nécessaires, ainsi que le support et la fiabilité. Notez chaque point, puis testez avec du trafic réel.

L’API LLM la moins chère est-elle le meilleur choix ?

Pas toujours. Le prix de l’entrée en cache, les tokens de raisonnement, les nouvelles tentatives dues aux limites de débit et le temps d’ingénierie pour contourner des fonctions manquantes peuvent annuler un prix catalogue plus bas. Comparez la facture mensuelle de votre charge de travail réelle.

Comment éviter la dépendance à un fournisseur d’API LLM ?

Utilisez une API compatible OpenAI via un SDK standard, gardez les identifiants de modèles et les URL de base dans la configuration, évitez les fonctions propres à un fournisseur dans votre chemin principal et gardez un second fournisseur testé.

Combien de temps tester une API LLM avant de s’engager ?

Environ une semaine de trafic réel suffit pour voir la consommation de tokens, le taux de succès du cache, la latence, les taux d’erreur et le comportement face aux limites de débit. Multipliez la semaine par environ 4,3 pour estimer un mois.

Quelle disponibilité un fournisseur d’API LLM doit-il offrir ?

Demandez une page de statut publique, un historique des incidents et, pour la production, un SLA écrit. Si un fournisseur n’a rien de tout cela, prévoyez un fournisseur de repli pour vos chemins critiques.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity