BroadRouter

API LLM à conservation zéro des données : checklist en 10 questions

Par l’équipe BroadNet Inference · 5 min de lecture · Publié · Mis à jour

Une API LLM à conservation zéro des données traite vos prompts et sorties pour la requête, puis ne les stocke nulle part : ni logs, ni caches, ni jeux d’entraînement. Demandez ce qui est conservé (souvent des relevés d’usage sans contenu), combien de temps, qui exploite les GPU et comment c’est vérifié. BroadNet Inference ne conserve ni prompts, ni images, ni audio, ni réponses, et vérifie chaque heure la configuration de sa passerelle.

A glass enclosure with an input entering and a response leaving, labelled "Private inference".

Les agents de code envoient des dépôts entiers. Les bots de support envoient des messages de clients. Les pipelines de transcription envoient des appels téléphoniques. Avant que quoi que ce soit parte vers une API LLM, quelqu’un posera la question : que devient tout cela une fois la réponse revenue ? « Zero data retention » (ZDR, conservation zéro des données) est la réponse qu’on veut entendre, mais l’expression recouvre des pratiques très différentes.

Que devrait couvrir la conservation zéro des données ?

Le contenu qui ne devrait pas survivre à la requête :

  • Prompts, prompts système et résultats d’outils
  • Images et audio
  • Sorties du modèle et transcriptions
  • Corps complets des requêtes et des réponses, y compris dans les logs de débogage
  • URL brutes, chaînes de requête et valeurs d’authentification

Les relevés normalement conservés, qui devraient être sans contenu :

  • Identifiants de requête, durées, statut HTTP, nombre d’octets
  • Identifiants de compte et de clé, modèle, nombre de tokens, coût
  • Adresses IP des clients, pour la sécurité

Si un fournisseur ne sait pas vous dire dans quelle liste figure chaque élément, considérez que la réponse est « non ».

Entraînement, conservation et ZDR : est-ce la même promesse ?

Promesse Ce qu’elle signifie Ce qu’elle ne signifie pas
« Non utilisé pour l’entraînement » Vos données n’entraîneront pas de futurs modèles Elles peuvent tout de même être stockées un moment
« Conservé N jours » Le contenu est gardé, puis supprimé Le personnel ou des systèmes peuvent y accéder entre-temps
« Zero data retention » Le contenu n’est pas stocké après la requête Les métadonnées sont toujours conservées

Les grands fournisseurs montrent pourquoi la différence compte. Pour une comparaison côte à côte des formulations officielles de plusieurs fournisseurs, voir la conservation des données des API LLM comparée. La page sur les contrôles des données d’OpenAI indique que, depuis le 1er mars 2023, les données de l’API ne servent pas par défaut à entraîner ses modèles. La même page précise que les logs de surveillance des abus « are retained for up to 30 days » (traduction : « sont conservés jusqu’à 30 jours »), que les contrôles ZDR « are subject to prior approval by OpenAI » (traduction : « sont soumis à l’approbation préalable d’OpenAI ») et que les endpoints qui stockent un état, comme les fichiers, les assistants et les batches, ne sont pas éligibles. Un fournisseur peut être honnête sur ces trois points et tout de même conserver votre contenu un mois par défaut.

Où les promesses de ZDR ont-elles le plus souvent des failles ?

  • Éligibilité. Le ZDR peut exiger une approbation, un forfait particulier ou un contrat, et reste désactivé tant qu’on ne l’a pas activé.
  • Périmètre des endpoints. Le chat peut être éligible alors que le stockage de fichiers, les batches ou le fine-tuning ne le sont pas.
  • Exceptions de sécurité. La FAQ d’OpenRouter, par exemple, définit le ZDR comme « no routine storage of prompts or responses after processing, apart from a CSAM exception » (traduction : « aucun stockage courant des prompts ou des réponses après traitement, hormis une exception relative aux contenus pédocriminels (CSAM) »).
  • Les couches au-dessus du modèle. Une passerelle, un routeur ou un outil d’observabilité intermédiaire peut journaliser les prompts même si le fournisseur du modèle ne le fait pas. Interrogez chaque couche.
  • Vos propres systèmes. Vos logs applicatifs, outils de suivi d’erreurs et analytics conservent souvent plus de contenu que le fournisseur.

Quelles 10 questions poser à un fournisseur ?

  1. Les prompts et les sorties sont-ils stockés après la requête ? Où que ce soit ? Y compris logs, caches, files d’attente et sauvegardes.
  2. Un contenu sert-il à l’entraînement ou à l’évaluation ? Par vous ou par un éditeur de modèle ?
  3. Que conservez-vous, champ par champ ? Demandez la liste.
  4. Combien de temps les relevés d’usage sont-ils conservés, et pourquoi ?
  5. Qui exploite les GPU ? Votre fournisseur, un cloud, ou le revendeur d’un revendeur ?
  6. Quels sous-traitants peuvent voir le contenu des requêtes ?
  7. Comment la conservation est-elle vérifiée ? Une politique, ou un contrôle automatisé ?
  8. Les clés peuvent-elles être limitées à mes adresses IP ? Une clé divulguée est aussi un chemin d’accès aux données.
  9. Où se trouve le matériel, et un placement régional est-il possible ?
  10. Que se passe-t-il lors d’un ticket de support ? Le personnel peut-il voir le contenu quand vous signalez un bug ?

Demandez les réponses par écrit, et notez quel document les rend contraignantes : les conditions, une déclaration de confidentialité ou un contrat signé.

Comment BroadNet Inference y répond-il ?

Question BroadNet Inference
Prompts, images, audio, réponses stockés Non ; traités pour la requête et non conservés
Entraînement sur vos données Non ; la déclaration de confidentialité exclut l’entraînement, l’affinage et l’évaluation sur les données d’inférence
Ce qui est conservé Relevés de trafic, d’usage et de compte sans contenu (liste complète)
Durée de conservation des relevés Aussi longtemps que l’exigent la facturation, la fiscalité, la sécurité et les obligations légales
Vérification Vérification horaire de la configuration de la passerelle (fonctionnement sans contenu)
Matériel La déclaration de confidentialité indique que les modèles hébergés tournent sur du « BroadNet-owned or leased hardware in the United States, with partner capacity as backup » (matériel détenu ou loué par BroadNet aux États-Unis, avec une capacité partenaire en secours) ; les modèles servis par des partenaires tournent sous conditions ZDR chez des partenaires d’inférence américains
Résidence des données Convenir des lieux de traitement avec BroadNet avant d’envoyer des données soumises à des exigences de résidence (checklist RGPD)
Protection des clés Listes d’IP autorisées, jusqu’à 32 entrées ; modifications et révocations appliquées aux nouvelles requêtes en cinq secondes
Clés stockées Empreintes SHA-256 uniquement ; la clé brute est affichée une fois

La documentation de BroadNet décrit la conservation zéro des données comme « built into how we serve requests, not only stated in policy » (traduction : « intégrée à la façon dont nous servons les requêtes, pas seulement énoncée dans une politique »). Elle s’applique à chaque requête, sans réglage à activer. Les détails sont dans la déclaration de confidentialité.

Le ZDR couvre-t-il la voix et l’audio en arabe ?

La voix est l’entrée la plus sensible que traitent la plupart des produits : un message vocal peut contenir un nom, un numéro de téléphone et une information de santé en dix secondes. Si vous transcrivez des appels ou des messages vocaux WhatsApp, posez les mêmes dix questions sur l’audio et les transcriptions. Voir le guide d’achat des API speech-to-text pour l’arabe.

Comment vérifier les réponses d’un fournisseur ?

  1. Lisez la déclaration de confidentialité et la référence de l’API, pas seulement la page marketing. Cherchez une liste champ par champ.
  2. Vérifiez le périmètre. Quels modèles, endpoints et forfaits la promesse couvre-t-elle ?
  3. Regardez ce que renvoie l’API. Si un tableau de bord affiche vos anciens prompts, ils sont stockés quelque part.
  4. Renseignez-vous sur le processus de support. Qui peut voir quoi quand vous ouvrez un ticket ?
  5. Consignez les réponses dans votre fiche fournisseur, avec les liens et la date de votre vérification.

Que le ZDR ne règle-t-il pas ?

La conservation zéro des données protège ce qui se passe après que votre requête a atteint le fournisseur. Il vous faut toujours :

  • Garder les clés d’API sur des serveurs, jamais dans des navigateurs ou des applications mobiles
  • Limiter les clés à vos IP sortantes avec une liste d’IP autorisées
  • Masquer ce dont le modèle n’a pas besoin, comme les numéros de carte (comment masquer avant l’envoi)
  • Journaliser les identifiants de requête de votre côté, pour déboguer sans que le fournisseur stocke de contenu ; le guide des erreurs indique quoi envoyer au support

Quand vous migrez une application d’un fournisseur à un autre, ajoutez ces vérifications à la checklist de migration. Si vous passez par une passerelle, posez-lui les mêmes questions ; la comparaison avec OpenRouter montre comment un routeur gère le ZDR.

Où se situe BroadNet Inference

BroadNet Inference convient aux équipes qui veulent le ZDR sur chaque requête sans avoir à le demander, y compris sur les modèles hébergés chez des partenaires, qui tournent selon sa déclaration de confidentialité sous des conditions de conservation zéro des données chez des partenaires d’inférence américains. Il conserve des relevés sans contenu pour la facturation et la sécurité, comme tout fournisseur. Si vos données doivent être traitées dans une région précise, convenez des lieux de traitement avec BroadNet avant d’envoyer des données ; par défaut, ses modèles propres et hébergés tournent aux États-Unis.

Questions fréquentes

Que signifie « zero data retention » pour une API LLM ?

Le fournisseur traite vos prompts, fichiers et sorties pour répondre à la requête et ne stocke pas ce contenu ensuite, y compris dans les logs, caches, sauvegardes ou jeux d’entraînement. Des relevés sans contenu, comme les durées et le nombre de tokens, sont en général toujours conservés.

Conservation zéro des données veut-elle dire aucun log ?

Non. Les fournisseurs conservent des relevés opérationnels comme les durées, le nombre de tokens, le coût, les codes de statut et les adresses IP. La conservation zéro des données signifie que ces relevés ne contiennent aucun contenu de prompt ni de sortie.

« Nous n’entraînons pas sur vos données », est-ce la même chose que zero data retention ?

Non. Un fournisseur peut promettre de ne pas entraîner sur les données de l’API et les conserver malgré tout pendant un certain temps, par exemple pour la surveillance des abus. La documentation d’OpenAI indique que les données de l’API ne servent pas à l’entraînement par défaut et que les logs de surveillance des abus sont conservés jusqu’à 30 jours.

Mes prompts servent-ils à entraîner des modèles sur BroadNet Inference ?

Non. La déclaration de confidentialité de BroadNet indique qu’elle n’utilise pas les données d’inférence « to train, fine-tune or evaluate models » (traduction : « pour entraîner, affiner ou évaluer des modèles »), et les prompts, images, audio, réponses et transcriptions ne sont pas conservés après la requête.

La conservation zéro des données suffit-elle pour le RGPD ?

Elle aide, mais ne règle pas la question à elle seule. Il vous faut toujours une base légale, un registre des traitements et un contrat avec chaque sous-traitant. Interrogez votre DPO ; le ZDR réduit ce que détient un fournisseur, pas vos propres obligations.

Où BroadNet fait-il tourner ses modèles ?

La déclaration de confidentialité de BroadNet indique que ses modèles open-weight propres et hébergés tournent sur du matériel détenu ou loué par BroadNet aux États-Unis, avec une capacité partenaire en secours. Les modèles servis par des partenaires tournent sous des conditions de conservation zéro des données chez des partenaires d’inférence américains. Contactez BroadNet pour convenir des lieux de traitement avant d’envoyer des données soumises à des exigences de résidence.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity