Les agents de code envoient des dépôts entiers. Les bots de support envoient des messages de clients. Le ZDR répond à la question qui suit : que devient ce contenu une fois la réponse revenue ?
Comment ça marche
Avec le ZDR, le fournisseur ne garde le contenu des prompts et des sorties qu’en mémoire, le temps de servir la requête. Ensuite, il n’est écrit ni dans :
- les logs de requêtes ou de débogage ;
- les stockages de surveillance des abus ;
- les caches ou files d’attente persistants ;
- les jeux de données d’entraînement ou d’évaluation.
Les enregistrements normalement conservés, sans contenu, comprennent les ID de requête, les horodatages, les codes de statut, le modèle, le nombre de tokens, le coût et les adresses IP des clients.
Le ZDR n’est pas la règle partout. L’API d’OpenAI, par exemple, conserve par défaut des logs de surveillance des abus jusqu’à 30 jours et propose le ZDR aux clients approuvés. Elle indique aussi que les données d’API ne servent pas à l’entraînement, sauf si vous l’acceptez explicitement. Lisez les conditions de chaque fournisseur plutôt que de supposer.
Pourquoi c’est important
- Conformité. Les prompts contiennent souvent des données personnelles, des informations de santé ou des secrets d’affaires. Un contenu jamais stocké ne peut pas fuiter depuis des logs ou des sauvegardes.
- Moins d’intermédiaires. Chaque système qui garde une copie est un endroit de plus à sécuriser. Un routeur ou un revendeur ajoute des intermédiaires sur le chemin des données.
- Voix et images. Les notes vocales et les documents numérisés comptent parmi les entrées les plus sensibles. Le ZDR doit aussi couvrir l’audio et les transcriptions.
Le ZDR protège ce qui se passe après l’arrivée de votre requête. Vous devez toujours protéger vos clés d’API, les restreindre à des IP connues et masquer ce dont le modèle n’a pas besoin.
Sur BroadNet Inference
La documentation de BroadNet indique que le ZDR est « built into how we serve requests, not only stated in policy » (traduction : « intégré à notre façon de servir les requêtes, pas seulement énoncé dans une politique »). BroadNet Inference ne conserve ni prompts, ni images, ni audio, ni réponses, ni transcriptions, pour aucune requête. Il conserve des enregistrements de trafic et d’usage sans contenu, comme les durées, le nombre de tokens et le coût, aussi longtemps que l’exigent la facturation, la fiscalité, la sécurité et les obligations légales. Un audit automatisé de la conservation s’exécute toutes les heures.
Selon la déclaration de confidentialité de BroadNet, les modèles qu’il héberge tournent sur du matériel détenu ou loué par BroadNet aux États-Unis, avec une capacité partenaire en secours ; les modèles servis par des partenaires fonctionnent sous des conditions de conservation zéro des données avec des partenaires d’inférence américains. Les clés peuvent être restreintes à vos serveurs avec une liste d’IP autorisées.
La liste complète de ce qui est stocké ou non figure sur la page zero data retention. Pour comparer les fournisseurs, utilisez la checklist ZDR en 10 questions.