BroadRouter
Commencer

Données sensibles et API LLM : masquer, minimiser, moins journaliser

Par l’équipe BroadNet Inference · 5 min de lecture · Publié · Mis à jour

Pour envoyer des données sensibles à une API LLM, décidez d’abord quels champs la tâche exige et supprimez le reste. Remplacez noms, numéros et identifiants par des marqueurs réversibles avant la requête, puis restaurez-les dans votre propre code. Choisissez un fournisseur à zéro rétention, gardez le contenu des prompts hors de vos logs et limitez les clés API à vos serveurs.

The word "PRIVATE" in bold letters, with the text "Control what AI sees." and "LSDF by BroadNet".

Les bots de support lisent des réclamations avec noms et numéros de commande. Les chaînes de traitement de centres d’appels envoient des transcriptions contenant des chiffres de carte. Les applications de santé envoient des symptômes. Tout cela est utile à un modèle, et tout cela devient des données sensibles dès que ça quitte vos serveurs.

L’OWASP classe la divulgation d’informations sensibles en LLM02 de son Top 10 2025 pour les applications LLM. La plupart des conseils portent sur ce que le modèle pourrait révéler. Cet article porte sur la partie que vous maîtrisez : ce que vous envoyez, et ce que vous conservez.

Qu’est-ce qui compte comme donnée sensible pour une API LLM ?

Rangez les champs en trois catégories avant d’écrire un prompt :

Catégorie Exemples Règle par défaut
Identifiants directs Nom, e-mail, téléphone, numéro d’identité, numéro de compte Remplacer par des marqueurs
Données particulières ou réglementées Santé, biométrie, religion, numéros de carte, identifiants de connexion Ne pas envoyer, sauf si la tâche l’exige et que vous avez une base légale
Contexte Noms de produits, type de demande, dates, montants Généralement envoyable

Au sens du RGPD, les catégories particulières (article 9) exigent une condition spécifique avant même d’être traitées. Les données de carte et les secrets comme les mots de passe ou les clés API ne doivent jamais arriver dans un prompt.

Étape 1 : de quels champs la tâche a-t-elle vraiment besoin ?

Le meilleur masquage, c’est de ne pas envoyer le champ. Demandez-vous ce dont la tâche a besoin :

  1. Résumer un ticket ? Le modèle a besoin de la réclamation, pas de l’adresse du client.
  2. Classer l’intention ? Il a besoin du texte du message, pas de l’identifiant de compte.
  3. Rédiger une réponse ? Il lui faut au plus un prénom, et un marqueur fait l’affaire.

Construisez les prompts à partir de champs choisis, au lieu de déverser tout l’enregistrement en JSON. Cela réduit aussi les tokens d’entrée, donc la facture.

Étape 2 : comment masquer sans que le modèle perde le sens du texte ?

Remplacez chaque valeur par un marqueur typé et numéroté. Le modèle garde la structure de la phrase, et votre code restaure les valeurs ensuite.

import os, re
from openai import OpenAI

PATTERNS = {   # order matters: IBAN before PHONE, or the phone pattern eats IBAN digits
    "EMAIL": r"[\w.+-]+@[\w-]+\.[\w.-]+",
    "IBAN":  r"\b[A-Z]{2}\d{2}[A-Z0-9]{11,30}\b",
    "PHONE": r"\+?\d[\d\s-]{7,}\d",
}

def redact(text):
    mapping, n = {}, {}
    for kind, pat in PATTERNS.items():
        def sub(m):
            n[kind] = n.get(kind, 0) + 1
            key = f"[{kind}_{n[kind]}]"
            mapping[key] = m.group(0)
            return key
        text = re.sub(pat, sub, text)
    return text, mapping

def restore(text, mapping):
    for key, value in mapping.items():
        text = text.replace(key, value)
    return text

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
# Any OpenAI-compatible endpoint works; this uses Qwen3.8 27B on BroadNet Inference.

ticket = "Call me on +971 50 123 4567 or mail sara@example.com about my refund."
safe, mapping = redact(ticket)
reply = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    messages=[
        {"role": "system", "content": "Keep placeholders like [PHONE_1] exactly as written."},
        {"role": "user", "content": f"Draft a short reply to this ticket:\n{safe}"},
    ],
).choices[0].message.content
print(restore(reply, mapping))   # the mapping never left your server

Les expressions régulières attrapent les valeurs structurées. Les noms et adresses demandent de la reconnaissance d’entités. Des outils open source comme Microsoft Presidio combinent motifs, sommes de contrôle et modèles de reconnaissance d’entités nommées, et vous laissent ajouter vos propres détecteurs. Testez tout détecteur sur vos propres données : les noms arabes, les formats de téléphone du Golfe et les textes mêlant plusieurs écritures sont justement là où les détecteurs génériques échouent.

Si vous préférez faire tourner un proxy plutôt que d’écrire le masquage vous-même, BroadNet en publie un en open source : le LLM Sensitive Data Firewall (LSDF), sous Apache-2.0. Il se place devant n’importe quel point de terminaison compatible OpenAI, y compris des modèles que BroadNet n’héberge pas, et selon BroadNet il inspecte les requêtes, les réponses, les fragments en streaming, les arguments d’appels d’outils en streaming, le contexte récupéré et les champs de raisonnement, avec un nettoyeur séparé pour les traces et les logs. Dans l’évaluation de BroadNet de mai 2026 sur ses propres corpus, ses détecteurs de données personnelles au sens large ont obtenu un rappel de 1,000 sur un rejeu de 40 cas d’identifiants, 0,944 sur des données cliniques synthétiques et 0,685 sur des données personnelles anglaises au sens large, contre 0,194, 0,056 et 0,326 pour Microsoft Presidio seul (compte rendu de BroadNet). Ce sont les chiffres de BroadNet pour son propre outil ; faites tourner son profil monitor sur votre trafic avant d’imposer quoi que ce soit.

Deux règles pour les marqueurs :

  • Gardez-les cohérents au sein d’une conversation, pour que [NAME_1] désigne la même personne à chaque tour.
  • Demandez au modèle de les conserver tels quels, comme dans le prompt système ci-dessus.

Étape 3 : que deviennent les données chez le fournisseur ?

Le masquage réduit ce qui sort. Le fournisseur décide de la suite. Demandez :

  • Le contenu est-il stocké après la requête, et combien de temps ?
  • Sert-il à l’entraînement, et quel est le réglage par défaut ?
  • Qui exploite le matériel, et où ?

Les réponses varient beaucoup d’un fournisseur à l’autre. Voir la conservation des données des API LLM comparée pour la formulation officielle de cinq d’entre eux, la liste de contrôle ZDR pour les questions techniques et la liste de contrôle RGPD pour le volet contractuel.

Étape 4 : comment garder les prompts hors de vos propres logs ?

C’est dans votre propre stack que les prompts persistent le plus souvent. Fuites courantes :

  • La journalisation de débogage du client HTTP qui affiche le corps des requêtes.
  • Les SDK de traçage et d’observabilité qui enregistrent les prompts complets par défaut.
  • Les outils de rapport d’erreurs qui joignent la charge utile de la requête échouée.
  • Les événements d’analytique qui incluent le message de l’utilisateur.
  • Les files de nouvelle tentative et les files de lettres mortes qui stockent des requêtes entières.

Journalisez plutôt : identifiant de requête, modèle, nombre de tokens du prompt et de la complétion, latence, code de statut et l’identifiant de votre propre table de correspondance de masquage (jamais la table elle-même). Cela suffit pour déboguer coûts et erreurs. L’article sur la journalisation de l’usage propose une surcouche qui écrit exactement ces champs et calcule le coût par appel.

Étape 5 : comment protéger le chemin vers l’API ?

Étape 6 : que vérifier dans la réponse ?

Le masquage protège la requête. La réponse mérite aussi une vérification, car un modèle peut répéter, deviner ou reconstruire des valeurs :

  • Intégrité des marqueurs. Après restore(), cherchez des marqueurs résiduels comme [PHONE_3] qui n’ont jamais figuré dans votre table de correspondance. Ils signifient que le modèle en a inventé un.
  • Nouvelles données personnelles dans la sortie. Passez le même détecteur sur la réponse. Une réponse qui contient une adresse e-mail que vous n’avez jamais envoyée mérite un second regard avant d’arriver chez un client.
  • Fuite entre utilisateurs. Si vous mettez des réponses en cache ou partagez l’état de conversation, assurez-vous que les valeurs restaurées d’un utilisateur ne peuvent jamais apparaître dans la réponse d’un autre.

Vérifiez chaque canal de sortie, pas seulement la réponse du chat. L’étude Safety Map de BroadNet a trouvé des valeurs sensibles sortant par les arguments d’appels d’outils dans 20 des 73 exécutions qui les remplissaient, et par le champ de raisonnement dans 29 des 43 exécutions qui le remplissaient, alors que la réponse visible était jugée sûre, manquée ou tronquée.

Testez toute la boucle sur un jeu fixe de 50 exemples réels et sensibles chaque fois que vous changez le prompt, le modèle ou le détecteur. Comptez les valeurs manquées, pas seulement celles attrapées : un numéro de carte oublié compte plus que cent marqueurs corrects.

L’audio sensible demande-t-il le même traitement ?

Un message vocal peut contenir un nom, un numéro de téléphone et une information de santé en dix secondes. Les transcriptions en héritent entièrement. Masquez la transcription avant qu’elle parte vers un LLM pour être résumée, et ne conservez l’audio brut que le temps nécessaire. Notre chaîne de transcription pour centre d’appels montre le masquage entre l’étape de transcription et celle du résumé.

Où se situe BroadNet Inference

La déclaration de confidentialité de BroadNet indique que sa passerelle « keeps no prompts, messages, images, audio, responses or transcripts » (traduction : « ne conserve aucun prompt, message, image, audio, réponse ni transcription ») et qu’elle n’utilise pas les données d’inférence « to train, fine-tune or evaluate models » (traduction : « pour entraîner, affiner ou évaluer des modèles »). Elle conserve des enregistrements sans contenu, comme les durées, le nombre de tokens et le coût ; la liste complète figure sur la page zéro rétention des données. Les clés peuvent être limitées à vos adresses IP. Qwen3.8 27B, utilisé dans l’exemple ci-dessus, a été testé en arabe par BroadNet, ce qui compte quand vos marqueurs se trouvent dans un texte arabe.

Cela couvre le côté fournisseur. BroadNet ne masque pas à votre place et ne nettoie pas vos logs. Les étapes 1, 2 et 4 restent votre travail avec n’importe quel fournisseur, BroadNet compris. Si vous avez besoin d’un accord de traitement des données (DPA) écrit ou d’une liste des sous-traitants pour des données réglementées, demandez-les à BroadNet avant d’envoyer quoi que ce soit ; la déclaration précise que la liste des sous-traitants est disponible sur demande.

Questions fréquentes

Peut-on envoyer des données personnelles à une API LLM ?

Oui, avec des garde-fous : un contrat avec le fournisseur, une politique claire de conservation et d’entraînement, minimisation et masquage avant la requête, et des logs propres de votre côté. Sans cela, évitez d’envoyer des données personnelles brutes.

Faut-il masquer les données avant de les envoyer à ChatGPT ou à une autre API LLM ?

Masquez tout ce dont la tâche n’a pas besoin. Pour les résumés, la classification et la rédaction, noms et numéros peuvent généralement être remplacés par des marqueurs sans nuire à la qualité, puis restaurés après la réponse.

Quelle différence entre masquage et pseudonymisation ?

Le masquage supprime une valeur définitivement. La pseudonymisation la remplace par un marqueur que vous pouvez faire correspondre à la valeur d’origine grâce à une clé que vous conservez. Au sens du RGPD, des données pseudonymisées restent des données personnelles et doivent toujours être protégées.

La zéro rétention veut-elle dire que je peux tout envoyer ?

Non. La zéro rétention signifie que le fournisseur ne conserve pas le contenu après la requête. Les données quittent quand même vos systèmes et sont traitées par le fournisseur : la minimisation et les vérifications juridiques s’appliquent toujours.

Comment éviter que les prompts apparaissent dans mes propres logs ?

Journalisez les identifiants de requête, le modèle, le nombre de tokens, la latence et le statut, jamais le corps des messages. Vérifiez la journalisation de débogage du client HTTP, les SDK de traçage et les outils de rapport d’erreurs, qui capturent souvent le corps des requêtes par défaut.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity