I bot di assistenza clienti leggono reclami con nomi e numeri d’ordine. Le pipeline dei call center inviano trascrizioni con cifre di carte di pagamento. Le app sanitarie inviano sintomi. Tutto questo è utile a un modello, e tutto questo è un dato sensibile nel momento in cui lascia i tuoi server.
OWASP mette la divulgazione di informazioni sensibili al posto LLM02 della sua Top 10 2025 per le applicazioni LLM. La maggior parte delle indicazioni si concentra su ciò che il modello potrebbe rivelare. Questo articolo si concentra sulla parte che controlli tu: cosa invii e cosa conservi.
Che cosa conta come dato sensibile per un’API LLM?
Prima di scrivere un prompt, dividi i campi in tre gruppi:
| Gruppo | Esempi | Regola predefinita |
|---|---|---|
| Identificativi diretti | Nome, email, telefono, documento d’identità, numero di conto | Sostituisci con segnaposto |
| Categorie particolari o regolamentate | Salute, biometria, religione, numeri di carta, credenziali | Non inviarli a meno che il task lo richieda e tu abbia una base giuridica |
| Contesto | Nomi di prodotto, tipo di problema, date, importi | Di solito si possono inviare |
Per il GDPR, le categorie particolari (articolo 9) richiedono una condizione specifica prima ancora di poterle trattare. I dati delle carte e i segreti come password o chiavi API non dovrebbero mai arrivare in un prompt.
Passo 1: quali campi servono davvero al task?
L’oscuramento migliore è non inviare il campo. Chiediti cosa serve al task:
- Riassumere un ticket? Al modello serve il reclamo, non l’indirizzo del cliente.
- Classificare l’intento? Serve il testo del messaggio, non l’ID dell’account.
- Scrivere una bozza di risposta? Serve al massimo un nome di battesimo, e un segnaposto funziona.
Costruisci i prompt a partire dai campi selezionati, non riversando l’intero record come JSON. Così riduci anche i token di input, e risparmi.
Passo 2: come oscurare i dati in modo che il modello capisca ancora il testo?
Sostituisci ogni valore con un segnaposto tipizzato e numerato. Il modello mantiene la struttura della frase e il tuo codice ripristina i valori dopo.
import os, re
from openai import OpenAI
PATTERNS = { # order matters: IBAN before PHONE, or the phone pattern eats IBAN digits
"EMAIL": r"[\w.+-]+@[\w-]+\.[\w.-]+",
"IBAN": r"\b[A-Z]{2}\d{2}[A-Z0-9]{11,30}\b",
"PHONE": r"\+?\d[\d\s-]{7,}\d",
}
def redact(text):
mapping, n = {}, {}
for kind, pat in PATTERNS.items():
def sub(m):
n[kind] = n.get(kind, 0) + 1
key = f"[{kind}_{n[kind]}]"
mapping[key] = m.group(0)
return key
text = re.sub(pat, sub, text)
return text, mapping
def restore(text, mapping):
for key, value in mapping.items():
text = text.replace(key, value)
return text
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
# Any OpenAI-compatible endpoint works; this uses Qwen3.8 27B on BroadNet Inference.
ticket = "Call me on +971 50 123 4567 or mail sara@example.com about my refund."
safe, mapping = redact(ticket)
reply = client.chat.completions.create(
model="broadnet/qwen3.8-27b",
messages=[
{"role": "system", "content": "Keep placeholders like [PHONE_1] exactly as written."},
{"role": "user", "content": f"Draft a short reply to this ticket:\n{safe}"},
],
).choices[0].message.content
print(restore(reply, mapping)) # the mapping never left your server
Le espressioni regolari catturano i valori strutturati. Nomi e indirizzi richiedono il riconoscimento delle entità. Strumenti open source come Microsoft Presidio combinano pattern, checksum e modelli di named entity recognition, e ti permettono di aggiungere i tuoi riconoscitori. Testa qualsiasi rilevatore sui tuoi dati: nomi arabi, formati telefonici del Golfo e testo con alfabeti misti sono i punti in cui i rilevatori generici sbagliano.
Se preferisci usare un proxy invece di scrivere l’oscuramento da solo, BroadNet ne pubblica uno open source: il LLM Sensitive Data Firewall (LSDF), con licenza Apache-2.0. Si mette davanti a qualsiasi endpoint compatibile con OpenAI, anche per modelli che BroadNet non ospita, e secondo BroadNet ispeziona richieste, risposte, chunk in streaming, argomenti delle tool call in streaming, contesto recuperato e campi di ragionamento, con un sanitizzatore separato per trace e log. Nella valutazione di BroadNet di maggio 2026 sui propri corpus, i suoi rilevatori di PII generiche hanno ottenuto un recall di 1,000 su un replay di 40 casi di credenziali, 0,944 su dati clinici sintetici e 0,685 su PII generiche in inglese, contro 0,194, 0,056 e 0,326 di Microsoft Presidio da solo (il resoconto di BroadNet). Sono numeri di BroadNet sul proprio strumento; esegui il suo profilo monitor sul tuo traffico prima di applicare qualsiasi blocco.
Due regole per i segnaposto:
- Mantienili coerenti all’interno di una conversazione, così
[NAME_1]è la stessa persona in ogni turno. - Di’ al modello di lasciarli invariati, come nel system prompt qui sopra.
Passo 3: che cosa succede ai dati presso il provider?
L’oscuramento riduce ciò che esce. Il provider decide cosa succede dopo. Chiedi:
- Il contenuto viene memorizzato dopo la richiesta, e per quanto tempo?
- Viene usato per l’addestramento, e qual è l’impostazione predefinita?
- Chi gestisce l’hardware, e dove?
Le risposte dei provider sono molto diverse. Consulta il confronto sulla conservazione dei dati delle API LLM per la formulazione ufficiale di cinque di loro, la checklist ZDR per le domande tecniche e la checklist GDPR per la parte contrattuale.
Passo 4: come tenere i prompt fuori dai tuoi log?
Il tuo stack è il posto dove i prompt restano più spesso. Le fughe più comuni:
- Il debug logging del client HTTP che stampa il corpo delle richieste.
- SDK di tracing e osservabilità che registrano i prompt completi per impostazione predefinita.
- Strumenti di error reporting che allegano il payload della richiesta fallita.
- Eventi di analytics che includono il messaggio dell’utente.
- Code di retry e dead-letter queue che memorizzano richieste intere.
Registra invece questi dati: ID della richiesta, modello, conteggi di token di prompt e completion, latenza, codice di stato e l’ID della tua mappatura di oscuramento (mai la mappatura stessa). Basta per fare il debug di costi ed errori. L’articolo sul logging dell’utilizzo contiene un wrapper che scrive esattamente questi campi e calcola il costo per chiamata.
Passo 5: come proteggere il percorso verso l’API?
- Tieni le chiavi sui server, mai nel codice del browser o delle app mobili. Sicurezza delle chiavi API LLM spiega conservazione e rotazione.
- Vincola le chiavi ai tuoi indirizzi di uscita con le allow-list di IP.
- Usa una chiave API per servizio, così puoi revocarne una senza fermare tutto.
Passo 6: cosa controllare nella risposta?
L’oscuramento protegge la richiesta. Anche la risposta va controllata, perché un modello può ripetere, indovinare o ricostruire i valori:
- Integrità dei segnaposto. Dopo
restore(), cerca token rimasti come[PHONE_3]che non erano mai nella tua mappatura. Significano che il modello se ne è inventato uno. - Nuove PII nell’output. Esegui lo stesso rilevatore sulla risposta. Una risposta che contiene un indirizzo email che non hai mai inviato merita un secondo sguardo prima di arrivare a un cliente.
- Fughe tra utenti. Se metti in cache le risposte o condividi lo stato delle conversazioni, assicurati che i valori ripristinati di un utente non possano mai comparire nella risposta di un altro.
Controlla ogni canale di output, non solo la risposta in chat. Lo studio Safety Map di BroadNet ha trovato valori sensibili che uscivano attraverso gli argomenti delle tool call in 20 delle 73 esecuzioni che li compilavano, e attraverso il campo di ragionamento in 29 delle 43 esecuzioni che lo compilavano, mentre la risposta visibile era valutata sicura, mancata o troncata.
Testa l’intero ciclo su un set fisso di 50 esempi reali e sensibili ogni volta che cambi il prompt, il modello o il rilevatore. Conta i valori sfuggiti, non solo quelli intercettati: un numero di carta sfuggito conta più di cento segnaposto corretti.
L’audio sensibile richiede lo stesso trattamento?
Un messaggio vocale può contenere un nome, un numero di telefono e un dato sanitario in dieci secondi. Le trascrizioni ereditano tutto. Oscura la trascrizione prima che vada a un LLM per il riassunto, e conserva l’audio grezzo solo per il tempo strettamente necessario. La nostra pipeline di trascrizione per call center mostra l’oscuramento tra il passaggio di trascrizione e quello di riassunto.
Dove si colloca BroadNet Inference
L’informativa privacy di BroadNet dice che il suo gateway “keeps no prompts, messages, images, audio, responses or transcripts” (traduzione: non conserva prompt, messaggi, immagini, audio, risposte o trascrizioni) e che non usa i dati di inferenza “to train, fine-tune or evaluate models” (traduzione: per addestrare, fare fine-tuning o valutare modelli). Conserva registri privi di contenuto, come tempi, conteggi di token e costo; l’elenco completo è nella pagina sulla zero data retention. Le chiavi possono essere limitate ai tuoi indirizzi IP. Qwen3.8 27B, usato nell’esempio qui sopra, è stato testato in arabo da BroadNet, il che conta quando i tuoi segnaposto si trovano dentro un testo arabo.
Questo copre la parte del provider. Non oscura i dati al posto tuo e non pulisce i tuoi log. I passi 1, 2 e 4 restano compito tuo con qualsiasi provider, BroadNet compreso. Se ti servono un DPA scritto o un elenco dei sub-responsabili per dati regolamentati, chiedili a BroadNet prima di inviarli; l’informativa dice che l’elenco dei sub-responsabili è disponibile su richiesta.

