BroadRouter
Inizia

Zero data retention (nessuna conservazione dei dati)

Aggiornato

La zero data retention (ZDR) è una policy di gestione dei dati in cui un provider AI elabora prompt e output solo per servire una richiesta e poi non ne conserva il contenuto, né in log né in cache né in dati di addestramento. Di solito restano registri senza contenuti, come conteggi di token e tempi.

Detto anche: zero data retention, ZDR, nessuna conservazione dei dati, conservazione dei dati, API LLM senza log, API LLM privata, no data retention, no-log LLM API, private LLM API

Gli agenti di coding inviano interi repository. I bot di assistenza inviano i messaggi dei clienti. La ZDR risponde alla domanda che segue: che fine fa quel contenuto dopo che è arrivata la risposta?

Come funziona

Con la ZDR, il provider tiene il contenuto di prompt e output solo in memoria mentre serve la richiesta. Dopo, non lo scrive in:

  • log delle richieste o di debug;
  • archivi per il monitoraggio degli abusi;
  • cache o code persistenti;
  • dataset di addestramento o di valutazione.

I registri che di norma vengono comunque conservati, senza contenuti, comprendono ID delle richieste, timestamp, codici di stato, modello, conteggi di token, costi e indirizzi IP dei client.

La ZDR non è ovunque l’impostazione predefinita. L’API di OpenAI, per esempio, conserva per impostazione predefinita i log di monitoraggio degli abusi fino a 30 giorni e offre la ZDR ai clienti approvati. Dice anche che i dati dell’API non vengono usati per l’addestramento a meno che tu non dia il consenso. Leggi le condizioni di ogni provider invece di dare le cose per scontate.

Perché è importante

  • Compliance. I prompt contengono spesso dati personali, informazioni sanitarie o segreti commerciali. Un contenuto mai salvato non può trapelare da log o backup.
  • Meno soggetti coinvolti. Ogni sistema che conserva una copia è un altro punto da proteggere. Un router o un rivenditore aggiunge soggetti al percorso dei dati.
  • Voce e immagini. Vocali e documenti scansionati sono tra gli input più sensibili. La ZDR dovrebbe coprire anche audio e trascrizioni.

La ZDR protegge ciò che succede dopo che la tua richiesta arriva. Devi comunque proteggere le tue chiavi API, vincolarle a IP noti ed eliminare ciò di cui il modello non ha bisogno.

Su BroadNet Inference

La documentazione di BroadNet dice che la ZDR è “built into how we serve requests, not only stated in policy” (traduzione: integrata nel modo in cui serviamo le richieste, non solo dichiarata nella policy). BroadNet Inference non conserva prompt, immagini, audio, risposte o trascrizioni di nessuna richiesta. Conserva registri di traffico e di utilizzo senza contenuti, come tempi, conteggi di token e costi, per il tempo richiesto dagli obblighi di fatturazione, fiscali, di sicurezza e legali. Ogni ora viene eseguita una verifica automatica della conservazione.

Secondo l’informativa privacy di BroadNet, i modelli che ospita girano su hardware di proprietà di BroadNet o in leasing negli Stati Uniti, con capacità di partner come backup; i modelli serviti da partner funzionano con condizioni di zero data retention presso partner di inferenza statunitensi. Le chiavi possono essere vincolate ai tuoi server con una allowlist di IP.

L’elenco completo di ciò che viene e non viene salvato è nella pagina sulla zero data retention. Per confrontare i provider, usa la checklist ZDR in 10 domande.

Domande frequenti

Zero data retention significa nessun log?

No. I provider conservano registri operativi come tempi, conteggi di token, costi, codici di stato e indirizzi IP per fatturazione e sicurezza. Con la ZDR quei registri non contengono nulla del prompt o dell’output.

La ZDR equivale a non addestrare modelli sui miei dati?

No. Non addestrare è una promessa più ristretta. Un provider può evitare di addestrare sui tuoi dati e tenere comunque i prompt nei log per settimane. ZDR significa che il contenuto non viene conservato affatto.

La ZDR vale anche passando da un router?

Solo se la rispetta ogni soggetto lungo il percorso. Con un router ospitato, verifica la conservazione dei dati del router e quella del provider a cui invia la tua richiesta.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity