Buong repository ang ipinapadala ng mga coding agent. Mensahe ng mga customer ang ipinapadala ng mga support bot. Sinasagot ng ZDR ang kasunod na tanong: ano ang nangyayari sa content na iyon pagkabalik ng sagot?
Paano ito gumagana
Sa ZDR, sa memory lang hinahawakan ng provider ang content ng prompt at output habang sine-serve ang request. Pagkatapos, hindi ito isinusulat sa:
- mga request log o debug log;
- mga abuse-monitoring store;
- mga persistent na cache o queue;
- mga training o evaluation dataset.
Kabilang sa mga record na karaniwang itinatago pa rin, nang walang content, ang mga request ID, timestamp, status code, model, bilang ng token, gastos at mga IP address ng client.
Hindi default ang ZDR sa lahat ng provider. Halimbawa, nagtatago ang API ng OpenAI ng mga abuse-monitoring log nang hanggang 30 araw bilang default, at nag-aalok ito ng ZDR sa mga aprubadong customer. Sinasabi rin nitong hindi ginagamit sa training ang API data maliban kung mag-opt in ka. Basahin ang terms ng bawat provider sa halip na mag-akala.
Bakit ito mahalaga
- Compliance. Madalas may dalang personal data, detalye ng kalusugan o trade secret ang mga prompt. Hindi maaaring ma-leak mula sa log o backup ang content na hindi kailanman itinago.
- Mas kaunting partido. Ang bawat system na nagtatago ng kopya ay isa pang lugar na kailangang i-secure. Nagdadagdag ng mga partido sa daanan ng data ang isang router o reseller.
- Pananalita at mga larawan. Kabilang ang mga voice note at na-scan na dokumento sa pinakasensitibong input. Dapat sakop din ng ZDR ang audio at mga transcript.
Pinoprotektahan ng ZDR ang nangyayari pagdating ng request mo. Kailangan mo pa ring protektahan ang mga API key mo, i-lock ang mga ito sa mga kilalang IP, at tanggalin ang hindi kailangan ng model.
Sa BroadNet Inference
Ayon sa docs ng BroadNet, ang ZDR ay “built into how we serve requests, not only stated in policy.” (Salin ng BroadRouter: “nakapaloob sa paraan ng pag-serve namin ng mga request, hindi lang nakasaad sa patakaran.”) Hindi nagtatago ang BroadNet Inference ng mga prompt, larawan, audio, sagot o transcript sa anumang request. Nagtatago ito ng mga record ng traffic at usage na walang content, gaya ng timing, bilang ng token at gastos, hangga’t kinakailangan ng billing, tax, security at mga legal na obligasyon. May automated na retention audit na tumatakbo bawat oras.
Ayon sa privacy statement ng BroadNet, tumatakbo ang mga model na hino-host nito sa hardware na pag-aari o inuupahan ng BroadNet sa United States, na may capacity ng partner bilang backup; tumatakbo naman ang mga model na sine-serve ng partner sa ilalim ng zero-data-retention terms kasama ang mga inference partner sa US. Puwedeng i-lock ang mga key sa mga server mo gamit ang IP allow list.
Nasa zero data retention page ang buong listahan ng itinatago at hindi itinatago. Para ikumpara ang mga provider, gamitin ang 10-tanong na ZDR checklist.