Agen coding mengirim seluruh repositori. Bot dukungan mengirim pesan pelanggan. ZDR menjawab pertanyaan berikutnya: apa yang terjadi pada konten itu setelah jawabannya kembali?
Cara kerjanya
Dengan ZDR, penyedia menyimpan konten prompt dan output hanya di memori selama melayani permintaan. Sesudahnya, konten itu tidak ditulis ke:
- log permintaan atau debug;
- penyimpanan pemantauan penyalahgunaan;
- cache atau antrean persisten;
- dataset pelatihan atau evaluasi.
Catatan yang biasanya tetap disimpan, tanpa konten, mencakup request ID, timestamp, kode status, model, jumlah token, biaya, dan alamat IP client.
ZDR tidak menjadi default di semua tempat. API OpenAI, misalnya, menyimpan log pemantauan penyalahgunaan hingga 30 hari secara default dan menawarkan ZDR kepada pelanggan yang disetujui. OpenAI juga menyatakan data API tidak dipakai untuk pelatihan kecuali Anda memilih ikut serta. Baca ketentuan setiap penyedia, jangan berasumsi.
Kenapa ini penting
- Kepatuhan. Prompt sering membawa data pribadi, detail kesehatan, atau rahasia dagang. Konten yang tidak pernah disimpan tidak bisa bocor dari log atau cadangan.
- Lebih sedikit pihak. Setiap sistem yang menyimpan salinan adalah satu tempat lagi yang harus diamankan. Router atau reseller menambah pihak di jalur data.
- Suara dan gambar. Voice note dan dokumen hasil pindai termasuk input yang paling sensitif. ZDR juga harus mencakup audio dan transkrip.
ZDR melindungi apa yang terjadi setelah permintaan Anda tiba. Anda tetap perlu melindungi kunci API, menguncinya ke IP yang dikenal, dan menyamarkan data yang tidak dibutuhkan model.
Di BroadNet Inference
Dokumentasi BroadNet menyebut ZDR “built into how we serve requests, not only stated in policy” (terjemahan: tertanam dalam cara kami melayani permintaan, bukan hanya tertulis di kebijakan). BroadNet Inference tidak menyimpan prompt, gambar, audio, jawaban, atau transkrip pada permintaan apa pun. BroadNet menyimpan catatan trafik dan pemakaian tanpa konten, seperti durasi, jumlah token, dan biaya, selama diwajibkan oleh kebutuhan penagihan, pajak, keamanan, dan hukum. Audit retensi otomatis berjalan setiap jam.
Menurut pernyataan privasi BroadNet, model yang di-hosting-nya berjalan di perangkat keras milik atau sewaan BroadNet di Amerika Serikat, dengan kapasitas mitra sebagai cadangan; model yang dilayani mitra berjalan dengan ketentuan zero data retention bersama mitra inferensi di AS. Kunci bisa dikunci ke server Anda dengan daftar IP yang diizinkan.
Daftar lengkap apa yang disimpan dan tidak disimpan ada di halaman zero data retention. Untuk membandingkan penyedia, gunakan checklist ZDR 10 pertanyaan.