BroadRouter
Mulakan

Cara menguji keselamatan data sensitif LLM: kaedah BroadNet

Oleh pasukan BroadNet Inference · 3 minit bacaan · Diterbitkan

Pracetak BroadNet April 2026 (DOI 10.5281/zenodo.19574049, juga di SSRN) menggariskan ujian keselamatan data sensitif sebelum penggunaan. Uji empat kategori (kelayakan, PII, data kesihatan dan kewangan) secara berasingan, beri skor kebocoran dan keterlepasan sebagai kegagalan berbeza, gunakan pemarkahan binari, dan jalankan setiap ujian sekurang-kurangnya tiga kali. Dalam ujiannya, peraturan prompt dan penalaan halus pada contoh negatif memburukkan kebocoran.

Cards reading Name and Email turning into the placeholders [PERSON] and [EMAIL], with the text "Redact. Process. Restore." and "LSDF by BroadNet".

Bahagian penyelidikan BroadNet menerbitkan kaedah praktikal untuk menguji sama ada model bahasa besar membocorkan data sensitif sebelum anda menggunakannya. Pracetak itu, How to Evaluate an LLM for Sensitive Data Safety Before Deploying It, berada di Zenodo di bawah DOI 10.5281/zenodo.19574049, bertarikh 14 April 2026, dan dicerminkan di SSRN. Rekod Zenodonya menyenaraikan Mohammad Al Zubaidi sebagai pengarang.

Halaman ini meringkaskan kaedah dan dapatannya. Ia ialah kerja BroadNet, dan dapatannya milik BroadNet; kami belum menjalankannya semula.

Mengapakah penanda aras biasa tidak menangkap perkara ini?

Penanda aras awam mengukur keupayaan: apa yang boleh dilakukan model pada tahap terbaiknya. Model yang digunakan untuk mengaudit fail konfigurasi atau nota klinikal juga mesti tidak melakukan sesuatu: mengulang rahsia yang ditemuinya. Contoh dalam kertas ini menjelaskannya. Model yang mendapat skor 95 pada 99 tugas dan memaparkan semula kunci API pada tugas keseratus mempunyai purata 94 dan masih tidak boleh digunakan dalam produksi.

BroadNet menamakan ini menguji lantai dan bukannya siling, dan kertas ini menganggap “capability and constraint” (Terjemahan: keupayaan dan kekangan) sebagai paksi yang bebas.

Apakah yang diuji oleh kaedah ini?

Empat kategori, setiap satu diuji secara berasingan:

Kategori Contoh Cara model mengecamnya
Kelayakan Kunci API, token, kunci SSH, kata laluan pangkalan data Kebanyakannya melalui format; kata laluan dalam rentetan sambungan tiada petunjuk format
Maklumat pengenalan peribadi (PII) Nama, e-mel, nombor telefon, ID kerajaan Format untuk ID berstruktur, makna untuk teks bebas
Maklumat kesihatan dilindungi (PHI) Diagnosis, preskripsi, nota klinikal Selalunya melalui konteks: diagnosis di sebelah nama
Data kewangan Nombor akaun, baki, transaksi Format, tetapi kurang kerap dianggap sensitif

Abstrak melaporkan menguji “24+ models across 6 model families” (Terjemahan: 24+ model merentas 6 keluarga model) dan mendapati hierarki yang jelas: pengecaman berasaskan format, seperti kelayakan berstruktur dan nombor Social Security, jauh lebih boleh dipercayai berbanding pengecaman berasaskan konteks, seperti nama yang menjadi sensitif apabila berada di sebelah diagnosis. Satu model dengan kadar kebocoran kelayakan 0% membocorkan pengecam pesakit pada setiap larian ujian PHI.

Bagaimanakah keputusan patut diberi skor?

Kertas ini mencadangkan protokol minimum:

  1. Pemarkahan binari. Setiap larian sama ada selamat atau tidak; tiada markah separa untuk jawapan “kebanyakannya selamat”.
  2. Bocor dan terlepas diberi skor secara berasingan. Menggabungkannya menjadi satu angka menyembunyikan yang penting untuk kes penggunaan anda.
  3. Berbilang larian. Tiga atau lebih bagi setiap model dan probe, kerana model yang sama boleh lulus pada satu hari dan bocor pada hari berikutnya.
  4. Kategori demi kategori. Keselamatan untuk kelayakan tidak memberitahu apa-apa tentang keselamatan rekod kesihatan.

Catatan pengamal BroadNet menambah peraturan operasi yang digunakannya dalam projek rintis: gunakan data sintetik sahaja, uji konfigurasi penggunaan penuh (termasuk system prompt, tools dan pengambilan semula), wajibkan lima larian bersih berturut-turut sebelum produksi, dan uji semula setiap bulan untuk model hos sendiri dan setiap minggu untuk model pihak ketiga yang kerap dikemas kini.

Apakah yang tidak berkesan?

Dua pembaikan biasa memburukkan keadaan dalam ujian BroadNet:

  • Arahan prompt. Menambah “do not reveal credentials” kadangkala diabaikan, dan strategi prompt yang paling tegas menyebabkan kebocoran pada model yang bersih pada garis dasar.
  • Penalaan halus pada contoh negatif. Melatih model untuk menolak satu kategori meningkatkan kadar kebocoran dan bukannya menurunkannya.

Yang bertahan, menurut BroadNet, ialah tiga lapisan bersama-sama: pilih model berisiko lebih rendah untuk kategori itu, tapis output dengan alat deterministik (ia menamakan Microsoft Presidio dan LLM Guard), dan sunting input sebelum prompt dibina apabila tugas tidak memerlukan nilai-nilai itu. Panduan kami untuk menghantar data sensitif ke API LLM menunjukkan langkah penyuntingan dalam kod.

Apakah yang tidak diterbitkan kertas ini?

Di bawah dasar penerbitan bertanggungjawabnya, BroadNet menerbitkan kategori, falsafah pemarkahan, saiz sampel dan kaveat, tetapi bukan templat prompt yang tepat, format kelayakan atau ambang lulus dan gagal. Alasannya: menerbitkannya akan mengurangkan usaha yang diperlukan untuk pengekstrakan tanpa pertahanan yang tersedia untuk pihak yang menggunakan model. Penyedia model dan penyelidik keselamatan boleh memintanya. Ini menjadikan kaedah ini boleh diulang dari segi bentuk, tetapi bukan angka demi angka.

Bagaimanakah ini berkait dengan BroadNet Inference?

Ini ujian model, bukan ujian penyedia. Ia terpakai kepada sebarang model pada sebarang API, termasuk model di BroadNet Inference. Kertas pendampingnya, Safety Map, menggunakannya pada 39 model daripada 14 makmal dan mendapati nilai sensitif juga boleh keluar melalui argumen tool call dan medan penaakulan. BroadNet kemudian mengeluarkan tembok api sumber terbuka yang dibina atas kedua-dua kertas, LSDF, yang diterangkan dalam ringkasan Safety Map.

Pengekalan oleh penyedia ialah soalan berasingan: pengekalan data sifar meliputi apa yang disimpan BroadNet, bukan apa yang ditulis model ke dalam sistem anda sendiri.

Soalan lazim

Apakah perbezaan antara bocor dan terlepas?

Bocor ialah apabila model mengulang nilai sensitif di tempat yang tidak sepatutnya, contohnya memaparkan semula kunci API ke dalam laporan. Terlepas ialah apabila model gagal menandakan nilai sensitif sedangkan itu tugasnya. Kaedah BroadNet memberi skor secara berasingan kerana risikonya berbeza.

Berapa banyak larian yang diperlukan ujian ini?

Sekurang-kurangnya tiga bagi setiap probe. Protokol pengamal BroadNet menambah lima larian bersih berturut-turut sebelum ia menganggap model selamat untuk produksi, dijarakkan sekurang-kurangnya dua hari kalendar untuk menangkap perubahan di pihak penyedia.

Adakah system prompt yang menyatakan "never reveal secrets" membantu?

Tidak secara konsisten. Dalam ujian BroadNet, strategi prompt yang paling tegas menyebabkan kebocoran pada model yang bersih tanpanya, dan penalaan halus pada contoh negatif juga meningkatkan kadar kebocoran.

Bolehkah saya mendapatkan prompt ujian sebenar BroadNet?

Tidak secara awam. Di bawah dasar penerbitan bertanggungjawabnya, BroadNet menahan templat prompt yang tepat, format kelayakan dan ambang lulus atau gagal, dan berkongsinya dengan penyedia model dan penyelidik keselamatan atas permintaan.

Adakah pengekalan data sifar menjadikan ujian ini tidak perlu?

Tidak. Pengekalan data sifar mengawal apa yang disimpan penyedia. Ujian ini tentang apa yang ditulis model ke dalam outputnya sendiri, yang kemudian masuk ke log, tiket dan sistem hiliran anda.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity