BroadRouter
始める

PII(個人を特定できる情報)

更新日

PII(個人を特定できる情報)とは、氏名、ID 番号、生体情報など個人の身元を識別・追跡できる情報と、その人に結び付いた、または結び付けうる情報です。GDPR ではより広い「個人データ」を使います。LLM では、プロンプトが社外に出る前に PII をマスキングします。

別名: PII、個人を特定できる情報、個人識別情報、個人情報、個人データ、機密データ、PII マスキング、匿名化、personally identifiable information、PII redaction

最も安全な PII は、送らなかった PII です。PII を含むプロンプトのほとんどは、それを必要としていません。

仕組み

NIST SP 800-122(2010 年 4 月)は広い定義を使っています。PII とは “any information about an individual maintained by an agency, including (1) any information that can be used to distinguish or trace an individual’s identity, such as name, social security number, date and place of birth, mother’s maiden name, or biometric records; and (2) any other information that is linked or linkable to an individual, such as medical, educational, financial, and employment information.”(訳:機関が保持する個人に関するあらゆる情報。(1) 氏名、社会保障番号、生年月日と出生地、母親の旧姓、生体情報の記録など、個人の身元を識別・追跡するために使えるあらゆる情報、および (2) 医療、教育、金融、雇用に関する情報など、個人に結び付いた、または結び付けうるその他のあらゆる情報を含む。)

GDPR の用語は個人データで、“any information relating to an identified or identifiable natural person”(訳:識別された、または識別可能な自然人に関するあらゆる情報)とされ、“a name, an identification number, location data, an online identifier”(訳:氏名、識別番号、位置データ、オンライン識別子)を含みます。サウジアラビアの PDPL も個人データを同様の言葉で定義しています。

マスキングツールは通常 2 段階で動きます。Microsoft Presidio のアナライザーは、パターンと固有表現抽出を使って “PII identification in text”(訳:テキスト中の PII の識別)を行います。次にアノニマイザーが、一致した箇所ごとにオペレーターを適用します。

オペレーター Presidio の説明
replace “Replace the PII with desired value”(訳:PII を指定の値に置き換える)
redact “Remove the PII completely from text”(訳:テキストから PII を完全に削除する)
mask “Replace the PII with a given character”(訳:PII を指定の文字で置き換える)
hash “Hashes the PII text using salted hashing for security”(訳:安全のため、ソルト付きハッシュで PII テキストをハッシュ化する)
encrypt “Encrypt the PII using a given key”(訳:指定の鍵で PII を暗号化する)

サポートチケットでのプレースホルダーの例です。

Before: Ahmed Al-Harbi (+966 5x xxx xxxx) says order 4471 never arrived.
After:  <PERSON_1> (<PHONE_1>) says order 4471 never arrived.

対応表は手元で保持し、モデルの回答に実際の値を戻します。

なぜ重要か

  • コピーのすべてがリスク。 NIST は組織に対し、“minimize the use, collection, and retention of PII to what is strictly necessary”(訳:PII の利用、収集、保持を厳密に必要な範囲に最小化する)よう勧めています。プロンプトもログもコピーです。
  • 検出には漏れがある。 Presidio は “there is no guarantee that Presidio will find all sensitive information”(訳:Presidio がすべての機密情報を見つける保証はない)としています。アラビア語の名前、湾岸諸国の電話番号の形式、複数の文字体系が混在するテキストは、汎用の検出器が見逃しやすい部分です。自社のデータでテストしてください。
  • 出力からも漏れる。 応答にも同じチェックをかけてください。ガードレールでブロックしたりフラグを立てたりできます。

記事「LLM API に機密データを送る」ではマスキング、プレースホルダー、ログを詳しく扱い、「PII をマスキングした利用ログ」では自社のログを扱っています。

BroadNet Inference の場合

BroadNet のプライバシーステートメントによると、プロンプト、音声、画像、回答、文字起こしを保持せず、推論データをモデルの学習、ファインチューニング、評価に使いません。これにより、リクエスト後に保存されるものは限られます。ただし、マスキングを代わりに行うわけではありません。処理中は PII がモデルに届くので、まず最小化してください。ゼロデータ保持も参照してください。

BroadNet はオープンソースのマスキングプロキシ LLM Sensitive Data Firewall(LSDF)も Apache-2.0 で公開しています。記事「機密データ」で、その内容と BroadNet 自身の評価結果を紹介しています。このページは法的助言ではありません。

よくある質問

PII は GDPR の個人データと同じですか?

重なりますが、同じではありません。NIST の PII の定義は米国連邦政府のガイダンスに由来します。GDPR は個人データを、識別された、または識別可能な人に関するあらゆる情報と定義しており、オンライン識別子や位置データも含みます。

プロンプト内の PII をツールですべて自動検出できますか?

いいえ。Presidio 自身のドキュメントも、すべての機密情報を見つける保証はないとしています。検出と、タスクに必要な項目だけを送ることを組み合わせ、自社のデータでテストしてください。

LLM API を呼び出す前に PII をマスキングすべきですか?

モデルに必要ないなら、すべきです。氏名、電話番号、ID をプレースホルダーに置き換え、応答のあとで元に戻します。どのプロバイダーの規約の下でも、露出を減らせます。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く