カスタマーサポートのボットは、氏名や注文番号を含む苦情を読みます。コールセンターのパイプラインは、カード番号を含む文字起こしを送ります。ヘルスケアアプリは症状を送ります。どれもモデルにとっては有用で、どれも自社サーバーを出た瞬間に機密データになります。
OWASP は 2025 年版の LLM アプリケーション Top 10 で、機密情報の漏えいを LLM02 に挙げています。多くのガイドはモデルが何を明かしてしまうかに注目します。この記事が扱うのは、自分で管理できる部分、つまり何を送り、何を残すかです。
LLM API にとって機密データとは何か?
プロンプトを書く前に、項目を 3 つに分けます。
| 区分 | 例 | 既定のルール |
|---|---|---|
| 直接識別子 | 氏名、メール、電話番号、国民 ID、口座番号 | プレースホルダーに置き換える |
| 特別な、または規制対象のデータ | 健康、生体情報、宗教、カード番号、認証情報 | タスクに必要で法的根拠がある場合を除き、送らない |
| 文脈 | 製品名、問題の種類、日付、金額 | 通常は送ってよい |
GDPR では、特別な種類の個人データ(第 9 条)は、そもそも処理する前に特定の条件を満たす必要があります。カード情報や、パスワード・API キーのような秘密情報は、決してプロンプトに入れてはいけません。
ステップ 1:タスクに本当に必要な項目は何か?
最良のマスキングは、その項目を送らないことです。タスクに何が必要かを考えます。
- チケットを要約する? モデルに必要なのは苦情の内容で、顧客の住所ではありません。
- 意図を分類する? 必要なのはメッセージ本文で、アカウント ID ではありません。
- 返信を下書きする? 必要なのはせいぜい名前だけで、それもプレースホルダーで足ります。
レコード全体を JSON として丸ごと流し込むのではなく、選んだ項目からプロンプトを組み立てます。これで入力トークンも減り、コストも下がります。
ステップ 2:モデルが文章を理解できるままマスキングするには?
値ごとに、種類と番号の付いたプレースホルダーに置き換えます。モデルは文の構造を保ったまま処理でき、あとで自分のコードが値を元に戻します。
import os, re
from openai import OpenAI
PATTERNS = { # order matters: IBAN before PHONE, or the phone pattern eats IBAN digits
"EMAIL": r"[\w.+-]+@[\w-]+\.[\w.-]+",
"IBAN": r"\b[A-Z]{2}\d{2}[A-Z0-9]{11,30}\b",
"PHONE": r"\+?\d[\d\s-]{7,}\d",
}
def redact(text):
mapping, n = {}, {}
for kind, pat in PATTERNS.items():
def sub(m):
n[kind] = n.get(kind, 0) + 1
key = f"[{kind}_{n[kind]}]"
mapping[key] = m.group(0)
return key
text = re.sub(pat, sub, text)
return text, mapping
def restore(text, mapping):
for key, value in mapping.items():
text = text.replace(key, value)
return text
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
# Any OpenAI-compatible endpoint works; this uses Qwen3.8 27B on BroadNet Inference.
ticket = "Call me on +971 50 123 4567 or mail sara@example.com about my refund."
safe, mapping = redact(ticket)
reply = client.chat.completions.create(
model="broadnet/qwen3.8-27b",
messages=[
{"role": "system", "content": "Keep placeholders like [PHONE_1] exactly as written."},
{"role": "user", "content": f"Draft a short reply to this ticket:\n{safe}"},
],
).choices[0].message.content
print(restore(reply, mapping)) # the mapping never left your server
正規表現は構造化された値を捕まえられます。氏名や住所にはエンティティ認識が必要です。Microsoft Presidio などのオープンソースツールは、パターン、チェックサム、固有表現モデルを組み合わせ、独自の認識器も追加できます。どの検出器も自社のデータでテストしてください。アラビア語の氏名、湾岸諸国の電話番号形式、複数の文字体系が混ざったテキストは、汎用の検出器が見逃しやすいところです。
マスキングを自前で書くよりプロキシを動かしたい場合、BroadNet がオープンソースで公開しているものがあります。Apache-2.0 の LLM Sensitive Data Firewall(LSDF)です。BroadNet がホストしていないモデルも含め、任意の OpenAI 互換エンドポイントの前に置けます。BroadNet によると、リクエスト、レスポンス、ストリーミングのチャンク、ストリーミングされるツール呼び出しの引数、検索で取得したコンテキスト、推論フィールドを検査し、トレースとログ用には別のサニタイザーを備えています。BroadNet が 2026 年 5 月に自社コーパスで行った評価では、広範な PII 検出器の再現率は、40 件の認証情報リプレイで 1.000、合成した臨床データで 0.944、広範な英語 PII で 0.685 でした。Microsoft Presidio 単体ではそれぞれ 0.194、0.056、0.326 です(BroadNet の記事)。これは BroadNet が自社ツールについて示した数値です。何かをブロックする前に、まず monitor プロファイルで自社のトラフィックに対して動かしてください。
プレースホルダーの 2 つのルール:
- 会話の中で一貫させる。
[NAME_1]がどのターンでも同じ人物を指すようにします。 - モデルにそのまま残すよう指示する。 上のシステムプロンプトのようにします。
ステップ 3:プロバイダーの側でデータはどうなるのか?
マスキングは外に出るものを減らします。その後どうなるかはプロバイダー次第です。次を確認します。
- リクエストの後に内容は保存されるか。保存期間は?
- 学習に使われるか。既定の設定は?
- ハードウェアを運用しているのは誰で、どこにあるか。
プロバイダーによって答えは大きく異なります。5 社の公式な表現は LLM API のデータ保持比較、技術的な質問は ZDR チェックリスト、契約面は GDPR チェックリストをご覧ください。
ステップ 4:プロンプトを自社のログに残さないには?
プロンプトがいちばん残りやすいのは自社のシステムです。よくある漏えい箇所:
- リクエスト本文を出力する HTTP クライアントのデバッグログ。
- 既定でプロンプト全文を記録するトレーシング・オブザーバビリティ SDK。
- 失敗したリクエストのペイロードを添付するエラー通知ツール。
- ユーザーのメッセージを含む分析イベント。
- リクエスト全体を保存するリトライキューやデッドレターキュー。
代わりに記録するのは、リクエスト ID、モデル、プロンプトと補完のトークン数、レイテンシ、ステータスコード、そして自社のマスキング対応表の ID(対応表そのものは記録しない)です。コストとエラーの調査にはこれで十分です。使用量ログの記事には、まさにこれらの項目を書き出し、呼び出しごとのコストを計算するラッパーがあります。
ステップ 5:API までの経路をどう守るか?
- キーはサーバーに置き、ブラウザやモバイルのコードには決して入れません。保管とローテーションは LLM API キーのセキュリティで扱っています。
- IP 許可リストで、キーを自社の送信元アドレスに限定します。
- サービスごとに 1 つの API キーを使えば、1 つを失効させてもすべてが止まりません。
ステップ 6:レスポンスでは何を確認すべきか?
マスキングが守るのはリクエストです。レスポンスも確認が必要です。モデルが値を繰り返したり、推測したり、再構成したりすることがあるからです。
- プレースホルダーの整合性。
restore()の後に、対応表になかった[PHONE_3]のようなトークンが残っていないか探します。残っていれば、モデルが勝手に作ったということです。 - 出力に新たに現れた PII。 同じ検出器をレスポンスにもかけます。送っていないメールアドレスを含む返信は、顧客に届く前にもう一度確認する価値があります。
- ユーザー間の漏えい。 レスポンスをキャッシュしたり会話の状態を共有したりする場合、あるユーザーの復元された値が別のユーザーの返信に決して現れないようにします。
チャットの返信だけでなく、すべての出力経路を確認してください。BroadNet の Safety Map の研究では、ツール呼び出しの引数を埋めた 73 回の実行のうち 20 回で、推論フィールドを埋めた 43 回の実行のうち 29 回で、機密値がそこから漏れていました。その間、表示された返信は安全、見逃し、または途中で切れたと評価されていました。
プロンプト、モデル、検出器を変えるたびに、本物の機密データを含む 50 件の固定セットでループ全体をテストします。捕まえた件数だけでなく、見逃した件数を数えてください。カード番号 1 件の見逃しは、100 件の正しいプレースホルダーより重大です。
機密性のある音声にも同じ扱いが必要か?
ボイスメッセージには、10 秒で氏名、電話番号、健康情報が入ることがあります。文字起こしはそのすべてを引き継ぎます。要約のために LLM に送る前に文字起こしをマスキングし、元の音声は必要な間だけ保持します。コールセンターの文字起こしパイプラインでは、文字起こしと要約の間でマスキングを行う例を紹介しています。
BroadNet Inference の位置づけ
BroadNet のプライバシーステートメントには、ゲートウェイが “keeps no prompts, messages, images, audio, responses or transcripts”(訳:プロンプト、メッセージ、画像、音声、レスポンス、文字起こしを一切保持しない)とあり、推論データを “to train, fine-tune or evaluate models”(訳:モデルの学習、ファインチューニング、評価のために)使わないとしています。保持するのは、処理時間、トークン数、費用など内容を含まない記録で、一覧はゼロデータ保持のページにあります。キーは自社の IP アドレスに限定できます。上の例で使った Qwen3.8 27B は BroadNet がアラビア語でテストしたモデルで、プレースホルダーがアラビア語の文中に入る場合に重要です。
ここまではプロバイダー側の話です。BroadNet がマスキングをしてくれるわけでも、ログを掃除してくれるわけでもありません。BroadNet を含めどのプロバイダーを使っても、ステップ 1、2、4 は自分の仕事です。規制対象のデータについて書面の DPA や再委託先の一覧が必要な場合は、送る前に BroadNet に問い合わせてください。ステートメントには、再委託先の一覧は依頼に応じて提供するとあります。

