BroadRouter
始める

機密データを LLM API に送るとき:マスキング、最小化、ログ削減

BroadNet Inference チーム · 約 5 分で読めます · 公開日 · 更新日

機密データを LLM API に送るには、まずタスクに必要な項目を決め、それ以外は送りません。氏名、番号、ID はリクエスト前に元に戻せるプレースホルダーへ置き換え、応答後に自分のコードで戻します。ゼロデータ保持のプロバイダーを選び、プロンプトの内容を自社のログに残さず、API キーは自社サーバーに限定します。

The word "PRIVATE" in bold letters, with the text "Control what AI sees." and "LSDF by BroadNet".

カスタマーサポートのボットは、氏名や注文番号を含む苦情を読みます。コールセンターのパイプラインは、カード番号を含む文字起こしを送ります。ヘルスケアアプリは症状を送ります。どれもモデルにとっては有用で、どれも自社サーバーを出た瞬間に機密データになります。

OWASP は 2025 年版の LLM アプリケーション Top 10 で、機密情報の漏えいを LLM02 に挙げています。多くのガイドはモデルが何を明かしてしまうかに注目します。この記事が扱うのは、自分で管理できる部分、つまり何を送り、何を残すかです。

LLM API にとって機密データとは何か?

プロンプトを書く前に、項目を 3 つに分けます。

区分 例 既定のルール
直接識別子 氏名、メール、電話番号、国民 ID、口座番号 プレースホルダーに置き換える
特別な、または規制対象のデータ 健康、生体情報、宗教、カード番号、認証情報 タスクに必要で法的根拠がある場合を除き、送らない
文脈 製品名、問題の種類、日付、金額 通常は送ってよい

GDPR では、特別な種類の個人データ(第 9 条)は、そもそも処理する前に特定の条件を満たす必要があります。カード情報や、パスワード・API キーのような秘密情報は、決してプロンプトに入れてはいけません。

ステップ 1:タスクに本当に必要な項目は何か?

最良のマスキングは、その項目を送らないことです。タスクに何が必要かを考えます。

  1. チケットを要約する? モデルに必要なのは苦情の内容で、顧客の住所ではありません。
  2. 意図を分類する? 必要なのはメッセージ本文で、アカウント ID ではありません。
  3. 返信を下書きする? 必要なのはせいぜい名前だけで、それもプレースホルダーで足ります。

レコード全体を JSON として丸ごと流し込むのではなく、選んだ項目からプロンプトを組み立てます。これで入力トークンも減り、コストも下がります。

ステップ 2:モデルが文章を理解できるままマスキングするには?

値ごとに、種類と番号の付いたプレースホルダーに置き換えます。モデルは文の構造を保ったまま処理でき、あとで自分のコードが値を元に戻します。

import os, re
from openai import OpenAI

PATTERNS = {   # order matters: IBAN before PHONE, or the phone pattern eats IBAN digits
    "EMAIL": r"[\w.+-]+@[\w-]+\.[\w.-]+",
    "IBAN":  r"\b[A-Z]{2}\d{2}[A-Z0-9]{11,30}\b",
    "PHONE": r"\+?\d[\d\s-]{7,}\d",
}

def redact(text):
    mapping, n = {}, {}
    for kind, pat in PATTERNS.items():
        def sub(m):
            n[kind] = n.get(kind, 0) + 1
            key = f"[{kind}_{n[kind]}]"
            mapping[key] = m.group(0)
            return key
        text = re.sub(pat, sub, text)
    return text, mapping

def restore(text, mapping):
    for key, value in mapping.items():
        text = text.replace(key, value)
    return text

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
# Any OpenAI-compatible endpoint works; this uses Qwen3.8 27B on BroadNet Inference.

ticket = "Call me on +971 50 123 4567 or mail sara@example.com about my refund."
safe, mapping = redact(ticket)
reply = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    messages=[
        {"role": "system", "content": "Keep placeholders like [PHONE_1] exactly as written."},
        {"role": "user", "content": f"Draft a short reply to this ticket:\n{safe}"},
    ],
).choices[0].message.content
print(restore(reply, mapping))   # the mapping never left your server

正規表現は構造化された値を捕まえられます。氏名や住所にはエンティティ認識が必要です。Microsoft Presidio などのオープンソースツールは、パターン、チェックサム、固有表現モデルを組み合わせ、独自の認識器も追加できます。どの検出器も自社のデータでテストしてください。アラビア語の氏名、湾岸諸国の電話番号形式、複数の文字体系が混ざったテキストは、汎用の検出器が見逃しやすいところです。

マスキングを自前で書くよりプロキシを動かしたい場合、BroadNet がオープンソースで公開しているものがあります。Apache-2.0 の LLM Sensitive Data Firewall(LSDF)です。BroadNet がホストしていないモデルも含め、任意の OpenAI 互換エンドポイントの前に置けます。BroadNet によると、リクエスト、レスポンス、ストリーミングのチャンク、ストリーミングされるツール呼び出しの引数、検索で取得したコンテキスト、推論フィールドを検査し、トレースとログ用には別のサニタイザーを備えています。BroadNet が 2026 年 5 月に自社コーパスで行った評価では、広範な PII 検出器の再現率は、40 件の認証情報リプレイで 1.000、合成した臨床データで 0.944、広範な英語 PII で 0.685 でした。Microsoft Presidio 単体ではそれぞれ 0.194、0.056、0.326 です(BroadNet の記事)。これは BroadNet が自社ツールについて示した数値です。何かをブロックする前に、まず monitor プロファイルで自社のトラフィックに対して動かしてください。

プレースホルダーの 2 つのルール:

  • 会話の中で一貫させる。 [NAME_1] がどのターンでも同じ人物を指すようにします。
  • モデルにそのまま残すよう指示する。 上のシステムプロンプトのようにします。

ステップ 3:プロバイダーの側でデータはどうなるのか?

マスキングは外に出るものを減らします。その後どうなるかはプロバイダー次第です。次を確認します。

  • リクエストの後に内容は保存されるか。保存期間は?
  • 学習に使われるか。既定の設定は?
  • ハードウェアを運用しているのは誰で、どこにあるか。

プロバイダーによって答えは大きく異なります。5 社の公式な表現は LLM API のデータ保持比較、技術的な質問は ZDR チェックリスト、契約面は GDPR チェックリストをご覧ください。

ステップ 4:プロンプトを自社のログに残さないには?

プロンプトがいちばん残りやすいのは自社のシステムです。よくある漏えい箇所:

  • リクエスト本文を出力する HTTP クライアントのデバッグログ。
  • 既定でプロンプト全文を記録するトレーシング・オブザーバビリティ SDK。
  • 失敗したリクエストのペイロードを添付するエラー通知ツール。
  • ユーザーのメッセージを含む分析イベント。
  • リクエスト全体を保存するリトライキューやデッドレターキュー。

代わりに記録するのは、リクエスト ID、モデル、プロンプトと補完のトークン数、レイテンシ、ステータスコード、そして自社のマスキング対応表の ID(対応表そのものは記録しない)です。コストとエラーの調査にはこれで十分です。使用量ログの記事には、まさにこれらの項目を書き出し、呼び出しごとのコストを計算するラッパーがあります。

ステップ 5:API までの経路をどう守るか?

  • キーはサーバーに置き、ブラウザやモバイルのコードには決して入れません。保管とローテーションは LLM API キーのセキュリティで扱っています。
  • IP 許可リストで、キーを自社の送信元アドレスに限定します。
  • サービスごとに 1 つの API キーを使えば、1 つを失効させてもすべてが止まりません。

ステップ 6:レスポンスでは何を確認すべきか?

マスキングが守るのはリクエストです。レスポンスも確認が必要です。モデルが値を繰り返したり、推測したり、再構成したりすることがあるからです。

  • プレースホルダーの整合性。 restore() の後に、対応表になかった [PHONE_3] のようなトークンが残っていないか探します。残っていれば、モデルが勝手に作ったということです。
  • 出力に新たに現れた PII。 同じ検出器をレスポンスにもかけます。送っていないメールアドレスを含む返信は、顧客に届く前にもう一度確認する価値があります。
  • ユーザー間の漏えい。 レスポンスをキャッシュしたり会話の状態を共有したりする場合、あるユーザーの復元された値が別のユーザーの返信に決して現れないようにします。

チャットの返信だけでなく、すべての出力経路を確認してください。BroadNet の Safety Map の研究では、ツール呼び出しの引数を埋めた 73 回の実行のうち 20 回で、推論フィールドを埋めた 43 回の実行のうち 29 回で、機密値がそこから漏れていました。その間、表示された返信は安全、見逃し、または途中で切れたと評価されていました。

プロンプト、モデル、検出器を変えるたびに、本物の機密データを含む 50 件の固定セットでループ全体をテストします。捕まえた件数だけでなく、見逃した件数を数えてください。カード番号 1 件の見逃しは、100 件の正しいプレースホルダーより重大です。

機密性のある音声にも同じ扱いが必要か?

ボイスメッセージには、10 秒で氏名、電話番号、健康情報が入ることがあります。文字起こしはそのすべてを引き継ぎます。要約のために LLM に送る前に文字起こしをマスキングし、元の音声は必要な間だけ保持します。コールセンターの文字起こしパイプラインでは、文字起こしと要約の間でマスキングを行う例を紹介しています。

BroadNet Inference の位置づけ

BroadNet のプライバシーステートメントには、ゲートウェイが “keeps no prompts, messages, images, audio, responses or transcripts”(訳:プロンプト、メッセージ、画像、音声、レスポンス、文字起こしを一切保持しない)とあり、推論データを “to train, fine-tune or evaluate models”(訳:モデルの学習、ファインチューニング、評価のために)使わないとしています。保持するのは、処理時間、トークン数、費用など内容を含まない記録で、一覧はゼロデータ保持のページにあります。キーは自社の IP アドレスに限定できます。上の例で使った Qwen3.8 27B は BroadNet がアラビア語でテストしたモデルで、プレースホルダーがアラビア語の文中に入る場合に重要です。

ここまではプロバイダー側の話です。BroadNet がマスキングをしてくれるわけでも、ログを掃除してくれるわけでもありません。BroadNet を含めどのプロバイダーを使っても、ステップ 1、2、4 は自分の仕事です。規制対象のデータについて書面の DPA や再委託先の一覧が必要な場合は、送る前に BroadNet に問い合わせてください。ステートメントには、再委託先の一覧は依頼に応じて提供するとあります。

よくある質問

個人情報(PII)を LLM API に送っても安全ですか?

管理策があれば安全にできます。プロバイダーとの契約、明確な保持・学習ポリシー、リクエスト前の最小化とマスキング、そして自分の側のきれいなログです。これらがなければ、生の PII は送らないでください。

ChatGPT などの LLM API に送る前にマスキングすべきですか?

タスクに不要なものはすべてマスキングします。要約、分類、文面作成なら、氏名や番号はたいていプレースホルダーに置き換えても品質は落ちず、応答後に元に戻せます。

マスキング(redaction)と仮名化の違いは何ですか?

マスキングは値を完全に取り除きます。仮名化は値をプレースホルダーに置き換え、手元で保管する対応表で元に戻せるようにします。GDPR では仮名化データも個人データのままなので、引き続き保護が必要です。

ゼロデータ保持なら何を送ってもよいのですか?

いいえ。ゼロデータ保持とは、リクエストの後にプロバイダーが内容を保持しないという意味です。データは自社システムの外に出てプロバイダーが処理するので、最小化と法的な確認は引き続き必要です。

プロンプトが自社のログに残らないようにするには?

リクエスト ID、モデル、トークン数、レイテンシ、ステータスを記録し、メッセージ本文は決して記録しません。HTTP クライアントのデバッグログ、トレーシング SDK、エラー通知ツールを確認してください。これらは既定でリクエスト本文を取り込むことがよくあります。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く