客服机器人读到的投诉里有姓名和订单号。呼叫中心的流水线发送的转写文本里有银行卡号。健康类应用发送的是症状。这些对模型都很有用,而一旦离开你的服务器,它们全都是敏感数据。
OWASP 在其 2025 年大模型应用 Top 10 中,把敏感信息泄露列为 LLM02。大多数指南关注的是模型可能泄露什么。本文关注你能控制的部分:你发送什么,以及你保存什么。
对大模型 API 来说,什么算敏感数据?
写提示词之前,先把字段分成三类:
| 类别 | 示例 | 默认规则 |
|---|---|---|
| 直接标识符 | 姓名、邮箱、电话、身份证号、账号 | 替换为占位符 |
| 特殊或受监管数据 | 健康、生物特征、宗教、银行卡号、凭据 | 除非任务需要且你有法律依据,否则不发送 |
| 上下文 | 产品名称、问题类型、日期、金额 | 通常可以发送 |
在 GDPR 下,特殊类别数据(第 9 条)必须满足特定条件才能处理。银行卡数据以及密码、API 密钥之类的秘密,永远不应出现在提示词里。
第 1 步:任务真正需要哪些字段?
最好的脱敏就是不发送这个字段。问问任务需要什么:
- 总结工单? 模型需要的是投诉内容,不是客户地址。
- 意图分类? 它需要的是消息文本,不是账户 ID。
- 起草回复? 它最多需要一个名字,而占位符就够用。
用挑选出的字段构建提示词,不要把整条记录以 JSON 形式一股脑塞进去。这样还能减少输入 token,也就省了钱。
第 2 步:怎样脱敏,模型才仍然读得懂?
把每个值替换成带类型、带编号的占位符。模型保留了句子的结构,你的代码在之后还原这些值。
import os, re
from openai import OpenAI
PATTERNS = { # order matters: IBAN before PHONE, or the phone pattern eats IBAN digits
"EMAIL": r"[\w.+-]+@[\w-]+\.[\w.-]+",
"IBAN": r"\b[A-Z]{2}\d{2}[A-Z0-9]{11,30}\b",
"PHONE": r"\+?\d[\d\s-]{7,}\d",
}
def redact(text):
mapping, n = {}, {}
for kind, pat in PATTERNS.items():
def sub(m):
n[kind] = n.get(kind, 0) + 1
key = f"[{kind}_{n[kind]}]"
mapping[key] = m.group(0)
return key
text = re.sub(pat, sub, text)
return text, mapping
def restore(text, mapping):
for key, value in mapping.items():
text = text.replace(key, value)
return text
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
# Any OpenAI-compatible endpoint works; this uses Qwen3.8 27B on BroadNet Inference.
ticket = "Call me on +971 50 123 4567 or mail sara@example.com about my refund."
safe, mapping = redact(ticket)
reply = client.chat.completions.create(
model="broadnet/qwen3.8-27b",
messages=[
{"role": "system", "content": "Keep placeholders like [PHONE_1] exactly as written."},
{"role": "user", "content": f"Draft a short reply to this ticket:\n{safe}"},
],
).choices[0].message.content
print(restore(reply, mapping)) # the mapping never left your server
正则表达式能抓住结构化的值。姓名和地址则需要实体识别。Microsoft Presidio 等开源工具把模式匹配、校验和与命名实体模型结合起来,并允许你添加自己的识别器。任何检测器都要用你自己的数据来测:阿拉伯语姓名、海湾地区的电话格式以及混合文字的文本,正是通用检测器容易漏掉的地方。
如果你宁愿运行一个代理而不是自己写脱敏代码,BroadNet 开源了一个:LLM Sensitive Data Firewall(LSDF),采用 Apache-2.0 许可证。它可以放在任何 OpenAI 兼容端点前面,包括 BroadNet 不托管的模型。BroadNet 称它会检查请求、响应、流式数据块、流式工具调用参数、检索到的上下文和思考字段,并另有一个针对链路追踪和日志的清理器。在 BroadNet 于 2026 年 5 月用自有语料做的评测中,它的广义 PII 检测器在 40 个用例的凭据回放中召回率为 1.000,在合成临床数据上为 0.944,在广义英文 PII 上为 0.685;单独使用 Microsoft Presidio 时分别为 0.194、0.056 和 0.326(BroadNet 的文章)。这些是 BroadNet 为自家工具给出的数据;在启用拦截之前,先用它的 monitor 配置在你自己的流量上跑一遍。
占位符的两条规则:
- 保持一致:同一段对话中,
[NAME_1]在每一轮都指同一个人。 - 告诉模型原样保留它们,就像上面的系统提示词那样。
第 3 步:数据到了服务商那里会怎样?
脱敏减少了离开你系统的内容。接下来发生什么,由服务商决定。要问清楚:
- 请求结束后内容会被保存吗?保存多久?
- 会被用于训练吗?默认设置是什么?
- 硬件由谁运营,在哪里?
各家服务商的回答差别很大。参见大模型 API 数据保留对比了解其中五家的官方表述,参见 ZDR 检查清单了解技术问题,参见 GDPR 检查清单了解合同方面。
第 4 步:怎样不让提示词进入你自己的日志?
提示词最常被长期保存的地方,是你自己的技术栈。常见的泄露点:
- 会打印请求正文的 HTTP 客户端调试日志。
- 默认记录完整提示词的链路追踪和可观测性 SDK。
- 会附上失败请求负载的错误上报工具。
- 包含用户消息的分析事件。
- 保存整个请求的重试队列和死信队列。
改为记录这些:请求 ID、模型、提示词和补全的 token 数、延迟、状态码,以及你自己的脱敏映射 ID(绝不记录映射本身)。这足以排查成本和错误。用量日志一文提供了一个封装,正好写入这些字段,并计算每次调用的成本。
第 5 步:怎样保护通往 API 的路径?
- 密钥放在服务器上,绝不放进浏览器或移动端代码。大模型 API 密钥安全介绍了存储和轮换。
- 用 IP 白名单把密钥锁定到你的出口地址。
- 每个服务使用一个独立的 API 密钥,这样吊销其中一个时不会让所有服务停摆。
第 6 步:响应里应该检查什么?
脱敏保护的是请求。响应也需要检查,因为模型可能会复述、猜测或重建这些值:
- 占位符完整性。 执行
restore()之后,查找映射中从未有过的残留标记,例如[PHONE_3]。它们说明模型自己编了一个。 - 输出中新出现的 PII。 对响应运行同一个检测器。如果回复里出现了一个你从没发送过的邮箱地址,在它到达客户之前值得再看一眼。
- 跨用户泄露。 如果你缓存响应或共享对话状态,要确保一个用户被还原的值绝不会出现在另一个用户的回复里。
检查每一个输出通道,而不只是聊天回复。BroadNet 的 Safety Map 研究发现,在填写了工具调用参数的 73 次运行中,有 20 次敏感值经由这些参数流出;在填写了思考字段的 43 次运行中,有 29 次经由思考字段流出,而这些运行中可见的回复被评为安全、被漏判或被截断。
每当你更改提示词、模型或检测器时,都用一组固定的 50 个真实敏感样例测试整个流程。要统计漏掉的值,而不只是抓到的值:漏掉一个银行卡号,比一百个正确的占位符更要紧。
敏感音频也需要同样处理吗?
一条语音消息十秒钟内就可能包含姓名、电话号码和健康信息。转写文本会继承这一切。在把转写文本交给大模型做摘要之前先脱敏,原始音频只在必要时保留。我们的呼叫中心转写流水线展示了在转写和摘要两个步骤之间做脱敏。
BroadNet Inference 处在什么位置
BroadNet 的隐私声明称,其网关 “keeps no prompts, messages, images, audio, responses or transcripts”(译文:不保存任何提示词、消息、图像、音频、响应或转写文本),并且不会用推理数据 “to train, fine-tune or evaluate models”(译文:训练、微调或评估模型)。它保存的是不含内容的记录,例如耗时、token 数和费用;完整清单见零数据保留页面。密钥可以限定到你的 IP 地址。上例中使用的 Qwen3.8 27B 经过了 BroadNet 的阿拉伯语测试,当你的占位符位于阿拉伯语文本中时,这一点很重要。
以上覆盖的是服务商这一侧。它不会替你脱敏,也不会替你清理日志。无论用哪家服务商,包括 BroadNet,第 1、2、4 步都仍是你的工作。如果你需要为受监管数据签订书面的 DPA 或获取子处理方清单,请在发送数据之前先询问 BroadNet;声明中说子处理方清单可应要求提供。

