BroadRouter
Começar

Dados sensíveis numa API de LLM: mascare, minimize, registre menos

Pela equipe da BroadNet Inference · 5 min de leitura · Publicado em · Atualizado em

Para enviar dados sensíveis a uma API de LLM, decida primeiro quais campos a tarefa precisa e descarte o resto. Substitua nomes, números e IDs por placeholders reversíveis antes da requisição e restaure-os no seu próprio código depois. Use um provedor com retenção zero de dados, mantenha o conteúdo dos prompts fora dos seus logs e restrinja as chaves de API aos seus servidores.

The word "PRIVATE" in bold letters, with the text "Control what AI sees." and "LSDF by BroadNet".

Bots de atendimento leem reclamações com nomes e números de pedido. Pipelines de call center enviam transcrições com dígitos de cartão. Apps de saúde enviam sintomas. Tudo isso é útil para um modelo, e tudo isso é dado sensível no momento em que sai dos seus servidores.

A OWASP coloca a divulgação de informações sensíveis como LLM02 no seu Top 10 de 2025 para aplicações de LLM. A maior parte das orientações foca no que o modelo pode revelar. Este post foca na parte que você controla: o que você envia e o que você guarda.

O que conta como dado sensível para uma API de LLM?

Separe os campos em três grupos antes de escrever um prompt:

Grupo Exemplos Regra padrão
Identificadores diretos Nome, e-mail, telefone, documento de identidade, número da conta Substituir por placeholders
Categorias especiais ou reguladas Saúde, biometria, religião, números de cartão, credenciais Não enviar, a menos que a tarefa exija e você tenha base legal
Contexto Nomes de produtos, tipo de problema, datas, valores Normalmente pode enviar

Pelo GDPR, as categorias especiais (artigo 9) exigem uma condição específica antes mesmo de serem tratadas. Dados de cartão e segredos como senhas ou chaves de API nunca deveriam chegar a um prompt.

Passo 1: de quais campos a tarefa realmente precisa?

O melhor mascaramento é não enviar o campo. Pergunte o que a tarefa precisa:

  1. Resumir um chamado? O modelo precisa da reclamação, não do endereço do cliente.
  2. Classificar a intenção? Precisa do texto da mensagem, não do ID da conta.
  3. Rascunhar uma resposta? Precisa no máximo de um primeiro nome, e um placeholder resolve.

Monte os prompts a partir de campos selecionados, não despejando o registro inteiro como JSON. Isso também reduz os tokens de entrada, então economiza dinheiro.

Passo 2: como mascarar de forma que o modelo ainda entenda o texto?

Substitua cada valor por um placeholder tipado e numerado. O modelo mantém a estrutura da frase, e o seu código restaura os valores depois.

import os, re
from openai import OpenAI

PATTERNS = {   # order matters: IBAN before PHONE, or the phone pattern eats IBAN digits
    "EMAIL": r"[\w.+-]+@[\w-]+\.[\w.-]+",
    "IBAN":  r"\b[A-Z]{2}\d{2}[A-Z0-9]{11,30}\b",
    "PHONE": r"\+?\d[\d\s-]{7,}\d",
}

def redact(text):
    mapping, n = {}, {}
    for kind, pat in PATTERNS.items():
        def sub(m):
            n[kind] = n.get(kind, 0) + 1
            key = f"[{kind}_{n[kind]}]"
            mapping[key] = m.group(0)
            return key
        text = re.sub(pat, sub, text)
    return text, mapping

def restore(text, mapping):
    for key, value in mapping.items():
        text = text.replace(key, value)
    return text

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
# Any OpenAI-compatible endpoint works; this uses Qwen3.8 27B on BroadNet Inference.

ticket = "Call me on +971 50 123 4567 or mail sara@example.com about my refund."
safe, mapping = redact(ticket)
reply = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    messages=[
        {"role": "system", "content": "Keep placeholders like [PHONE_1] exactly as written."},
        {"role": "user", "content": f"Draft a short reply to this ticket:\n{safe}"},
    ],
).choices[0].message.content
print(restore(reply, mapping))   # the mapping never left your server

Expressões regulares pegam valores estruturados. Nomes e endereços exigem reconhecimento de entidades. Ferramentas open source como o Microsoft Presidio combinam padrões, checksums e modelos de reconhecimento de entidades nomeadas, e permitem adicionar os seus próprios reconhecedores. Teste qualquer detector com os seus próprios dados: nomes árabes, formatos de telefone do Golfo e textos com alfabetos misturados são onde detectores genéricos falham.

Se você prefere rodar um proxy em vez de escrever o mascaramento, a BroadNet publica um como open source: o LLM Sensitive Data Firewall (LSDF), sob Apache-2.0. Ele fica na frente de qualquer endpoint compatível com a OpenAI, inclusive para modelos que a BroadNet não hospeda, e segundo a BroadNet inspeciona requisições, respostas, chunks em streaming, argumentos de tool calls em streaming, contexto recuperado e campos de raciocínio, com um sanitizador separado para traces e logs. Na avaliação da BroadNet de maio de 2026 com os seus próprios corpora, os detectores de PII ampla tiveram recall de 1,000 num replay de 40 casos de credenciais, 0,944 em dados clínicos sintéticos e 0,685 em PII ampla em inglês, contra 0,194, 0,056 e 0,326 do Microsoft Presidio sozinho (relato da BroadNet). São números da BroadNet sobre a sua própria ferramenta; rode o perfil monitor no seu tráfego antes de bloquear qualquer coisa.

Duas regras para placeholders:

  • Mantenha-os consistentes dentro de uma conversa, para que [NAME_1] seja a mesma pessoa em todos os turnos.
  • Diga ao modelo para mantê-los inalterados, como no system prompt acima.

Passo 3: o que acontece com os dados no provedor?

O mascaramento reduz o que sai. O provedor decide o que acontece depois. Pergunte:

  • O conteúdo é armazenado depois da requisição, e por quanto tempo?
  • É usado para treinamento, e qual é o padrão?
  • Quem opera o hardware, e onde?

As respostas variam muito entre provedores. Veja a comparação de retenção de dados de APIs de LLM com o texto oficial de cinco deles, o checklist de ZDR para as perguntas técnicas e o checklist de GDPR para o lado contratual.

Passo 4: como manter os prompts fora dos seus próprios logs?

A sua própria stack é onde os prompts mais costumam ficar guardados. Vazamentos comuns:

  • Log de debug do cliente HTTP que imprime o corpo das requisições.
  • SDKs de tracing e observabilidade que gravam prompts completos por padrão.
  • Ferramentas de relatório de erros que anexam o payload da requisição que falhou.
  • Eventos de analytics que incluem a mensagem do usuário.
  • Filas de retry e dead-letter queues que armazenam requisições inteiras.

Registre isto em vez disso: ID da requisição, modelo, contagens de tokens de prompt e de completion, latência, código de status e o ID do seu mapeamento de mascaramento (nunca o mapeamento em si). É o suficiente para depurar custos e erros. O post sobre logs de uso tem um wrapper que grava exatamente esses campos e calcula o custo por chamada.

Passo 5: como proteger o caminho até a API?

Passo 6: o que verificar na resposta?

O mascaramento protege a requisição. A resposta também precisa de verificação, porque um modelo pode repetir, adivinhar ou reconstruir valores:

  • Integridade dos placeholders. Depois de restore(), procure tokens restantes como [PHONE_3] que nunca estiveram no seu mapeamento. Eles indicam que o modelo inventou um.
  • PII nova na saída. Rode o mesmo detector na resposta. Uma resposta que contém um endereço de e-mail que você nunca enviou merece uma segunda olhada antes de chegar a um cliente.
  • Vazamento entre usuários. Se você coloca respostas em cache ou compartilha estado de conversa, garanta que os valores restaurados de um usuário nunca apareçam na resposta de outro.

Verifique todos os canais de saída, não só a resposta do chat. O estudo Safety Map da BroadNet encontrou valores sensíveis saindo pelos argumentos de tool calls em 20 de 73 execuções que os preencheram, e pelo campo de raciocínio em 29 de 43 execuções que o preencheram, enquanto a resposta visível era avaliada como segura, falha na detecção ou truncada.

Teste o ciclo inteiro num conjunto fixo de 50 exemplos reais e sensíveis sempre que mudar o prompt, o modelo ou o detector. Conte os valores que escaparam, não só os capturados: um número de cartão que escapou importa mais do que cem placeholders corretos.

Áudio sensível precisa do mesmo tratamento?

Uma mensagem de voz pode carregar um nome, um telefone e um dado de saúde em dez segundos. As transcrições herdam tudo isso. Mascare a transcrição antes de mandá-la a um LLM para resumo, e guarde o áudio bruto só pelo tempo estritamente necessário. O nosso pipeline de transcrição de call center mostra o mascaramento entre a etapa de transcrição e a de resumo.

Onde entra a BroadNet Inference

A declaração de privacidade da BroadNet diz que o seu gateway “keeps no prompts, messages, images, audio, responses or transcripts” (tradução: não guarda prompts, mensagens, imagens, áudio, respostas ou transcrições) e que não usa dados de inferência “to train, fine-tune or evaluate models” (tradução: para treinar, fazer fine-tuning ou avaliar modelos). Ela mantém registros sem conteúdo, como tempos, contagens de tokens e custo; a lista completa está na página de retenção zero de dados. As chaves podem ser restritas aos seus endereços IP. O Qwen3.8 27B, usado no exemplo acima, foi testado em árabe pela BroadNet, o que importa quando os seus placeholders ficam dentro de um texto em árabe.

Isso cobre o lado do provedor. Ela não mascara por você e não limpa os seus logs. Os passos 1, 2 e 4 continuam sendo trabalho seu com qualquer provedor, inclusive a BroadNet. Se você precisa de um DPA por escrito ou de uma lista de suboperadores para dados regulados, peça à BroadNet antes de enviá-los; a declaração diz que a lista de suboperadores está disponível mediante solicitação.

Perguntas frequentes

É seguro enviar dados pessoais (PII) para uma API de LLM?

Pode ser, com controles: um contrato com o provedor, uma política clara de retenção e treinamento, minimização e mascaramento antes da requisição, e logs limpos do seu lado. Sem isso, evite enviar PII em texto puro.

Devo mascarar os dados antes de enviá-los ao ChatGPT ou a outra API de LLM?

Mascare tudo o que a tarefa não precisa. Para resumos, classificação e rascunhos, nomes e números geralmente podem ser trocados por placeholders sem prejudicar a qualidade e restaurados depois da resposta.

Qual a diferença entre mascaramento e pseudonimização?

O mascaramento remove um valor de vez. A pseudonimização o substitui por um placeholder que você consegue mapear de volta com uma chave que fica com você. Pelo GDPR, dados pseudonimizados continuam sendo dados pessoais, então ainda precisam de proteção.

Retenção zero de dados significa que posso enviar qualquer coisa?

Não. Retenção zero de dados significa que o provedor não guarda o conteúdo depois da requisição. Os dados ainda saem dos seus sistemas e são processados pelo provedor, então a minimização e as verificações legais continuam valendo.

Como evito que os prompts apareçam nos meus próprios logs?

Registre IDs de requisição, modelo, contagens de tokens, latência e status, nunca o corpo das mensagens. Verifique o log de debug do cliente HTTP, os SDKs de tracing e os relatórios de erro, que muitas vezes capturam o corpo das requisições por padrão.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity