BroadRouter
Comenzar

Datos sensibles en una API de LLM: ocultar, minimizar, registrar menos

Por el equipo de BroadNet Inference · 5 min de lectura · Publicado · Actualizado

Para enviar datos sensibles a una API de LLM, decida primero qué campos necesita la tarea y descarte el resto. Sustituya nombres, números e identificadores por marcadores reversibles antes de la solicitud y restáurelos en su propio código después. Use un proveedor con retención cero de datos, mantenga el contenido de los prompts fuera de sus logs y restrinja las claves de API a sus servidores.

The word "PRIVATE" in bold letters, with the text "Control what AI sees." and "LSDF by BroadNet".

Los bots de atención al cliente leen quejas con nombres y números de pedido. Los flujos de call center envían transcripciones con dígitos de tarjetas. Las apps de salud envían síntomas. Todo eso le sirve al modelo, y todo eso es información sensible desde el momento en que sale de sus servidores.

OWASP sitúa la divulgación de información sensible como LLM02 en su Top 10 de 2025 para aplicaciones de LLM. La mayoría de las recomendaciones se centran en lo que el modelo podría revelar. Este artículo se centra en la parte que usted controla: qué envía y qué conserva.

¿Qué cuenta como dato sensible para una API de LLM?

Clasifique los campos en tres grupos antes de escribir un prompt:

Grupo Ejemplos Regla predeterminada
Identificadores directos Nombre, correo, teléfono, documento nacional de identidad, número de cuenta Sustituir por marcadores
Categorías especiales o reguladas Salud, biometría, religión, números de tarjeta, credenciales No enviar salvo que la tarea lo requiera y exista una base legal
Contexto Nombres de productos, tipo de incidencia, fechas, importes Normalmente se pueden enviar

Según el RGPD, las categorías especiales (artículo 9) requieren una condición específica antes de tratarlas siquiera. Los datos de tarjetas y los secretos, como contraseñas o claves de API, nunca deben llegar a un prompt.

Paso 1: ¿qué campos necesita realmente la tarea?

La mejor ocultación es no enviar el campo. Pregúntese qué necesita la tarea:

  1. ¿Resumir un ticket? El modelo necesita la queja, no la dirección del cliente.
  2. ¿Clasificar la intención? Necesita el texto del mensaje, no el ID de cuenta.
  3. ¿Redactar una respuesta? Necesita, como mucho, el nombre de pila, y un marcador sirve.

Construya los prompts a partir de campos seleccionados, no volcando el registro completo como JSON. Esto también reduce los tokens de entrada, así que ahorra dinero.

Paso 2: ¿cómo se ocultan los datos para que el modelo siga entendiendo el texto?

Sustituya cada valor por un marcador numerado que indique su tipo. El modelo conserva la estructura de la frase y su código restaura los valores después.

import os, re
from openai import OpenAI

PATTERNS = {   # order matters: IBAN before PHONE, or the phone pattern eats IBAN digits
    "EMAIL": r"[\w.+-]+@[\w-]+\.[\w.-]+",
    "IBAN":  r"\b[A-Z]{2}\d{2}[A-Z0-9]{11,30}\b",
    "PHONE": r"\+?\d[\d\s-]{7,}\d",
}

def redact(text):
    mapping, n = {}, {}
    for kind, pat in PATTERNS.items():
        def sub(m):
            n[kind] = n.get(kind, 0) + 1
            key = f"[{kind}_{n[kind]}]"
            mapping[key] = m.group(0)
            return key
        text = re.sub(pat, sub, text)
    return text, mapping

def restore(text, mapping):
    for key, value in mapping.items():
        text = text.replace(key, value)
    return text

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
# Any OpenAI-compatible endpoint works; this uses Qwen3.8 27B on BroadNet Inference.

ticket = "Call me on +971 50 123 4567 or mail sara@example.com about my refund."
safe, mapping = redact(ticket)
reply = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    messages=[
        {"role": "system", "content": "Keep placeholders like [PHONE_1] exactly as written."},
        {"role": "user", "content": f"Draft a short reply to this ticket:\n{safe}"},
    ],
).choices[0].message.content
print(restore(reply, mapping))   # the mapping never left your server

Las expresiones regulares detectan valores estructurados. Los nombres y las direcciones requieren reconocimiento de entidades. Herramientas de código abierto como Microsoft Presidio combinan patrones, dígitos de control y modelos de reconocimiento de entidades nombradas, y le permiten añadir sus propios reconocedores. Pruebe cualquier detector con sus propios datos: los nombres árabes, los formatos de teléfono del Golfo y el texto que mezcla alfabetos son donde fallan los detectores genéricos.

Si prefiere ejecutar un proxy en lugar de programar la ocultación usted mismo, BroadNet publica uno de código abierto: el LLM Sensitive Data Firewall (LSDF), bajo licencia Apache-2.0. Se coloca delante de cualquier endpoint compatible con OpenAI, incluidos modelos que BroadNet no aloja, y BroadNet afirma que inspecciona solicitudes, respuestas, fragmentos en streaming, argumentos de tool calls en streaming, contexto recuperado y campos de razonamiento, con un sanitizador aparte para trazas y logs. En la evaluación de BroadNet de mayo de 2026 sobre sus propios corpus, sus detectores amplios de PII alcanzaron un recall de 1.000 en una reproducción de credenciales de 40 casos, 0.944 en datos clínicos sintéticos y 0.685 en PII general en inglés, frente a 0.194, 0.056 y 0.326 de Microsoft Presidio por sí solo (informe de BroadNet). Son cifras de BroadNet sobre su propia herramienta; ejecute su perfil monitor con su tráfico antes de bloquear nada.

Dos reglas para los marcadores:

  • Manténgalos coherentes dentro de una conversación, para que [NAME_1] sea la misma persona en cada turno.
  • Indique al modelo que los conserve sin cambios, como en el prompt de sistema de arriba.

Paso 3: ¿qué pasa con los datos en el proveedor?

La ocultación reduce lo que sale. Lo que ocurre después lo decide el proveedor. Pregunte:

  • ¿Se almacena el contenido después de la solicitud, y durante cuánto tiempo?
  • ¿Se usa para entrenamiento, y cuál es la opción predeterminada?
  • ¿Quién opera el hardware, y dónde?

Las respuestas de los proveedores varían mucho. Consulte retención de datos en APIs de LLM comparada para la redacción oficial de cinco de ellos, la lista de verificación de ZDR para las preguntas técnicas y la lista de verificación del RGPD para la parte contractual.

Paso 4: ¿cómo se mantienen los prompts fuera de sus propios logs?

Su propia infraestructura es donde los prompts persisten con más frecuencia. Fugas comunes:

  • Logging de depuración del cliente HTTP que imprime el cuerpo de las solicitudes.
  • SDK de trazas y observabilidad que registran prompts completos de forma predeterminada.
  • Reportadores de errores que adjuntan la carga útil de la solicitud fallida.
  • Eventos de analítica que incluyen el mensaje del usuario.
  • Colas de reintentos y colas de mensajes fallidos (dead-letter) que almacenan solicitudes completas.

Registre en su lugar: ID de solicitud, modelo, recuento de tokens de prompt y de respuesta, latencia, código de estado y el ID de su tabla de ocultación (nunca la tabla en sí). Con eso basta para depurar costos y errores. El artículo sobre registro de uso incluye un wrapper que escribe exactamente estos campos y calcula el costo por llamada.

Paso 5: ¿cómo se protege el camino hacia la API?

Paso 6: ¿qué conviene revisar en la respuesta?

La ocultación protege la solicitud. La respuesta también necesita una revisión, porque un modelo puede repetir, adivinar o reconstruir valores:

  • Integridad de los marcadores. Después de restore(), busque marcadores sobrantes como [PHONE_3] que nunca estuvieron en su tabla. Significan que el modelo inventó uno.
  • PII nueva en la salida. Pase el mismo detector por la respuesta. Una respuesta que contiene un correo que usted nunca envió merece una segunda mirada antes de llegar a un cliente.
  • Fugas entre usuarios. Si guarda respuestas en caché o comparte el estado de la conversación, asegúrese de que los valores restaurados de un usuario nunca puedan aparecer en la respuesta de otro.

Revise todos los canales de salida, no solo la respuesta del chat. El estudio Safety Map de BroadNet encontró valores sensibles que salían por los argumentos de tool calls en 20 de 73 ejecuciones que los rellenaron, y por el campo de razonamiento en 29 de 43 ejecuciones que lo rellenaron, mientras que la respuesta visible se calificaba como segura, fallida o truncada.

Pruebe el ciclo completo con un conjunto fijo de 50 ejemplos reales y sensibles cada vez que cambie el prompt, el modelo o el detector. Cuente los valores que se escaparon, no solo los detectados: un número de tarjeta que se escapa importa más que cien marcadores correctos.

¿El audio sensible necesita el mismo tratamiento?

Una nota de voz puede llevar un nombre, un teléfono y un dato de salud en diez segundos. Las transcripciones lo heredan todo. Oculte los datos de la transcripción antes de que vaya a un LLM para resumirla, y conserve el audio original solo el tiempo imprescindible. Nuestro flujo de transcripción para call center muestra la ocultación entre los pasos de transcripción y resumen.

Dónde encaja BroadNet Inference

La declaración de privacidad de BroadNet dice que su gateway “keeps no prompts, messages, images, audio, responses or transcripts” (Traducción: no conserva prompts, mensajes, imágenes, audio, respuestas ni transcripciones) y que no usa los datos de inferencia “to train, fine-tune or evaluate models” (Traducción: para entrenar, ajustar ni evaluar modelos). Conserva registros sin contenido, como tiempos, recuentos de tokens y costo; la lista completa está en la página de retención cero de datos. Las claves pueden restringirse a sus direcciones IP. Qwen3.8 27B, usado en el ejemplo anterior, fue probado en árabe por BroadNet, algo que importa cuando sus marcadores están dentro de texto en árabe.

Eso cubre el lado del proveedor. No oculta datos por usted ni limpia sus logs. Los pasos 1, 2 y 4 siguen siendo responsabilidad suya con cualquier proveedor, incluido BroadNet. Si necesita un DPA (acuerdo de tratamiento de datos) por escrito o una lista de subencargados para datos regulados, pregunte a BroadNet antes de enviarlos; la declaración indica que la lista de subencargados está disponible a solicitud.

Preguntas frecuentes

¿Es seguro enviar datos personales (PII) a una API de LLM?

Puede serlo, con controles: un contrato con el proveedor, una política clara de retención y entrenamiento, minimización y ocultación antes de la solicitud, y logs limpios de su lado. Sin eso, evite enviar PII sin procesar.

¿Debo ocultar los datos antes de enviarlos a ChatGPT u otra API de LLM?

Oculte todo lo que la tarea no necesite. Para resúmenes, clasificación y redacción de respuestas, los nombres y números normalmente pueden sustituirse por marcadores sin afectar la calidad, y restaurarse después de la respuesta.

¿Cuál es la diferencia entre ocultación y seudonimización?

La ocultación elimina un valor para siempre. La seudonimización lo sustituye por un marcador que usted puede revertir con una clave que conserva. Según el RGPD, los datos seudonimizados siguen siendo datos personales, así que siguen necesitando protección.

¿La retención cero de datos significa que puedo enviar cualquier cosa?

No. La retención cero de datos significa que el proveedor no conserva el contenido después de la solicitud. Los datos igualmente salen de sus sistemas y el proveedor los procesa, así que la minimización y las comprobaciones legales siguen aplicando.

¿Cómo evito que los prompts aparezcan en mis propios logs?

Registre ID de solicitud, modelo, recuento de tokens, latencia y estado, nunca el cuerpo de los mensajes. Revise el logging de depuración del cliente HTTP, los SDK de trazas y los reportadores de errores, que a menudo capturan el cuerpo de las solicitudes de forma predeterminada.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity