---
title: "Evaluar un LLM con datos sensibles: el método de BroadNet"
description: "Método de BroadNet para comprobar si un LLM filtra credenciales, PII, datos de salud o financieros antes del despliegue: categorías, fuga vs omisión, 3+ ejecuciones."
url: https://broadrouter.com/es/blog/llm-sensitive-data-safety-evaluation-method/
lang: es
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/blog/llm-sensitive-data-safety-evaluation-method/) (actualizado el 2026-11-15).

# Cómo evaluar la seguridad de un LLM con datos sensibles (BroadNet)

Por el equipo de BroadNet Inference · 3 min de lectura · Publicado 2026-11-15

El preprint de BroadNet de abril de 2026 (DOI 10.5281/zenodo.19574049, también en SSRN) plantea una prueba de seguridad con datos sensibles antes del despliegue. Pruebe cuatro categorías (credenciales, PII, datos de salud y financieros) por separado, puntúe fugas y omisiones como fallos distintos, use puntuación binaria y ejecute cada prueba al menos tres veces. En sus pruebas, las reglas en el prompt y el fine-tuning con ejemplos negativos empeoraron las fugas.

## Puntos clave

-   Preprint en Zenodo, DOI 10.5281/zenodo.19574049 (14 de abril de 2026, CC BY 4.0), replicado en SSRN como 10.2139/ssrn.6565139. Sin revisión por pares.
-   Los benchmarks de capacidad miden lo que un modelo puede hacer; este método mide lo que no debe hacer.
-   Dos modos de fallo: la fuga (repetir un valor sensible) y la omisión (no señalarlo). Puntúelos por separado.
-   La seguridad no es determinista: base cada veredicto en 3 o más ejecuciones, nunca en una sola pasada.
-   En las pruebas de BroadNet, las instrucciones agresivas en el prompt y el fine-tuning con ejemplos negativos aumentaron las tasas de fuga.

**En esta página**

1.  ¿Por qué los benchmarks habituales no lo detectan?
2.  ¿Qué prueba el método?
3.  ¿Cómo deben puntuarse los resultados?
4.  ¿Qué no funcionó?
5.  ¿Qué no publica el artículo?
6.  ¿Qué relación tiene con BroadNet Inference?

_[image: Cards reading Name and Email turning into the placeholders [PERSON] and [EMAIL], with the text "Redact. Process. Restore." and "LSDF by BroadNet".]_

El área de investigación de BroadNet publicó un método práctico para comprobar si un gran modelo de lenguaje filtra datos sensibles antes de desplegarlo. El preprint, _How to Evaluate an LLM for Sensitive Data Safety Before Deploying It_ (Traducción: Cómo evaluar la seguridad de un LLM con datos sensibles antes de desplegarlo), está en Zenodo con el DOI [10.5281/zenodo.19574049](https://doi.org/10.5281/zenodo.19574049), con fecha del 14 de abril de 2026, y replicado en SSRN. Su registro en Zenodo indica como autor a Mohammad Al Zubaidi.

Esta página resume el método y sus hallazgos. Es trabajo de BroadNet, y los hallazgos son suyos; no los hemos reproducido.

## ¿Por qué los benchmarks habituales no lo detectan?

Los benchmarks públicos miden la capacidad: lo que un modelo puede hacer en su mejor momento. Un modelo desplegado para auditar un archivo de configuración o una nota clínica además no debe hacer algo: repetir el secreto que encontró. El ejemplo del artículo lo deja claro. Un modelo que obtiene 95 en 99 tareas y copia una clave de API en la número cien promedia 94 y sigue siendo inutilizable en producción.

BroadNet lo llama probar los mínimos en lugar de los máximos, y el artículo trata “capability and constraint” (Traducción: capacidad y restricción) como ejes independientes.

## ¿Qué prueba el método?

Cuatro categorías, cada una probada por separado:

| Categoría | Ejemplos | Cómo la reconoce un modelo |
| --- | --- | --- |
| Credenciales | Claves de API, tokens, claves SSH, contraseñas de bases de datos | Sobre todo por el formato; las contraseñas en cadenas de conexión no tienen pista de formato |
| Información de identificación personal (PII) | Nombres, correos, teléfonos, documentos de identidad | Por formato en los identificadores estructurados, por significado en el texto libre |
| Información de salud protegida (PHI) | Diagnósticos, recetas, notas clínicas | A menudo por contexto: un diagnóstico junto a un nombre |
| Datos financieros | Números de cuenta, saldos, transacciones | Por formato, pero se tratan como sensibles con menos frecuencia |

El abstract reporta pruebas con “24+ models across 6 model families” (Traducción: más de 24 modelos de 6 familias de modelos) y encuentra una jerarquía clara: el reconocimiento basado en el formato, como las credenciales estructuradas y los números de la Seguridad Social estadounidense, es mucho más fiable que el basado en el contexto, como los nombres que se vuelven sensibles junto a un diagnóstico. Un modelo con una tasa de fuga de credenciales del 0 % filtró identificadores de pacientes en todas las ejecuciones de la prueba de PHI.

## ¿Cómo deben puntuarse los resultados?

El artículo propone un protocolo mínimo:

1.  **Puntuación binaria.** Cada ejecución es segura o no; no hay puntos parciales por una respuesta “casi segura”.
2.  **Fugas y omisiones puntuadas por separado.** Combinarlas en una sola cifra oculta la que importa para su caso de uso.
3.  **Varias ejecuciones.** Tres o más por modelo y sonda, porque el mismo modelo puede aprobar un día y filtrar al siguiente.
4.  **Categoría por categoría.** La seguridad con credenciales no dice nada sobre la seguridad con historiales de salud.

El informe práctico de BroadNet añade reglas operativas que aplica en sus pilotos: usar solo datos sintéticos, probar la configuración de despliegue completa (incluidos el prompt de sistema, las herramientas y la recuperación), exigir cinco ejecuciones limpias consecutivas antes de producción y volver a probar cada mes los modelos autoalojados y cada semana los modelos de terceros que se actualizan con frecuencia.

## ¿Qué no funcionó?

Dos soluciones habituales empeoraron las cosas en las pruebas de BroadNet:

-   **Instrucciones en el prompt.** Añadir “no reveles credenciales” a veces se ignoraba, y la estrategia de prompt más contundente provocó fugas en un modelo que estaba limpio en la línea base.
-   **Fine-tuning con ejemplos negativos.** Entrenar un modelo para negarse a una categoría aumentó las tasas de fuga en lugar de reducirlas.

Lo que funcionó, según BroadNet, fueron tres capas juntas: elegir un modelo de menor riesgo para la categoría, filtrar la salida con una herramienta determinista (menciona [Microsoft Presidio](https://github.com/microsoft/presidio) y LLM Guard) y ocultar los datos de entrada antes de construir el prompt cuando la tarea no necesita los valores. Nuestra [guía para enviar datos sensibles a una API de LLM](https://broadrouter.com/es/blog/llm-api-sensitive-data/) muestra el paso de ocultación en código.

## ¿Qué no publica el artículo?

Según su política de publicación responsable, BroadNet publica las categorías, la filosofía de puntuación, los tamaños de muestra y las salvedades, pero no las plantillas de prompt exactas, los formatos de credenciales ni los umbrales de aprobado y suspenso. Su razón: publicarlos reduciría el esfuerzo necesario para la extracción sin que quienes despliegan modelos dispongan de una defensa. Los proveedores de modelos y los investigadores de seguridad pueden solicitarlos. Eso hace que el método sea reproducible en su forma, pero no cifra por cifra.

## ¿Qué relación tiene con BroadNet Inference?

Es una prueba de modelos, no de proveedores. Se aplica a cualquier modelo en cualquier API, incluidos los de [BroadNet Inference](https://broadrouter.com/es/models/). El artículo complementario, [el Safety Map](https://broadrouter.com/es/blog/llm-safety-map-39-models/), la aplica a 39 modelos de 14 laboratorios y encuentra que los valores sensibles también pueden salir por los argumentos de los tool calls y los campos de razonamiento. Más adelante, BroadNet publicó un firewall de código abierto basado en ambos artículos, LSDF, descrito en el resumen del Safety Map.

La retención del proveedor es otra cuestión: la [cero retención de datos](https://broadrouter.com/es/privacy/) cubre lo que almacena BroadNet, no lo que un modelo escribe en sus propios sistemas.

Herramientas gratuitas sobre este tema (en inglés)

-   [OpenAI-compatible API request builder](https://broadrouter.com/tools/api-request-builder/) One request, copied as curl, Python, Node or the OpenAI SDKs.
-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.

[Herramientas gratuitas (en inglés)](https://broadrouter.com/tools/)

## Términos de este artículo

[Fine-tuning (ajuste fino)](https://broadrouter.com/es/glossary/fine-tuning/)

El fine-tuning (ajuste fino) es el proceso de seguir entrenando un modelo de lenguaje preentrenado con un conjunto de datos más pequeño y específico de una tarea, como conversaciones de ejemplo, para que sus pesos cambien y realice esa tarea o estilo con más fiabilidad sin necesitar instrucciones o ejemplos largos en cada prompt.

[PII (información de identificación personal)](https://broadrouter.com/es/glossary/pii/)

La PII (información de identificación personal) es información que permite distinguir o rastrear la identidad de una persona, como su nombre, un número de identificación o un registro biométrico, más otra información vinculable a ella. El RGPD habla de datos personales, un término más amplio. Con LLMs, se anonimiza antes de que los prompts salgan de sus sistemas.

[Token](https://broadrouter.com/es/glossary/token/)

Un token es la unidad de texto que un modelo de lenguaje lee y escribe: una palabra, parte de una palabra, un signo de puntuación o una secuencia de bytes producida por el tokenizador del modelo. Las APIs de LLM cuentan, limitan y normalmente facturan el uso en tokens.

[Clave de API (API key)](https://broadrouter.com/es/glossary/api-key/)

Una clave de API es una cadena secreta que identifica y autoriza a un cliente que llama a una API. Las APIs de LLM suelen esperarla en un encabezado Authorization: Bearer, y cualquiera que tenga la clave puede hacer solicitudes que se facturan a la cuenta propietaria.

[Llamadas a herramientas (tool calling)](https://broadrouter.com/es/glossary/tool-calling/)

Las llamadas a herramientas (tool calling), también llamadas function calling, son una función de las APIs de LLM en la que el modelo devuelve una solicitud estructurada para ejecutar una función definida por el desarrollador, con argumentos JSON. La aplicación ejecuta la función y devuelve el resultado; el modelo nunca ejecuta código.

[Prompt de sistema (system prompt)](https://broadrouter.com/es/glossary/system-prompt/)

Un prompt de sistema es el texto de instrucciones que una aplicación envía a un modelo de lenguaje antes de la conversación, normalmente como mensaje con el rol system o developer. Define el rol, las reglas, el tono y el formato de salida del modelo, que debe priorizarlo sobre mensajes del usuario que lo contradigan.

## Preguntas frecuentes

### ¿Cuál es la diferencia entre una fuga y una omisión?

Una fuga es que el modelo repita un valor sensible donde no debe, por ejemplo copiar una clave de API en un informe. Una omisión es que el modelo no señale un valor sensible cuando esa es su tarea. El método de BroadNet los puntúa por separado porque conllevan riesgos distintos.

### ¿Cuántas ejecuciones necesita la prueba?

Al menos tres por sonda. El protocolo práctico de BroadNet añade cinco ejecuciones limpias consecutivas antes de considerar un modelo seguro para producción, repartidas en al menos dos días naturales para detectar cambios del lado del proveedor.

### ¿Sirve un prompt de sistema que diga "nunca reveles secretos"?

No de forma fiable. En las pruebas de BroadNet, la estrategia de prompt más contundente provocó fugas en un modelo que sin ella estaba limpio, y el fine-tuning con ejemplos negativos también aumentó las tasas de fuga.

### ¿Puedo obtener los prompts de prueba exactos de BroadNet?

No públicamente. Según su política de publicación responsable, BroadNet no publica las plantillas de prompt exactas, los formatos de credenciales ni los umbrales de aprobado y suspenso, y los comparte con proveedores de modelos e investigadores de seguridad que los soliciten.

### ¿La cero retención de datos hace innecesaria esta prueba?

No. La cero retención de datos controla lo que almacena el proveedor. Esta prueba trata de lo que el modelo escribe en su propia salida, que después acaba en sus registros, tickets y sistemas posteriores.

## Siga leyendo

-   [El Safety Map: cómo tratan 39 LLM los datos sensibles](https://broadrouter.com/es/blog/llm-safety-map-39-models/)
-   [Datos sensibles en una API de LLM: ocultar, minimizar, registrar menos](https://broadrouter.com/es/blog/llm-api-sensitive-data/)
-   [Cómo evaluar un LLM antes de cambiar de proveedor](https://broadrouter.com/es/blog/evaluate-llm-before-switching/)
-   [API de LLM con retención cero de datos: lista de 10 preguntas](https://broadrouter.com/es/blog/zero-data-retention-llm-api-checklist/)
-   [Ley de protección de datos de Egipto (Ley 151 de 2020) y API de LLM](https://broadrouter.com/es/blog/egypt-data-protection-law-llm-api/)
-   [PDPL de Arabia Saudita y EAU y API de LLM: checklist de transferencias](https://broadrouter.com/es/blog/saudi-uae-pdpl-llm-api-checklist/)

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-blog-llm-sensitive-data-safety-evaluation-method&utm_content=page-cta) ·

**Fuentes**

-   [Al Zubaidi, How to Evaluate an LLM for Sensitive Data Safety Before Deploying It, preprint en Zenodo, 2026-04-14 (registro consultado el 2026-11-15)](https://doi.org/10.5281/zenodo.19574049)
-   [El mismo artículo en SSRN, abstract 6565139 (DOI indicado por BroadNet; consultado el 2026-11-15)](https://doi.org/10.2139/ssrn.6565139)
-   [Blog de BroadNet, How We Evaluate an LLM for Sensitive-Data Safety Before Deploying It (12 de mayo de 2026; consultado el 2026-11-15) (en inglés)](https://www.broadnet.ai/blog/evaluating-llm-sensitive-data-safety)
-   [BroadNet Research: política de publicación responsable (consultado el 2026-11-15)](https://www.broadnet.ai/es/research)
-   [Microsoft Presidio (consultado el 2026-11-15)](https://github.com/microsoft/presidio)
