Una guía de Sluis para responsables de seguridad y CISO. Última comprobación el 19 de noviembre de 2026.
La shadow AI es el uso de ChatGPT para trabajar fuera de las herramientas aprobadas. Use SSO, un registro de auditoría y presupuestos, no solo una prohibición. Esta guía expone los cinco controles que necesita un CISO para desplegar ChatGPT de forma segura, lo que ha dicho la autoridad neerlandesa de protección de datos sobre las violaciones de seguridad con chatbots, cómo evitar que un registro de prompts se convierta en un problema de supervisión de los empleados y un plan de despliegue de 90 días con responsables y pruebas.
En resumen
- Prohibir no funciona por sí solo. La gente usa chatbots porque ahorran tiempo. Ofrezca una vía aprobada que sea más fácil, más rápida y con la sesión ya iniciada, para que el personal tenga menos motivos para usar una cuenta personal.
- Cinco controles sostienen el despliegue: una política sobre lo que puede introducirse, herramientas aprobadas tras SSO, registro y auditoría, presupuestos y listas de modelos permitidos, y protección de los datos antes de que el prompt salga de su entorno.
- La Autoriteit Persoonsgegevens (AP, la autoridad neerlandesa de protección de datos) considera que los datos personales pegados en un chatbot en contra de las normas del empleador son una violación de seguridad. Necesita un proceso de incidentes que pueda decidir sobre la notificación dentro de las 72 horas del artículo 33 del RGPD.
- Un registro de prompts es en sí un tratamiento de datos personales de los empleados y puede ser supervisión de los empleados. Registre por defecto metadatos y decisiones de política, restrinja quién puede leer el contenido, fije un plazo de conservación e informe al personal. En los Países Bajos, implique al comité de empresa y compruebe si es obligatoria una EIPD.
- Según el artículo 4 del Reglamento de IA, modificado en julio de 2026, debe adoptar medidas para apoyar la alfabetización en IA de su personal. Consulte nuestra guía sobre el Reglamento de IA para las organizaciones que usan IA.
Por qué surge la shadow AI y qué dice el regulador
Los empleados abren un chatbot en una pestaña del navegador porque responde en segundos, mientras que la vía oficial es un ticket y una espera. Nadie pretende provocar una violación de seguridad. El riesgo viene de lo que entra en el prompt: una exportación de clientes, el borrador de una carta sobre un compañero con nombre y apellidos, un bloque de código con una clave dentro.
El 6 de agosto de 2024 la AP publicó una advertencia basada en las notificaciones de violaciones que había recibido. Sus puntos principales:
- La AP había recibido varias notificaciones de violaciones de seguridad porque empleados compartieron con un chatbot de IA datos personales de, por ejemplo, pacientes o clientes. En un caso, un empleado de una consulta de medicina general introdujo datos médicos de pacientes, en contra de las normas acordadas. En otro, un empleado de una empresa de telecomunicaciones introdujo un archivo con direcciones de clientes.
- Los empleados suelen usar los chatbots por iniciativa propia y en contra de lo acordado con el empleador. Si se introdujeron datos personales, es una violación de seguridad.
- Cuando el uso del chatbot forma parte de la política de la organización, no es una violación de seguridad, pero a menudo no está permitido legalmente. Las organizaciones deben evitar ambas situaciones.
- La mayoría de las empresas que hay detrás de los chatbots almacenan todos los datos que se introducen, a menudo sin que quien los escribe lo sepa.
- El consejo de la AP: llegar a acuerdos claros con el personal sobre si pueden usarse chatbots y qué datos pueden y no pueden introducirse, y considerar acordar con el proveedor que no almacene la entrada. Si se produce una violación, notificarla a la AP y a las personas afectadas es en muchos casos obligatorio.
El segundo punto es lo que convierte la shadow AI en un problema de seguridad y no solo de política. El sentido de una vía aprobada es poner el tratamiento bajo el control de la organización; la aprobación en sí no es una base jurídica. Sigue necesitando una base, un contrato de encargo del tratamiento conforme al artículo 28 del RGPD y, a menudo, una EIPD.
Los controles, los riesgos que abordan y quién se encarga
| Control | Riesgo que aborda | Cómo se ve cuando está bien hecho | Responsable | Cómo lo apoya Sluis |
|---|---|---|---|---|
| Política sobre lo que puede introducirse | Datos de clientes, pacientes, RR. HH. y secretos pegados en cualquier modelo | Una página: herramientas aprobadas, categorías de datos prohibidas por su nombre, cómo notificar un error sin culpas | CISO con el responsable de privacidad y el departamento jurídico | Los propietarios eligen los modelos que pueden usar los miembros; los datos personales detectados se sustituyen antes del envío. Su organización redacta y aprueba la política |
| Herramientas aprobadas con SSO | Cuentas personales, sin baja al salir, sin visibilidad | Cada empleado puede iniciar sesión con la identidad de la empresa desde el primer día; quienes se marchan pierden el acceso automáticamente | Equipo de TI y de identidad | Inicio de sesión con Microsoft, Google, Apple o su propio proveedor OpenID Connect (Keycloak, Okta, Entra, ADFS 2016 o posterior, authentik); SAML solo mediante un broker OpenID Connect; aprovisionamiento SCIM 2.0; los propietarios pueden exigir doble factor e inicio de sesión único |
| Registro y auditoría | Ninguna constancia de qué vía se usó; ninguna prueba tras un incidente | Metadatos y decisiones de política por solicitud; contenido legible por pocos; conservación fijada y documentada | Operaciones de seguridad, con el responsable de privacidad | Rastro de auditoría encadenado por hash verificable sin conexión, una fila de auditoría por solicitud; registro de auditoría en la consola |
| Presupuestos y listas de modelos permitidos | Gasto descontrolado; modelos y proveedores sin evaluar | Un tope mensual por persona y por equipo; una lista corta de modelos aprobados con uno por defecto | Finanzas con el equipo de plataforma | Presupuesto mensual en euros por miembro y presupuestos bloqueantes por carga de trabajo; los propietarios eligen el catálogo completo o un conjunto restringido con uno por defecto |
| Protección de los datos antes de que el prompt salga | Datos personales y secretos que llegan al proveedor del modelo | Identificadores sustituidos antes del envío; residencia aplicada; límites de la detección conocidos | Responsable de privacidad con el equipo de plataforma | Los datos personales y secretos detectados se sustituyen por marcadores «TOKEN» tipados y reversibles y se restauran a la vuelta; residencia solo UE por defecto, las demás jurisdicciones se rechazan con 403 antes de enviar nada. La detección no es perfecta y no establece por sí sola el cumplimiento del RGPD |
| Detectar el uso en la sombra en la red | Volumen desconocido de herramientas no aprobadas | Informes agregados del tráfico a servicios de IA por departamento, revisados cada mes | Operaciones de seguridad | Se hace con su proxy, filtrado DNS, CASB o herramientas de endpoint existentes. Sluis no detecta ni bloquea otros sitios de IA |
| Proceso de incidentes | Violación no reconocida, notificada tarde o nunca | Un canal de notificación, un responsable del triaje, un reloj de 72 horas, un registro de violaciones | Responsable de privacidad o DPD | Una fila de auditoría por solicitud en la vía aprobada. El contenido conservado, si está activado, ayuda a investigar; no hay registro de Sluis del uso en la sombra |
| Alfabetización en IA | Personal que se fía de resultados erróneos; personal que no conoce las normas | Sesiones breves por función y constancia de quién asistió | RR. HH. o equipo de formación, con el CISO | Nada más allá del propio producto |
Sluis es un producto gestionado de una empresa joven, 7Lab B.V. en Ámsterdam, con certificación ISO 27001. Es una forma de ofrecer la vía aprobada. Los controles de la primera columna se aplican sea cual sea la herramienta que elija.
Un plan de despliegue a 30, 60 y 90 días
Use tres puntos de decisión: hacia el día 30, política y evaluación de proveedores; hacia el día 60, un piloto con controles probados; hacia el día 90, acceso para toda la organización y una revisión. Son objetivos de planificación sugeridos, no plazos legales. No empiece un piloto con datos personales antes de la evaluación exigida.
| Semana | Acción | Responsable | Pruebas |
|---|---|---|---|
| 1 a 2 | Medir el uso actual en la sombra a partir de datos del proxy, DNS o CASB, agregados por departamento y servicio, no por persona | Operaciones de seguridad | Lista de servicios de IA en uso y volúmenes aproximados |
| 2 a 3 | Redactar la política de uso de IA de una página: herramientas aprobadas, datos prohibidos, vía de notificación | CISO, responsable de privacidad, departamento jurídico | Versión 1 de la política, aprobada por la dirección |
| 3 a 4 | Elegir la vía aprobada, firmar el contrato de encargo, iniciar la EIPD, pedir al comité de empresa su conformidad con las normas de registro | Responsable de privacidad o DPD, RR. HH. | Contrato firmado, borrador de EIPD, solicitud de conformidad |
| 5 a 6 | Piloto con dos o tres equipos: SSO, lista de modelos permitidos, presupuesto por miembro, protección de datos activada, plazo de conservación fijado | TI y equipo de plataforma | Exportación de la configuración, filas de auditoría de ejemplo, sección de la EIPD sobre el piloto |
| 7 a 8 | Sesiones de alfabetización por función; simulacro del proceso de incidentes con un escenario de violación mediante chatbot | RR. HH. o equipo de formación, seguridad | Registro de asistencia, notas del simulacro con tiempos |
| 9 a 10 | Despliegue a todo el personal mediante SCIM; anunciar que las cuentas personales de chatbot ya no se permiten para datos de trabajo | TI, comunicación | Número de cuentas aprovisionadas, aviso en la intranet, política actualizada |
| 11 a 13 (día 90) | Revisión: tendencia del tráfico en la sombra, uso del presupuesto, solicitudes rechazadas, incidentes; actualizar la EIPD; fijar el ciclo de revisión | CISO | Informe de revisión y fecha de la próxima revisión |
La herramienta de la AP de 2026 pide una reevaluación periódica con responsables designados. El día 90 es la primera, no la última.
Registros de auditoría que ayudan y registros que crean un problema nuevo
Los equipos de seguridad quieren registrar todos los prompts. Ese instinto puede crear el siguiente problema. Un registro de lo que cada empleado identificado escribió en un asistente es un tratamiento de datos personales de los empleados, y puede usarse para vigilar cómo trabajan.
Se aplican directamente dos normas neerlandesas.
- EIPD. La lista de la AP de tratamientos que requieren una EIPD (Staatscourant 2019, n.º 64418, de 27 de noviembre de 2019) incluye, en el punto 11 «Controle werknemers» (control de los empleados), el tratamiento a gran escala de datos personales o la supervisión sistemática de las actividades de los empleados. Entre sus ejemplos figura el control del correo electrónico y del uso de internet. Un registro consultable de cada prompt por empleado se acerca a esos ejemplos, así que suponga que hace falta una EIPD salvo que su análisis demuestre lo contrario.
- Comité de empresa. El artículo 27, apartado 1, de la Wet op de ondernemingsraden (la ley neerlandesa de comités de empresa) exige la conformidad del comité de empresa para la decisión de adoptar, modificar o retirar (k) un reglamento sobre el tratamiento y la protección de los datos personales de quienes trabajan en la empresa, y (l) un reglamento sobre instalaciones destinadas o aptas para observar o controlar su presencia, comportamiento o rendimiento. Un registro de prompts es apto para ello, sea cual sea su fin.
Cómo es un registro defendible:
- Metadatos y decisiones de política por defecto. Quién, cuándo, qué modelo, qué coste y qué hizo la política: valores tokenizados, solicitud bloqueada, presupuesto alcanzado. Eso responde a la mayoría de las preguntas de seguridad y de finanzas.
- Restrinja quién puede leer el contenido. Si conserva el contenido de los prompts, limite la lectura a un pequeño grupo designado para investigar incidentes, y registre cuándo lo hacen.
- Fije la conservación. Elija un plazo que pueda justificar en la EIPD. En Sluis, el contenido conservado caduca a los 30 días por defecto. Puede almacenar los tokens en lugar de los valores originales, o desactivar la conservación del contenido y guardar solo el libro mayor de metadatos, que nunca se altera.
- Informe al personal. Diga qué se registra, quién puede verlo, durante cuánto tiempo y por qué, en la política de IA y en la información sobre privacidad para los empleados.
Presupuestos y listas de modelos permitidos
Un presupuesto es el control más sencillo contra las sorpresas de coste y el uso indebido silencioso. En Sluis Workspace, un propietario fija un presupuesto mensual en euros por miembro; en blanco significa sin tope por miembro. Los equipos, agentes y aplicaciones reciben una carga de trabajo con sus propios modelos permitidos, límites de tasa y un presupuesto diario, mensual o total. Cuando se alcanza un presupuesto bloqueante, las llamadas se rechazan con 402 antes de llegar a un proveedor; en modo notify continúan. Un modelo fuera de la lista de permitidos de la carga de trabajo se rechaza con 403.
La lista de modelos es una decisión de seguridad tanto como de coste: cada modelo es un proveedor, una jurisdicción y un conjunto de condiciones. Empiece con un conjunto restringido y uno por defecto, y añada modelos bajo petición. Nuestra guía sobre el control de costes de LLM explica cómo dimensionar los presupuestos.
Protección de los datos antes de que el prompt salga
La herramienta de la AP de 2026 empieza aconsejando examinar si la IA generativa puede usarse sin ningún dato personal. El RGPD apunta en la misma dirección: el artículo 25 cita la seudonimización como ejemplo de protección de datos desde el diseño, y el artículo 32 incluye la seudonimización y el cifrado entre las medidas de seguridad que deben considerarse. Una capa técnica ayuda: Sluis sustituye los valores detectados por marcadores tipados como «EMAIL_1» o «IBAN_1», envía solo los marcadores al modelo y restaura los originales en la respuesta. Incluye 61 detectores integrados, 29 para datos personales y 32 para secretos y credenciales, además de términos personalizados.
No es perfecto. Los detectores de patrones no captan nombres ni descripciones como «el compañero de baja de larga duración». Trate los marcadores como una reducción de la exposición, no como un permiso para pegar cualquier cosa. Nuestra guía sobre cómo mantener los datos personales fuera de los prompts de IA muestra tasas de detección medidas y el efecto jurídico de la seudonimización.
Qué espera la AP antes del despliegue
El 13 de julio de 2026 la AP publicó una herramienta práctica, Hulpmiddel inzet generatieve AI & de AVG, para organizaciones que despliegan IA generativa, junto con un documento de orientación más amplio. En la misma página publicó su dictamen tras una consulta previa del ayuntamiento de Haarlemmermeer sobre Microsoft 365 Copilot, en el que concluía que el tratamiento previsto infringiría el RGPD. La herramienta recorre los principios del artículo 5 del RGPD. Sus expectativas, en resumen:
- Limitación de la finalidad. Defina un fin específico. «Apoyar a los empleados» o «hacer un proceso más eficiente» es demasiado general. Evite el uso para otros fines.
- Autorización. Si el asistente puede acceder a archivos existentes, el acceso debe seguir las funciones de los empleados. No todo el mundo puede verlo todo, tampoco a través del sistema de IA.
- Minimización de datos. Limite los archivos y aplicaciones a los que puede acceder el sistema, y fije una política sobre qué categorías de datos personales pueden introducir los usuarios.
- Limitación del plazo de conservación. Sepa y controle dónde se almacenan las entradas, los resultados, los metadatos y los datos de diagnóstico y telemetría, y durante cuánto tiempo. Conservar datos porque resulta cómodo se vuelve ilícito enseguida, y el silencio de un proveedor sobre la conservación no le exime de su obligación.
- EIPD, también para un piloto. Un piloto también puede tratar datos personales, así que hace falta una EIPD. Una EIPD de referencia genérica de otra organización no basta. Un riesgo residual alto implica la consulta previa a la AP conforme al artículo 36 del RGPD.
- Resultados erróneos. Haga que los empleados sepan que las respuestas pueden ser erróneas, y deles los conocimientos y el tiempo para comprobarlas.
La propia herramienta indica que no sustituye a una EIPD. Nuestra guía sobre la EIPD para ChatGPT y asistentes de IA para empleados la recorre paso a paso.
Ejemplos prácticos
| Situación | Qué dice la política | Control que lo detecta | Riesgo residual |
|---|---|---|---|
| Un comercial pega una lista de clientes con nombres, direcciones de correo y teléfonos en una cuenta personal de chatbot para escribir correos de seguimiento | Datos de clientes solo en la herramienta aprobada; ninguna exportación masiva en ningún prompt | En la vía en la sombra, solo las herramientas de red y la formación. En la vía aprobada, las direcciones de correo y los teléfonos se convierten en marcadores | Los nombres y el contexto en texto libre pueden colarse; si ocurrió en la vía en la sombra, evalúelo como violación según el artículo 33 |
| Una asesora de RR. HH. redacta una carta de amonestación que menciona las ausencias y la situación de salud de un empleado | Los datos de salud y los expedientes de RR. HH. no entran en modelos externos | Términos personalizados para los números de expediente, modo block para los valores detectados que nunca deben salir, una lista de modelos restringida | Las descripciones de una enfermedad en palabras corrientes son difíciles de detectar; deje este uso fuera del alcance en la EIPD salvo que haya medidas sólidas |
| Un desarrollador pega un archivo de configuración con una clave de acceso a la nube para depurar un error | Los secretos nunca entran en un prompt; use la vía aprobada de programación | Los detectores de secretos (claves de AWS, claves privadas, volcados .env, tokens genéricos de alta entropía) sustituyen o bloquean el valor | Una clave ya pegada en una herramienta en la sombra debe rotarse; los formatos de secreto propios pueden necesitar un término personalizado |
| Un equipo de marketing trabaja con cuentas personales gratuitas de chatbot y sube una lista de asistentes a un evento | Las cuentas personales no se permiten para datos de trabajo; el equipo usa el Workspace aprobado | SSO y SCIM para que todos tengan cuenta desde el primer día; un presupuesto por miembro; los informes de red miden el tráfico en la sombra restante | No suponga que los datos ya introducidos con condiciones de consumo se han suprimido; pida la supresión cuando sea posible y deje constancia de la decisión |
Cuándo un prompt se convierte en un incidente
Dé al personal un único canal de notificación y pídale que notifique de inmediato, sin copiar el prompt sensible en un ticket abierto. Registre el servicio, el tipo de cuenta, la hora, las categorías de datos y el número aproximado de personas afectadas. Detenga la difusión, restrinja el acceso, pida al proveedor la supresión cuando sea posible y rote los secretos expuestos.
El responsable de privacidad o el DPD evalúa el riesgo. El artículo 33 del RGPD exige notificar a la autoridad de control sin dilación indebida y, de ser posible, a más tardar 72 horas después de tener constancia, salvo que sea improbable que la violación constituya un riesgo para los derechos y libertades de las personas. No espere a una investigación completa para tomar esa decisión. El artículo 33, apartado 5, exige documentar los hechos, sus efectos y las medidas correctivas de cualquier violación de la seguridad de los datos personales. Deje constancia también de la decisión de no notificar. Pruebe este proceso con una lista de clientes sintética antes del despliegue.
Lista de comprobación
- Política de uso de IA de una página publicada, con las categorías de datos prohibidas nombradas
- Vía aprobada disponible para todos los empleados mediante SSO, con aprovisionamiento SCIM
- Lista de modelos permitidos y modelo por defecto fijados; presupuesto mensual por persona y por equipo
- Protección de datos activada; límites de la detección documentados
- Normas de registro acordadas: metadatos por defecto, lectores del contenido designados, conservación fijada
- Conformidad del comité de empresa solicitada conforme al artículo 27 de la WOR cuando el registro o las normas entren en su ámbito
- EIPD hecha, también para el piloto; contrato de encargo firmado
- Proceso de incidentes probado, con una decisión de notificación en 72 horas y un registro de violaciones
- Sesiones de alfabetización realizadas y registradas
- Tráfico en la sombra medido con sus herramientas de red antes y después del despliegue
- Reevaluación periódica programada con un responsable designado
Preguntas
¿Podemos simplemente bloquear ChatGPT en la red?
Puede hacerlo, con su proxy o filtro DNS, y para las cuentas de consumo no gestionadas suele ser sensato. Por sí solo, traslada el problema a los teléfonos personales. La advertencia de la AP describe a personal que usa chatbots por iniciativa propia. Ofrezca primero la vía aprobada y bloquee después las alternativas.
¿Necesitamos la conformidad del comité de empresa para registrar los prompts?
En los Países Bajos, muy probablemente. El artículo 27, apartado 1, letra k, de la WOR abarca las normas sobre el tratamiento de datos personales de los empleados, y la letra l, las instalaciones aptas para controlar el comportamiento o el rendimiento. Un registro de prompts cumple el segundo criterio aunque la supervisión no sea su fin.
¿Detiene Sluis la shadow AI?
No. Sluis no detecta ni bloquea otros servicios de IA; eso sigue siendo tarea de su proxy, DNS, CASB o herramientas de endpoint. Sluis ofrece la vía aprobada: SSO, listas de modelos permitidos, presupuestos por miembro y por carga de trabajo, protección de datos antes del envío y un rastro de auditoría encadenado por hash. Los precios se basan en el uso, sin tarifas por puesto; consulte los precios.
Fuentes
- Autoriteit Persoonsgegevens, Let op: gebruik AI-chatbot kan leiden tot datalekken, 6 de agosto de 2024
- Autoriteit Persoonsgegevens, Hulpmiddel generatieve AI en de AVG + VR Microsoft Copilot, 13 de julio de 2026
- Autoriteit Persoonsgegevens, Hulpmiddel inzet generatieve AI & de AVG (PDF)
- Autoriteit Persoonsgegevens, Handreiking generatieve AI en de AVG, 13 de julio de 2026
- Autoriteit Persoonsgegevens, Lijst verplichte DPIA y Staatscourant 2019, n.º 64418, punto 11 «Controle werknemers»
- wetten.overheid.nl, Wet op de ondernemingsraden, artículo 27, apartado 1, letras k y l
- EUR-Lex, Reglamento (UE) 2016/679 (RGPD), artículos 5, 25, 28, 32, 33 y 35
- EUR-Lex, Reglamento (UE) 2026/1744 (el Ómnibus de IA) de 8 de julio de 2026: el nuevo artículo 4 del Reglamento de IA
- Documentación de Sluis, Sluis Workspace: presupuesto por miembro y selección de modelos
- Documentación de Sluis, Data protection: detectores, modos, conservación y fidelidad de la auditoría
- Documentación de Sluis, Budgets & caching: presupuestos por carga de trabajo y rechazos