La Agencia Española de Protección de Datos (AEPD) recibió la primera notificación de una brecha de datos personales en la que el ataque se ejecutó mediante un agente de inteligencia artificial, que utilizó un modelo de lenguaje conocido.
Según la información aportada por la organización afectada, el agente buscó vulnerabilidades en archivos genéricos, completó un acceso válido al sistema y, una vez dentro, rastreó de forma autónoma fallos en la aplicación. Ese proceso le permitió modificar datos personales y acceder a facturas. La AEPD precisa que los datos proceden de la propia notificación y quedan pendientes de análisis, y que el uso de un modelo concreto no implica que ese modelo o la infraestructura de su proveedor hayan sido comprometidos.
El elemento relevante en términos de protección de datos es que un tercero empleó un agente de inteligencia artificial como instrumento para encadenar las distintas fases del ataque. Una única notificación no permite hablar de una tendencia estadística, pero sí apunta a que los ataques apoyados en inteligencia artificial han dejado de ser un riesgo teórico.
El uso de inteligencia artificial con fines maliciosos no es nuevo: los modelos generativos ya se emplean para redactar mensajes de phishing, traducir campañas fraudulentas, suplantar identidades o analizar código. La novedad de los agentes es su capacidad para recibir un objetivo, planificar tareas intermedias, utilizar herramientas, ejecutar código e interpretar resultados de forma autónoma, lo que aumenta la velocidad y la escala de técnicas ya conocidas.
La guía CCN-CERT BP/36 del Centro Criptológico Nacional recomienda reforzar los controles esenciales, acelerar la gestión de vulnerabilidades, proteger las identidades, controlar la cadena de suministro y gobernar el uso de agentes. En esa línea, el episodio refuerza la necesidad de incorporar los ataques asistidos por inteligencia artificial a los análisis de riesgos, revisar los tiempos de respuesta y extremar el control de credenciales, claves de API y tokens con permisos amplios.
La notificación evidencia que la seguridad de los tratamientos no puede depender solo de la intervención manual y que la supervisión humana debe apoyarse en mecanismos de detección y respuesta capaces de operar a la velocidad de una máquina.