Investigadores de Google identificaron un exploit zero-day creado mediante modelos de lenguaje, marcando un nuevo escenario para la ciberseguridad

La inteligencia artificial ya no solo sirve para automatizar tareas o generar contenido, también comenzó a utilizarse para desarrollar ciberataques avanzados. Investigadores de Google confirmaron haber detectado el primer exploit zero-day creado mediante inteligencia artificial del que se tiene registro, un hallazgo que marca un nuevo escenario para la ciberseguridad global.

El descubrimiento fue realizado por el equipo de Google Threat Intelligence Group (GTIG), especializado en amenazas informáticas. Según explicó la compañía en un informe de seguridad, el ataque consistía en un script escrito en Python diseñado para vulnerar la autenticación en dos pasos (2FA) de una popular herramienta de administración web de código abierto.

El exploit buscaba saltarse la segunda capa de seguridad utilizada para proteger cuentas y sistemas, permitiendo a los atacantes acceder incluso cuando las contraseñas eran correctas. Google indicó que logró coordinar rápidamente con el proveedor afectado para detener la campaña antes de que se produjera un ataque masivo.

La empresa detectó que el código había sido generado con inteligencia artificial debido a varias características poco habituales en malware tradicional. Entre ellas se encontraban errores y 'alucinaciones' típicas de los modelos de lenguaje, como puntuaciones CVSS inventadas, estructuras excesivamente académicas y fragmentos de documentación demasiado ordenados.

Los investigadores también encontraron docstrings educativos, menús de ayuda detallados y patrones similares a los materiales con los que suelen entrenarse los modelos de IA. Este tipo de elementos no suele aparecer en herramientas desarrolladas manualmente por ciberdelincuentes.

Aunque Google no encontró evidencia de que se utilizara Gemini, su propia inteligencia artificial, el caso representa la primera vez que la compañía identifica un exploit de día cero desarrollado mediante modelos de lenguaje.

El informe también revela que la inteligencia artificial ayudó a descubrir una vulnerabilidad que había pasado desapercibida para las herramientas tradicionales de seguridad. El problema estaba relacionado con una suposición de confianza integrada directamente en la lógica del sistema de autenticación de dos factores.

La aparición de este tipo de ataques confirma una tendencia que especialistas en ciberseguridad vienen observando desde hace meses: los hackers están incorporando modelos de IA para acelerar procesos que antes requerían grandes cantidades de tiempo y trabajo humano.

Según el GTIG, los ciberdelincuentes utilizan inteligencia artificial para identificar vulnerabilidades, analizar infraestructuras empresariales y desarrollar ataques más precisos. Entre las capacidades detectadas están la generación automática de campañas de phishing personalizadas, el análisis de hardware específico de potenciales víctimas y la creación de perfiles detallados de empresas antes de ejecutar un ataque.

Fuente: https://www.infobae.com/