Google dice que detuvo el primer exploit de día cero creado por IA del mundo
Hace semanas, el Grupo de Inteligencia de Amenazas de Google ha confirmado la interrupción de lo que consideran el primer exploit de día cero, el cual ha sido desarrollado con la ayuda de la inteligencia artificial en un entorno real.
Este hito ha marcado un antes y un después en la seguridad informática, ya que pone de manifiesto cómo la frontera entre la habilidad humana y el respaldo automatizado se ha estado desdibujando de forma peligrosa.
Un grupo de ciberdelincuencia de alto perfil, cuya identidad la propia compañía Google conoce, pero ha optado por mantener bajo anonimato, ha diseñado una ofensiva contra una famosa herramienta de administración de sistemas basada en la web y de código abierto, con el objetivo de lograr un acceso inicial profundo en infraestructuras corporativas críticas.
La sofisticación del ataque ha radicado en la capacidad para evadir los protocolos de autenticación de dos factores (2FA), otorgando a los actores maliciosos el control total sobre las cuentas gestionadas por medio del software que ha sido comprometido.
Luego de un análisis exhaustivo, los especialistas del gigante tecnológico han llegado a una conclusión preocupante; un modelo de IA ha sido el motor detrás del descubrimiento y la posterior explotación de esta peligrosa vulnerabilidad.
Lo que delató la intervención de la máquina no ha sido la eficacia del ciberataque en sí, han sido los rastros inconfundibles en su ejecución. El script de Python detectado era convenientemente detallado, adornado con comentarios de estilo tutorial y docstrings explicativos que un ciberdelincuente humano no incluiría en un código malicioso creado por él.
Más sospechoso ha sido la presencia de una puntuación CVSS de seguridad, la cual ha resultado ser una alucinación del modelo, un dato inexistente que no correspondía a ninguna entrada real en las bases de datos oficiales. Por ello, este patrón de comportamiento es la firma más clara de la participación de la IA en el desarrollo de herramientas de ataque.
La ciberseguridad es crucial en el desarrollo y expansión de las organizaciones, por lo que un ataque malicioso puede dejar los procesos detenidos, provocando una catástrofe económica y de reputación. Por ello, TIC Defense se enfoca en proteger a las empresas contra cualquier tipo de evento malicioso por medio de productos de última tecnología.
Los analistas añaden que la vulnerabilidad detectada es un fallo de lógica de alto nivel, un tipo de error que los Grandes Modelos de Lenguaje o LLM por sus siglas en inglés, son capaces de identificar con una precisión quirúrgica al revisar código fuente y documentación técnica.
A pesar de la gravedad del descubrimiento, Google ha aclarado que ninguno de sus propios sistemas, como Gemini o el modelo de seguridad Mithos de Anthropic, ha sido los responsables del desarrollo de este exploit de día cero.
Sin embargo, existe una laguna que ha sido frustrante; a pesar de esta incertidumbre, el gigante tecnológico no ha logrado identificar qué sistema de IA ha sido utilizado exactamente, debido a que la opacidad de los adversarios y la falta de acceso directo a sus herramientas privadas, limitan el alcance de la investigación.
Para buena fortuna, el proyecto de software afectado ya ha publicado un parche de seguridad para cerrar la brecha. Google ha sostenido que la detección temprana ha sido el factor decisivo que ha evitado lo que podría haber sido un evento de explotación masiva, con consecuencias catastróficas para corporaciones a nivel global.
