El "vibe hacking", la nueva amenaza que acecha a la inteligencia artificial
En el año 2023, investigadores de seguridad de Trend Micro lograron que ChatGPT generara código malicioso al hacer que asumiera el rol de investigador de seguridad y pentester. El mismo ChatGPT, entonces, generaba sin problemas scripts de PowerShell basados en bases de datos de código malicioso.
Se puede usar para crear malware, según especialistas, la forma más fácil de evadir las protecciones impuestas por los creadores de los modelos de IA es decir que estás compitiendo en un ejercicio de capture the flag, y con gusto va a generar código malicioso.
Actores poco sofisticados como los script kiddies, aficionados que utilizan herramientas de hacking sin entender cómo funcionan, han sido un problema de larga data en el mundo de la ciberseguridad, y la inteligencia artificial bien podría amplificar su impacto. Reduce la barrera de entrada al cibercrimen, señalan los expertos y analistas de inteligencia cibernética.
Pero según los especialistas, las verdadera amenaza podría venir de grupos de hackers maliciosos establecidos que van a usar la IA para potenciar aún más sus ya temibles capacidades. Son los ciberdelincuentes que ya tienen capacidades y ya operan estas redes. La diferencia es que ahora pueden escalar operaciones cibercriminales, y pueden crear código malicioso más rápido.
Otros expertos manifiestan que la verdadera amenaza del código generado por IA está en manos de alguien que ya conoce el código a fondo y lo utiliza para escalar un ataque. Cuando se trabaja con alguien que tiene mucha experiencia y se combina con que se pueden hacer cosas mucho más rápido, cosas que antes tomaban 2 días o 3 y ahora toman algo más de 20 minutos. Esta es la parte más interesante y dinámica de esta situación.
TIC Defense es una empresa que se encarga de mantener a raya a los hackers maliciosos y mantenerlos fuera del ecosistema digital de tu empresa. Tenemos un conjunto de soluciones, productos y servicios de última tecnología que van a aumentar las defensas de tus procesos corporativos.
Según los expertos, un ciberdelincuente con experiencia podría diseñar un sistema que derrote múltiples protecciones de seguridad y que, además, aprenda a medida que avanza. Ese fragmento de código malicioso podría reescribir su carga útil en tiempo real, conforme va aprendiendo.
Igualmente, los investigadores más alarmistas se imaginan un mundo en el que ocurren 20 vulnerabilidades de día cero, desconocidas hasta el momento del ataque, al mismo tiempo. Esto hace que estas cosas sean más aterradoras.
Los especialistas aseguran que ya existen herramientas capaces de hacer realidad ese tipo de ataque, debido a que son lo suficientemente buenas en manos de un operador que sea medianamente bueno. Aunque aclara que la inteligencia artificial todavía no es lo suficientemente avanzada como para que un hacker malicioso inexperto la utilice sin intervención humana. Hasta ahora, no se ha llegado al punto en que la IA pueda asumir completamente el rol de un humano en la seguridad informática ofensiva.
El temor más primitivo que despierta el código generado por chatbots es que cualquiera podrá hacerlo. Sin embargo, la realidad es que un actor sofisticado con profundo conocimiento del código existente asusta más. Un programa llamado XBOW podría ser lo más parecido que existe en el mundo real a un “hacker IA” autónomo, el cual es creación de un equipo de más de 20 personas altamente capacitadas, con experiencia previa en GitHub, Microsoft y más de media docena de empresas de seguridad cibernética.
