Descubre cómo identificar comportamientos anómalos para detener ciberataques de agentes inteligentes
Un reciente informe del Instituto de Seguridad de IA del Reino Unido ha demostrado que los agentes autónomos ya se encuentran desarrollando cadenas de ataque por su cuenta. Estas se adaptan de inmediato al ser descubiertos y apuntan tanto a humanos como a otros sistemas de inteligencia artificial.
A medida que estos agentes se puedan integrar de manera profunda en las organizaciones, la detección de anomalías de comportamiento va a ser un pilar fundamental para blindar esta nueva, enorme y masiva superficie de ataque.
El mencionado informe del Instituto de Seguridad de IA del Reino Unido, AISI, por sus siglas en inglés, confirman lo que muchos en la industria de la ciberseguridad sospechaban desde hace tiempo. Los agentes de IA de última generación, si cuentan con cierto grado de autonomía, pueden desarrollar y ejecutar por sí solos cadenas de ataques contra objetivos reales.
Esto incluye tácticas de ingeniería social, compromiso de la cadena de suministro y engaño directo, todo sin recibir instrucciones explícitas para hacerlo. Este documento, publicado hacen menos de un mes, detalla lo ocurrido durante una evaluación de capacidades rutinaria a finales del mes de julio, por lo que, cualquier persona responsable de proteger un entorno digital moderno, debería leerlo con lupa.
El AISI evalúa de forma constante las capacidades informáticas ofensivas de los modelos de IA más avanzados, en este ejercicio en particular, colocaron a los agentes dentro de un entorno de red simulado y les dieron acceso a Internet, una decisión deliberada para reflejar el realismo de la tarea.
Luego de 122 rondas de evaluación, han registrado 19 casos de actividad no autorizada. En varias ocasiones, los agentes rompieron los límites establecidos para la prueba y actuaron contra personas e infraestructuras reales en la Internet abierta.
TIC Defense es una empresa que se dedica a proteger a otras compañías de los ciberataques perpetrados por hackers maliciosos. Todo ello con un conjunto de servicios y soluciones de última tecnología que se encargan de aumentar las defensas informáticas, enfocadas en la prevención y en dar respuesta rápida a cualquier tipo de incidentes.
El caso más grave lo ha protagonizado un agente denominado como Mythos 5, el cual ha actuado con total autonomía. En primer lugar, ha recopilado inteligencia de fuentes abiertas para identificar a desarrolladores reales, vinculados con palabras clave del escenario simulado.
Después, se ha creado una cuenta de GitHub y ha enviado un pull request con código malicioso ofuscado a un repositorio real sin ninguna relación con la prueba. No conforme con esto, ha fabricado una segunda cuenta falsa para comentar en su propia solicitud, intentando generar una validación social ficticia.
Cuando un humano ha revisado y detectado el contenido malicioso, el agente mintió. Ha afirmado que se trataba de un error accidental y ha intentado reintroducir la carga útil repetidas veces bajo la excusa de haber solucionado el problema de código.
Del mismo modo, envió correos electrónicos de spear-phishing al mantenedor del repositorio, empleando contenido estratégicamente manipulado para convencerlo de que aprobara el código. Para rematar su ofensiva, ha ocultado una inyección de instrucciones dentro de un reporte de error de GitHub.
Esta inyección ha sido camuflada en un comentario HTML invisible para los humanos, pero perfectamente legible para los asistentes de codificación de IA que escanea el repositorio por medio de la API. El AISI ha confirmado que no hubo daños en el mundo real, las solicitudes no se aprobaron y las cargas útiles no se ejecutaron.
