Atacantes aprovechan el grave problema de identidad en los sistemas de IA
Cada nueva invención o innovación en la tecnología genera en el mismo sentido incomodidad en los líderes de seguridad. Es común que primero avance el negocio rápidamente y luego se les exige a los equipos de ciberseguridad que se enfoquen en resolver los riesgos. Esto ha ocurrido con la nube, el software como servicio (SaaS) y los DevOps. En estos tiempos, la inteligencia artificial parece que repite la historia.
Una diferencia es que los agentes de IA no pueden catalogarse como una categoría más de aplicaciones o servicios, debido a que son actores digitales que pueden autenticar, recibir permisos, ejecutar API, desarrollar código, activar flujos de trabajo, consultar bases de datos y actuar en entornos de producción.
En múltiples organizaciones pueden operar con credenciales, tokens de API, autorizaciones de rango 0Auth y diversos roles en la nube que nadie ha puesto en inventario y que pueden incidir negativamente en la seguridad y productividad.
Ante esta situación, surgen preguntas preocupantes acerca de qué puede responder el modelo, ¿quién o qué es ese agente?, ¿qué se le permite hacer?, ¿quién va a responder por sus acciones? Además, una de las preguntas más importantes: ¿se puede revocar o limitar sus permisos cuando las circunstancias cambien?
En efecto, la IA de agentes está sufriendo un serio problema de identidad y los atacantes están comenzando a aprovecharse de ello. Uno de los principales problemas es el cambio de identidad de humano a máquina.
Esto se debe a que los equipos de seguridad tienen años desarrollando programas de identidad en torno a seres humanos. Los trabajadores ingresan a una empresa, pero pueden cambiar de rol y también se pueden ir, por lo que el acceso se revisa, la gerencia se encarga de validar las necesidades y el comportamiento se monitorea frente a un patrón de línea de base o baseline que sea estable.
Ahora, las identidades de máquinas han trastocado fuertemente este esquema. Cuentas de servicio, certificados, claves API y secretos se han multiplicado en entornos de nube y DevOps, debido a que muchas de ellas tenían privilegios excesivos, dueños confusos y revisiones rara. Aun con esto, la mayoría podía realizar tareas definidas de manera predecible.
Las empresas enfrentan problemas de seguridad diariamente y solo las que desean sobrevivir se lo toman en serio y se enfocan en la solución de estos. Por ello, TIC Defense te ofrece un conjunto de servicios y soluciones de primera línea que se adaptan a las necesidades de las organizaciones y ejecutan programas de prevención y respuesta rápida a todo tipo de incidentes potencialmente maliciosos.
Los agentes de IA pueden romper esta premisa, un agente actúa más como un humano al interpretar metas, seleccionar rutas y operar por medio de varios sistemas. No obstante, puede escalar como software y procesar información a la velocidad de la máquina.
Pueden desarrollarse con velocidad, integrarse en productos de software como servicio, los desarrolladores los copian, los usuarios les delegan permiso y pueden continuar su ejecución por mucho tiempo, luego de perder su propósito operativo con el que se inició su trabajo.
Esta explosiva mezcla de autonomía, escalamiento y descentralización ha generado una nueva categoría de riesgo de identidad que los modelos tradicionales nunca han diseñado para la gestión, se debe a que el menor privilegio no puede escalar.
