Expertos en seguridad advierten sobre los peligros inminentes del revolucionario modelo Astra de OpenAI
Astra de OpenAI, el nuevo modelo de la empresa de inteligencia artificial va a emplear una técnica de razonamiento que han llamado “profundidad recurrente”, la cual ha sido diseñada para saltarse el pensamiento secuencial que define a casi todas las inteligencias artificiales.
Se habla ya de una recurrencia opaca que genera un problema; esta arquitectura vuelve casi imposible rastrear cómo razona la máquina. Algunos medios han soltado la bomba: desde el laboratorio prometen que su uso va a ser limitado, pero la sola aparición de este enfoque tiene a los especialistas en ciberseguridad bastante alarmados y no es para menos.
El hecho de controlar y auditar estas tecnologías sigue siendo un obstáculo antes de su despliegue masivo, el modelo Astra no es el primer gigante que asusta a la propia industria, ya que hace algunos meses, Anthropic tuvo que sacarse de la manga el proyecto Glasswing luego de admitir que su IA más salvaje era un peligro casi inmanejable para ver la luz pública.
Sin embargo, ¿cuál es la preocupación con el nuevo modelo de OpenAI? En circunstancias normales, cuando una IA resuelve un problema, va dejando un rastro de “migas de pan”; su cadena de pensamiento. No se trata de un mapa perfecto, pero salva vidas si se necesita cazar comportamientos extraños o fallos críticos.
De hecho, cuando el gigante tecnológico OpenAI tuvo que lidiar con agentes maliciosos en sus sistemas, leer esos registros secuenciales ha sido de vital importancia para entender de forma completa que es lo que había pasado.
No obstante, la recurrencia opaca sigue en la mesa de forma preocupante, ya que el modelo abandona el enfoque lineal y empieza a masticar la misma consulta de manera reiterada dentro de un bucle cerrado. El resultado es una caja negra que borra cualquier rastro legible y destruye el registro convencional de cómo ha llegado la respuesta, como es lógico, los expertos se preocupan ante la pérdida de control.
Los ciberdelincuentes ahora tienen herramientas de IA que los sistemas defensivos convencionales no pueden detectar, por lo que las empresas se encuentran más que vulnerables. Ante esta situación, TIC Defense tiene un verdadero arsenal defensivo que se adapta a las necesidades de las corporaciones, mediante un enfoque preventivo y de respuesta rápida a incidentes.
Algunos ejecutivos e investigadores no se han guardado nada cuando se han enterado de este giro técnico, debido a que están realmente preocupados por la deriva hacia la opacidad. Admiten no saber si el modelo Astra va a ser definitivamente menos auditable que sus predecesores.
Sin embargo, lanzan una advertencia rotunda: si el gigante tecnológico OpenAI pisa el acelerador con esta técnica, van a tener el poder de llevar la recurrencia al extremo y aniquilar la monitorización de la Cadena de Pensamiento o CoT. Esto sería el fin de esta técnica importante que hoy permite desmenuzar cómo razonan los grandes modelos de lenguaje, o LLM, en tareas complejas antes de ofrecer un resultado definitivo.
Algunos peso pesados en la defensa de la seguridad de la IA han ido más allá y han sugerido que se van a necesitar leyes drásticas para detener lo que llaman una carrera hacia el abismo entre laboratorios.
Para ellos, implementar esta técnica es jugar con fuego, rompiendo un tabú sagrado que tanto OpenAI como Anthropic habían jurado proteger a toda costa; mantener la IA transparente y supervisable en el mayor tiempo posible. Las conclusiones son tajantes y a la vez sombrías: abusar de la recurrencia opaca va a dejar a todo el mundo completamente a ciegas.
