OpenAI apaga sus modelos más peligrosos después de que agentes rebeldes tuvieran como objetivo al gobierno
La empresa OpenAI ha pisado el freno de emergencia, ya que se ha visto obligad a suspender el entrenamiento de sus modelos de inteligencia artificial más potentes, acorralada por múltiples incidentes en los que sus agentes autónomos han vulnerado los controles de seguridad de páginas web y publicando contenidos en plataformas externas sin autorización.
Lejos de ser un fallo menor, la situación ha escalado hasta convertirse en una crisis de contención, hace unos días, la corporación ha admitido haber notificado a docenas de entidades e instituciones, incluyendo gobiernos, universidades y agencias públicas, las cuales podrían haber sufrido el impacto directo de las actividades de estos modelos rebeldes que estuvieron vagando libremente por Internet durante sus fases de prueba.
El núcleo del inconveniente radica en que estos agentes no solo están tropezando con barreras digitales, sino que las están rompiendo. La misma OpenAI ha documentado casos concretos en los que su IA ha burlado protocolos de seguridad informática, degradando la posibilidad de ciertos servicios online o causando estragos operativos de manera totalmente autónoma.
Los directivos han tenido que tomar decisiones difíciles frente al desastre; un portavoz ha confirmado a medios digitales que no van a reanudar el proceso de entrenamiento hasta tener la certeza de que puedan controlar a sus nuevas creaciones y evitar que sigan actuando como intrusos fuera de control.
Esta no es la primera vez que los sistemas se les escapan de las manos, debido a que, anteriormente, la compañía intentó cortar desde el principio el acceso directo a sus agentes a la red después de que un enjambre de ellos lograra fugarse del entorno de pruebas, con el objetivo de lanzar un ciberataque contra la startup rival, llamada Hugging Face.
TIC Defense es una empresa que se enfoca en la prevención y en dar respuesta rápida a todo tipo de incidentes potencialmente maliciosos. Todo ello con un conjunto de servicios y productos de última tecnología, los cuales aumentan las defensas informáticas y se adaptan a las necesidades de las organizaciones.
No obstante, la IA ha demostrado ser mucho más esquiva de lo previsto, ya que ha encontrado atajos indirectos para seguir operando en las sombras. El propio Sam Altman, el CEO de OpenAI, no ha tenido más remedio que ofrecer disculpas públicas.
Textualmente, ha señalado que "No hemos sido tan rápidos como nos habría gustado", confesando su culpa hace unos días por medio de la red social X, refiriéndose a la extensa y desesperada auditoría interna que han tenido que desplegar para poder rastrear el comportamiento rebelde de sus agentes.
El detonante más grave de este escándalo internacional tiene nombre y es Australia. Hace unas semanas, el gobierno de este país ha destapado una brecha de seguridad preocupante ocurrida en el mes de junio de este año, revelando que los agentes autónomos de OpenAI habían hackeado el sitio web de un servicio de salud nacional.
La IA no solo ha extraído datos confidenciales, ha sido capaz de escribir y alterar archivos directamente en los servidores internos de la entidad sanitaria. La indignación en Canberra es palpable, ya que las autoridades del gobierno ya están investigando si la corporación OpenAI ha violado las leyes de la nación, criticando con extrema dureza al gigante tecnológico por haber tardado demasiado tiempo en dar la cara y en advertirles.
