Cómo las barreras de la inteligencia artificial dificultan el trabajo de los investigadores de ciberseguridad ofensiva
Durante mucho tiempo, los gigantes de la inteligencia artificial han levantado muros estrictos y diseñando software exclusivos para frenar a los ciberdelincuentes. El problema es que esta misma especie de paranoia ha estado asfixiando el trabajo de los defensores legítimos de la red, así como el de los especialistas de ciberseguridad ofensiva.
Hace unos meses, el gobierno de los Estados Unidos ha impuesto fuertes restricciones de exportación a Mithos y Fable, los aclamados modelos de IA de Anthropic. Esta medida ha sido impulsada, en parte, por un informe que demostraba cómo burlar las barreras de seguridad diseñadas para evitar que estos sistemas se usaran en la creación y ejecución de ciberataques.
Más allá de que si el pánico a una vulnerabilidad real ha motivado esta decisión, la realidad es que Anthropic ha vendido comercialmente a Mythos como una especie de máquina del juicio final informático. Un arma que solo puede confiarse a unos pocos usuarios estrictamente evaluados y bajo una vigilancia extrema.
Los controles de exportación sobre Fable 5 y Mythos 5 ya se han levantado, debido a que el primero ha vuelto al público general apenas en julio, mientras que el segundo ha sido reintroducido para las corporaciones norteamericanas aprobadas por el gobierno. No obstante, el mensaje de terror ha calado hondo.
Además, el elitismo no es exclusivo de Mythos, ya que, tanto Anthropic como OpenAI ofrecen a los especialistas de seguridad programas a los que deben postularse para ser evaluados. Si tienen suerte y son aprobados, acceden versiones con menos restricciones por medio de iniciativas como el Acceso Confiable para Ciberseguridad de OpenAI o el Programa de Verificación Cibernética de Anthropic.
Las empresas modernas se enfrentan a ciberataques constantemente, lo que las compromete tanto económicamente como en términos de reputación, implicando que pueden irse a la quiebra. Por ello, TIC Defense tiene un conjunto de herramientas y soluciones de última tecnología que pueden contrarrestar todo tipo de vulnerabilidades y se adaptan a las necesidades de tu organización.
Estas barreras artificiales han despertado no pocas críticas feroces, especialmente entre aquellos profesionales cuyo trabajo consiste en cazar vulnerabilidades ocultas en sistemas y en descifrar cómo explotarlas antes de que los ciberdelincuentes se adelantes.
Reconocidos investigadores de seguridad han señalado que les incomoda de manera profunda que un par de compañías gigantes se encuentren tomando decisiones arbitrarias acerca de qué es seguro y qué no en el mundo de la seguridad cibernética.
Estos expertos llevan décadas descubriendo y vendiendo los famosos fallos de día cero, aquellos fallos de software inéditos y las técnicas exactas para explotarlos, a gobiernos occidentales en lugar de reportarlos a sus desarrolladores para que los reparen.
Igualmente, los gobiernos pagan fortunas por estas brechas de seguridad, esto precisamente debido a que permanecen abiertas, convirtiéndose en auténticas minas de oro operativas para sus agencias de inteligencia y de seguridad.
Admiten también que su línea de trabajo podría sesgar sus opiniones, pero no están solos en esto, ya que varios expertos en ciberseguridad ofensiva, dedicados a buscar debilidades de manera proactiva, han explicado a medios digitales especializados cómo están lidiando diariamente con las trabas que ponen las IA.
