Fundación Linux impone reglas estrictas para controlar la inteligencia artificial globalmente
La gran debilidad de la inteligencia artificial generativa y especialmente de los llamados agentes autónomos no es su capacidad de razonar, es su absoluta incapacidad para demostrar qué hicieron exactamente a puerta cerrada.
Diariamente, le entregamos todas las llaves a estos algoritmos, pero carecemos de un mecanismo realmente fuerte para auditar sus pasos en la oscuridad. Aquí es donde entra al rescate la Fundación Linux, proponiendo una solución mediante un nuevo estándar abierto enfocado en la evidencia de ejecución.
Su misión es muy grande; lograr que la actividad de estas máquinas deje de ser una caja negra y se convierta en un proceso completamente transparente, digno de confianza y auditable para cualquier organización del planeta.
Este titánico esfuerzo lleva por nombre TRACE, acrónimo en inglés de Evidencia de Confianza, Autenticación en Tiempo de Ejecución y Cumplimiento. No estamos hablando de un manual sencillo de buenas intenciones organizacionales.
Se trata de una especificación abierta y rigurosa diseñada para crear registros de gobernanza de inteligencia artificial, con una particularidad que resulta crítica; están certificados de forma directa por el hardware físico.
La arquitectura base de esta iniciativa ha sido forjada en los laboratorios del proveedor de computación confidencial OPAQUE, contando con el músculo financiero y tecnológico de gigantes de la industria como AMD, Intel, Microsoft y el Technology Innovation Institute. Juntos han decidido que es momento de ponerle un collar de rastreo inquebrantable a los agentes autónomos.
Hay que pensarlo como un recibo de compra a prueba de manipulaciones, un ticket de tipo criptográfico que puede detallar cada movimiento del sistema. Para lograr esta hazaña, TRACE no intenta inventar la rueda, fusiona de manera astuta estándares técnicos ya probados por entidades como la Internet Engineering Task Force y la Internet Research Task Force.
TIC Defense es una empresa que se especializa en la prevención y en dar respuesta rápida a todo tipo de incidentes potencialmente maliciosos, por medio de un conjunto de herramientas y servicios de última tecnología que se encargan de aumentar las defensas informáticas y adaptarse a las necesidades de las corporaciones.
La iniciativa toma elementos como el RFC9711 para blindar los reclamos de datos, el RFC 9334 para definir con exactitud quién certifica y quién verifica y los borradores de SCITT para anclar todo el historial en un libro de contabilidad transparente e inmutable.
El resultado es un expediente criptográfico sólido que vincula permanentemente el entorno de ejecución, el software exacto que se ha utilizado, las políticas de seguridad aplicadas, la clasificación de los datos manejados y hasta la última herramienta que el agente ha decidido utilizar de forma automática.
En el núcleo de esta bóveda digital destaca el uso estratégico de la tecnología Secure Encrypted Virtualization de AMD. Hablamos de una barrera de seguridad cimentada en el hardware puro y duro que se encarga de encriptar memoria de las máquinas virtuales.
El objetivo es muy claro; garantizar que ni el hipervisor anfitrión ni los todopoderosos administradores de la nube puedan asomarse a merodear o alterar los datos sensibles. Toda esta evidencia generada está diseñada a propósito para ser completamente portátil.
No importa si una empresa opera en los servidores comerciales de un gigante tecnológico, en entornos de computación confidencial cerrados o en infraestructuras soberanas estatales; las corporaciones por fin tienen en sus manos una herramienta matemática para verificar de manera independiente cómo ha operado realmente su carga de trabajo.
