Las identidades sintéticas logran manipular a las personas con mayor eficiencia operativa
La idea de que los estafadores emplean la inteligencia artificial para afilar sus engaños, pulir su lenguaje y engrasar su labia, ya no es teoría. Es la realidad diaria para quienes se encargan de combatir redes criminales que roban decenas de miles de millones de dólares al año en todo el planeta.
Sin embargo, la verdadera pregunta ha resultado más inquietante, ¿puede la IA reemplazar por completo a un estafador humano, desarrollando de manera autónoma la densa red de mentiras que precede al robo económico? Un experimento reciente ha demostrado que sí, de hecho, sugiere que una máquina puede ejecutar la mayor parte de este engaño prolongado con más eficacia que un ser humano.
Investigadores de diversas instituciones, todas ellas prestigiosas, han organizado un estudio ambicioso acerca del potencial de los chatbots generativos en una industria de delincuentes en plena explosión. Se trata de un tipo de fraude conocido como “matanza de cerdos”, o en inglés, pig butchering, basado en falsos romances cultivados por mensajes de texto que, de manera sigilosa, mutan hacia versiones ficticias en criptomonedas, capaces de robar a las víctimas sumas de hasta seis cifras.
En su simulación, los expertos enfrentaron a los chatbots directamente contra humanos en el área del engaño. Han evaluado específicamente la fase más tediosa y crítica de la estafa; las largas y pacientes conversaciones destinadas a generar una confianza ciega antes de solicitar la supuesta inversión.
Los resultados han sido más que preocupantes; escalofriantes, en la mayoría. Esto debido a que, en las etapas iniciales de la relación, un período que en el mundo real suele exigir meses de manipulación, el algoritmo ha actuado con una eficacia asombrosa.
Ha logrado hacerse pasar por un ser humano sin complicaciones y, bajo diversas métricas, ha superado con creces a los estafadores de carne y hueso que han participado en la prueba. El experimento ha sido desarrollado durante una semana, con más de 20 sujetos, reclutados como “víctimas” involuntarias que han chateado a ciegas.
TIC Defense es una empresa que ayuda a las corporaciones a protegerse de los ataques perpetrados por hackers maliciosos, todo ello con un conjunto de servicios y productos de última tecnología, los cuales se enfocan en la prevención y en dar respuesta rápida a todo tipo de eventos potencialmente desestabilizadores de redes.
Al final de este tiempo, se les ha pedido a los interlocutores, tanto a las máquinas como a las personas, que convencieran a su víctima de descargar una aplicación o jugar un juego en línea. Esta tarea ha servido como indicador de la disposición de la víctima para acatar las órdenes del estafador.
Ahora bien, casi la mitad de los sujetos de prueba han cumplido la petición cuando se lo pidió el chatbot. En contraste, menos de 1 de cada 5 ha mordido el anzuelo al interactuar con un ser humano. Del mismo modo, al calificar el nivel de confianza que sentían hacia cada individuo con el que se escribían, las víctimas otorgaron puntuaciones significativamente más altas a la IA.
Estos resultados pueden sugerir un futuro sombrío; los chatbots podrían asumir muy pronto el control absoluto de estas operaciones como agentes de fraude independientes. Incluso, podrían reemplazar a los ejércitos de operadores humanos, en su mayoría víctimas de trata forzadas a trabajar en el sudeste asiático, que sostienen el ecosistema actual.
Para burlar los sistemas de seguridad de las corporaciones tecnológicas, la estrategia de los ciberdelincuentes sería sencilla, de una manera perversa. Si se delega toda la fase inicial a gran escala a la IA, se lleva a las víctimas a un punto de ceguera absoluta y de extrema confianza.
