¿Ver para creer? Lucha global ante ultrafalsedades creadas por inteligencia artificial
AFP
Washington, EEUU.- Robots que difunden información errónea a través de un chat, aplicaciones que producen videos pornográficos y voces clonadas que defraudan a millones de empresas: ante el auge de ultrafalsedades creadas por inteligencia artificial, los gobiernos del mundo comienzan a organizar su respuesta.
La inteligencia artificial está redefiniendo el dicho “ver para creer”, con una avalancha de imágenes creadas de la nada y personas que aparecen diciendo palabras que nunca pronunciaron en ultrafalsedades con un realismo desconcertante, también llamadas “deepfakes”, que socavan la confianza en internet.
China adoptó recientemente normas para regular las manipulaciones digitales, pero la mayoría de los países parecen estar luchando para mantenerse al día con tecnología de rápida evolución en medio de preocupaciones de que la regulación podría obstaculizar la innovación o ser mal utilizada para restringir la libertad de expresión.
Expertos advierten que las herramientas para detectar este tipo de contenidos son superadas por sus creadores, que operan de forma anónima gracias a técnicas de inteligencia artificial que antes requerían cierta especialización pero que ahora son accesibles y a bajo costo.
Meta, propietaria de Facebook, anunció el año pasado que había eliminado un video ultrafalso del presidente ucraniano Volodimir Zelenski llamando a los ciudadanos a deponer las armas y rendirse a las tropas rusas.
Kate Isaacs, una británica que hace campaña para que toda pornografía que se haga sin consentimiento se elimine del sitio Pornhub, le dijo en octubre pasado a la BBC que se sentía “devastada” por la publicación en la red Twitter de un video porno falsificado con su rostro.
“Armas de disrupción masiva”
La amplia posibilidad de crear de manera automatizada contenido de texto, audio y video, y su uso potencialmente malicioso, con fines de fraude financiero o robo de identidad, genera serias preocupaciones en todo el mundo.
Estas tecnologías fueron bautizadas como “armas de disrupción masiva” por la firma de análisis de riesgos Eurasia Group.
La semana pasada, la start-up británica ElevenLabs, que está desarrollando una herramienta de clonación de voz utilizando inteligencia artificial, admitió que había constatado un “creciente número de usos indebidos” de su software luego de que usuarios publicaran un audio falso que pretendía ser de la actriz Emma Watson leyendo el libro de Adolf Hitler “Mi lucha”.
El aumento de “deepfakes” podría llevar a un “apocalipsis de la información”, un escenario en el que muchas personas no pueden distinguir la realidad de la ficción y saber cuáles son las fuentes de información confiables, advirtió la agencia policial europea Europol.
Una muestra de este fenómeno se vio días atrás, cuando en un video a sus fans, el jugador de football americano Damar Hamlin agradeció al equipo médico que lo atendió tras su paro cardíaco durante un partido. Pero muchos seguidores de las teorías conspirativas, convencidos de que el malestar de Hamlin se debía en realidad a la vacuna contra el covid-19, consideraron “deepfake” su video.
“Superpropagador”
China, a la cabeza en la regulación de las nuevas tecnologías, anunció en enero nuevas normas para las manipulaciones digitales, que exigen a las empresas chinas que ofrecen este tipo de herramientas obtener la identidad real de sus usuarios. También obligan a colocar una nota sobre los “deepfakes” para evitar “cualquier confusión” para el público.
