Los regímenes autoritarios de China y Venezuela están utilizando avatares de inteligencia artificial (IA) para crear falsos programas de noticias y plataformas de redes sociales que eleven el nivel de la propaganda de sus gobiernos. Se les conoce como “deep fakes” y multiplican falsos mensajes de propaganda de esos regímenes.
En el caso chino, los falsos presentadores para un medio de comunicación ficticio llamado Wolf News, fueron creados por un software de inteligencia artificial y aparecieron en imágenes en las redes sociales que parecían promover los intereses del Partido Comunista Chino, dijo la firma de investigación estadounidense Graphika en un informe.
“Esta es la primera vez que vemos una operación alineada con el estado usar imágenes de vídeo generadas por IA de una persona ficticia para crear contenido político engañoso”, dijo Jack Stubbs, vicepresidente de inteligencia de Graphika, a la Agencia France Presse (AFP).
En un vídeo analizado por Graphika, un presentador masculino ficticio que se hace llamar Alex critica la inacción de Estados Unidos por la violencia armada que atormenta al país. En el segundo, una presentadora hace hincapié en la importancia de la “cooperación de gran potencia” entre China y los Estados Unidos.
Además, en noviembre pasado, la agencia oficial de noticias china, Xinhua, mostró un presentador creado con inteligencia artificial aunque esta vez dio a conocer que era creado de esa manera.
En Venezuela
No es el único caso. Otro régimen autoritario, aliado de China, el de Nicolás Maduro en Venezuela, está usando reportajes del medio digital llamado ‘House of News En Español’, donde aparecen los conductores ‘Noah’ y ‘Daren’, para presentar supuestas mejoras en el campo económico del país caribeño.
El espacio no sólo ofrece noticias falsas, sino que los presentadores son avatares elaborados con inteligencia artificial. Los presentadores hablan de que no hay crisis económica en Venezuela, hablan de lugares paradisíacos para vacacionar en ese país y cómo Venezuela compite con Brasil y México en turismo de carnavales.
Noah y Daren son la creación del software Synthesia, que provee servicios de creación de videos con inteligencia artificial. Su voz mecanizada es evidente.
Los avances en la IA han despertado la alarma global sobre el potencial de desinformación y mal uso de la tecnología, con imágenes falsas creadas de la nada y personas que se muestran hablando cosas que nunca dijeron.
“Deepfakes” en redes sociales
Graphika dijo que descubrió los deepfakes en plataformas como Twitter, Facebook y YouTube mientras rastreaba las operaciones de desinformación pro-China conocidas como “spamouflage”.
“La spamouflage es una operación de influencia prochina que amplifica predominantemente los vídeos de spam político de baja calidad”, dijo el Sr. Stubbs.
“A pesar de usar alguna tecnología sofisticada, estos últimos vídeos son más o menos iguales.
“Esto muestra las limitaciones del uso de deepfakes en las operaciones de influencia, son solo una herramienta en una caja de herramientas cada vez más avanzada”.
Graphika dijo que los vídeos identificados eran de baja calidad y “spam”, y que ninguno de ellos había recibido más de 300 visitas.