La red YouTube pro-China utilizó inteligencia artificial para difamar a Estados Unidos, según un informe

En un tono ligeramente forzado y con una gramática ligeramente incómoda, la voz con acento estadounidense en YouTube ridiculizó el mes pasado el manejo de Washington de la guerra entre Israel y Hamás, diciendo que Estados Unidos era incapaz de «desempeñar su papel de mediador como China» y «ahora se encuentra en una situación de aislamiento significativo. »

El mensaje de 10 minutos fue uno de los más de 4.500 videos de una red inusualmente grande de canales de YouTube que difunden narrativas pro-China y anti-EE.UU., según un informe publicado esta semana por el Instituto Australiano de Política Estratégica, un grupo de expertos centrado en la seguridad. .

Algunos videos utilizaron avatares o voces en off generados artificialmente, lo que convirtió a la campaña en la primera operación de influencia conocida del instituto que combina voces de IA con ensayos en video.

El objetivo de la campaña, según el informe, era claro: influir en la opinión mundial a favor de China y en contra de Estados Unidos. Los videos promovían narrativas de que la tecnología china era superior a la estadounidense, que Estados Unidos estaba condenado al colapso económico y que China y Rusia eran actores geopolíticos responsables. Algunos clips halagaron a empresas chinas como Huawei y denigraron a empresas estadounidenses como Apple.

El contenido de al menos 30 de los canales de la red ha atraído casi 120 millones de visitas y 730.000 suscriptores desde el año pasado, junto con anuncios ocasionales de empresas occidentales, según el informe.

Algunos vídeos presentaban títulos y guiones que parecían ser traducciones directas de expresiones chinas comunes y nombres de empresas chinas, según el informe. Otros mencionaron información que podría atribuirse a informes producidos y transmitidos principalmente en China continental.

La desinformación –como la falsa afirmación de que algunos países del Sudeste Asiático habían adoptado el yuan chino como su propia moneda– era común. Los vídeos a menudo podían responder rápidamente a los acontecimientos actuales. Jacinta Keast, analista del instituto australiano, escribió que la campaña coordinada podría ser «una de las operaciones de influencia relacionadas con China más exitosas jamás vistas en las redes sociales».

YouTube dijo en un comunicado que sus equipos estaban trabajando las 24 horas del día para proteger a su comunidad, y agregó que «hemos invertido mucho en sistemas robustos para detectar de manera proactiva operaciones de influencia coordinadas». La compañía dijo que agradecía los esfuerzos de investigación y había cerrado varios de los canales mencionados en el informe por violar las políticas de la plataforma.

Los esfuerzos para promover mensajes pro-China han aumentado en los últimos años, pero han presentado contenido en gran medida de baja calidad que ha obtenido una participación limitada o no ha logrado construir una audiencia significativa, dijo Keast.

«Esta campaña en realidad aprovecha la inteligencia artificial, lo que le da la capacidad de crear contenido de amenazas convincente a escala y a un costo muy limitado en comparación con campañas anteriores que hemos visto», dijo.

Varios otros informes recientes sugieren que China se ha vuelto más agresiva en su propaganda denigratoria a Estados Unidos. Históricamente, sus operaciones de influencia se han centrado en defender al gobierno del Partido Comunista y sus políticas en temas como la persecución de los uigures o el destino de Taiwán.

China comenzó a apuntar a Estados Unidos de manera más directa en medio de protestas masivas a favor de la democracia en Hong Kong en 2019 y la pandemia de Covid-19, haciéndose eco de los esfuerzos rusos de larga data para desacreditar el liderazgo y la influencia estadounidense en el país y en el extranjero.

Durante el verano, investigadores de Microsoft y otras empresas descubrieron pruebas de cuentas no auténticas que China utilizó para acusar falsamente a Estados Unidos de utilizar armas energéticas para iniciar los incendios forestales que arrasaron Hawaii en agosto.

Dentro un informe En septiembre, el Departamento de Estado acusó a China de utilizar «métodos engañosos y coercitivos» para dar forma al entorno informativo global, incluida la creación de cuentas falsas en las redes sociales e incluso agencias de noticias falsas. Otras investigaciones sugiere que China difundió activamente desinformación a Taiwán de que Estados Unidos finalmente traicionaría a la nación insular.

Meta anunció el mes pasado que había eliminado 4.789 cuentas chinas de Facebook que se hacían pasar por estadounidenses para debatir cuestiones políticas, advirtiendo que la campaña parecía estar preparando el terreno para una interferencia en las elecciones presidenciales de 2024. Esta es la quinta red con vínculos con China que Meta detecta año, el mayor entre todos los demás países.

La llegada de la tecnología artificial parece haber despertado especial interés en Beijing. La Sra. Keast, del instituto australiano, dijo que los vendedores de desinformación utilizaban cada vez más programas de edición de vídeo y de inteligencia artificial de fácil acceso para crear grandes volúmenes de contenido atractivo.

Dijo que la red de canales de YouTube pro-China probablemente introdujo guiones en inglés en software de conversión de texto a video en línea fácilmente disponible u otros programas que no requieren experiencia técnica y pueden producir clips en unos pocos minutos. Estos programas suelen permitir a los usuarios seleccionar narraciones de voz generadas por IA y personalizar el género, el acento y el tono de voz.

Algunas de las voces utilizadas en la red pro China eran claramente sintéticas. Keast señaló que el audio carecía de pausas naturales e incluía errores de pronunciación y notas ocasionales de interferencia electrónica. A veces, varios canales de la red utilizaban la misma voz. (Sin embargo, un grupo de videos intentó engañar a los espectadores haciéndoles creer que una persona real estaba hablando, incorporando elementos de audio como «Soy tu anfitrión, Steffan»).

En 39 de los vídeos, Keast encontró al menos 10 avatares generados artificialmente anunciados por una empresa británica de inteligencia artificial. Escribió que también descubrió lo que podría ser el primer ejemplo de una operación de influencia de un avatar digital creado por una empresa china: una mujer con un vestido rojo llamada Yanni.

La escala de la red pro-China probablemente sea aún mayor, según el informe. Canales similares parecen estar dirigidos a indonesios y franceses. Tres canales distintos publicaron vídeos sobre la producción de chips utilizando imágenes en miniatura similares y el mismo título traducido al inglés, francés y español.

You may also like...