Usuarios de TikTok interactúan con cuenta que usa avatar creado por IA para difundir desinformación sobre temas migratorios en español

“Saludos mi niña bella, gracias por informar”, “gracias por las noticias, hermosa”, “qué hermosa eres, muy valiosa la información”. Estos son algunos de los comentarios que usuarios en TikTok han dejado a la presentadora de la cuenta “noticiasenestadosunidos”, que tiene más de 200,000 seguidores y videos que acumulan 1.6 millones de likes. No obstante, la mujer que aparece hablando en los videos no existe: es un avatar creado con inteligencia artificial (IA) y en sus videos difunde desinformación sobre temas migratorios.

Así nos dimos cuenta de que era un avatar creado con IA

Observamos varios videos con detenimiento y notamos en la presentadora 4 red flags:

1 - El movimiento de la boca de la presentadora no siempre coincide con el audio. En algunos videos la boca se sigue moviendo a pesar de que no está hablando.

2 - El movimiento de sus manos repite un mismo patrón en todos sus videos. Comienza con los dedos entrecruzados, después abre las manos, y finalmente las vuelve a unir (como si fuese un aplauso) y las inclina hacia su derecha.

3 - A veces falla en la pronunciación. Por ejemplo, no reconoce la abreviatura “EEUU” para referirse a Estados Unidos, y se le escucha decir “eu”. Tampoco reconoce cómo pronunciar ICE, y en algunos videos dice “áise” mientras que en otros “ise”.

4. El cabello largo de la presentadora se ve con ondas idénticas en todos los videos.

Tras detectar estas inconsistencias, hicimos una captura de pantalla a su rostro y la subimos a pimeyes, una herramienta de reconocimiento facial. El sistema reconoció que ese mismo rostro había aparecido en esta noticia de CNN de junio de 2024 sobre el lanzamiento de “Symphony AI”, una herramienta de la red social china TikTok que permite incluir en los videos avatares creados con IA que pueden “hablar” más de 30 idiomas.

Luego, a través de una búsqueda entre los avatares que aparecen en CapCut, una herramienta de edición de videos que pertenece a TikTok, encontramos a la misma presentadora de los videos de “noticiasenestadosunidos”. El avatar se llama “Albina”, y pudimos ver que están las opciones para elegir el fondo en el que habla, su tono de voz, el idioma y para escribirle el texto que uno quiere que lea.

Ninguno de los videos de la cuenta “noticiasenestadosunidos” especifica que fue creado con inteligencia artificial.

La cuenta utiliza a “Albina” para divulgar desinformación sobre temas migratorios

La cuenta “noticiasenestadosunidos” ha publicado 138 videos entre el 7 de enero y el 4 de febrero de 2025. Es decir, ha publicado, en promedio, 5 videos diarios. Varios de estos videos contienen desinformación. Por ejemplo:

• 4 de febrero de 2025: afirmó que ICE “borrará a 700,000 inmigrantes de las listas de deportación”. Ese mismo día el video sobrepasó las 17,000 reproducciones y lo que dijo es falso. ICE (el Servicio de Inmigración y Aduanas de Estados Unidos) no hizo tal anuncio.

• 2 de febrero de 2025: la cuenta afirmó falsamente en un video que sobrepasó las 466,000 reproducciones que el presidente, Donald Trump había firmado una orden ejecutiva que “podría dar estatus legal a miles de inmigrantes sin antecedentes criminales”. También es falso. La lista de las órdenes ejecutivas que ha firmado Trump la puedes ver (en inglés) aquí.

• 2 de febrero de 2025: publicó también un video afirmando que el gobernador de California, Gavin Newsom, habría advertido a Trump que “si deportan a nuestros inmigrantes (…) California se independiza (…) y si es necesario volverá a México”. No hay registro público de que el gobernador Newsom hubiese dicho eso.

• 1 de febrero de 2025: afirmó falsamente que “Trump pone fin a las redadas masivas” y que el presidente habría “firmado un acuerdo” que les ponía fin a estos operativos.

Este es un artículo publicado originalmente el 5 de febrero de 2025, en Factchequeado, un medio de verificación –aliado de elDetector y miembro oficial de la Red Internacional de Verificación de Datos (IFCN)– que construye una comunidad hispanohablante para contrarrestar la desinformación en español en Estados Unidos.

¿Viste algún error o imprecisión? Escríbenos a eldetector@univision.net o a través de nuestro Twitter @eldetectoruni. Tras verificar tu solicitud, haremos la corrección que corresponda en un plazo no mayor de 48 horas.

Lee aquí nuestra metodología y política de corrección. Seguimos el Código de Principios de la International Fact-Checking Network (IFCN) , que puedes ver aquí traducido al español. Escribe a la IFCN llenando este formulario si consideras que no estamos cumpliendo ese código.

Escribe a la IFCN llenando este formulario si consideras que no estamos cumpliendo ese código.

Envíanos al chat de WhatsApp +1 (305) 447-2910 lo que quieras que verifiquemos: