El audio falso generado por inteligencia artificial del principal programa informativo alemán «Tagesschau» difunde desinformación
2023-11-16 21:18:30
Archivos de audio falsos generados por IA del programa de noticias más popular de Alemania, Tagesschau, se están difundiendo actualmente en las redes sociales e incluso se han reproducido en una manifestación.
Los falsos audios contienen supuestas disculpas por supuestas mentiras al informar sobre temas como la guerra en Ucrania y la pandemia de coronavirus, así como la «denuncia» de manifestantes. Se reprodujeron en una manifestación en Kiel (Alemania) y se distribuyeron a través de canales conspirativos de Telegram, Facebook y TikTok.
Marcus Bornheim, redactor jefe de ARD-aktuell, aclara que los archivos son falsos. Las voces de los archivos de audio suenan mecánicas y tienen entonaciones falsas.
«Las posiciones y estrategias representadas en los archivos de audio generados por IA son capaces de dañar el orden básico libre y democrático», afirma el redactor jefe Bornheim. La buena reputación del Tagesschau está siendo explotada «para difundir desinformación selectiva», añade Bornheim.
Los presentadores de noticias son blanco fácil de los deepfakes
Hace poco, los presentadores de noticias alemanes Christian Sievers y André Schünke fueron víctimas de una estafa de deepfake en la que sus copias digitales se utilizaron en vídeos promocionales fraudulentos en Facebook.
Los vídeos promocionaban plataformas de inversión basadas en inteligencia artificial y prometían grandes beneficios. Las voces clonadas de los presentadores sonaban engañosamente reales y los movimientos sincronizados de los labios eran lo bastante convincentes para quienes se desplazaban rápidamente por las redes sociales.
Los presentadores de noticias y los programas son objetivos ideales para este tipo de estafas porque son bien conocidos por el público, y hay una gran cantidad de material de vídeo y audio disponible en línea que se puede utilizar para entrenar sistemas de IA deepfake.
Los expertos advierten de los peligros de estas falsificaciones, que pueden socavar la credibilidad de los presentadores de noticias y los medios de comunicación. Es probable que las falsificaciones generadas por IA aumenten en el futuro a medida que se hagan más fáciles de producir. Su calidad también está mejorando.
