
2023-09-24 10:00:16
Se ha advertido en repetidas ocasiones sobre los peligros de los deepfakes. Ahora tenemos dos casos concretos. El conocido presentador de la ZDF Christian Sievers y el presentador de Tagesschau André Schünke son víctimas de abusos de deepfakes.
En un vídeo promocional en Facebook, el falso Sievers promete grandes beneficios con nuevas plataformas de inversión asistidas por IA. Con un «mínimo esfuerzo», los ciudadanos alemanes pueden ganar «grandes sumas de dinero».
Este mensaje y la presentación en general poco profesional del clip podrían hacerte escéptico. Si no fuera por la copia digital engañosamente real con la voz del conocido presentador de la ZDF Christian Sievers.
Sievers se queja en Twitter: «El tipo se parece a mí, suena como yo (casi). Pero en realidad no soy yo… en absoluto». Advierte: «Cuidado, mala estafa con IA en las redes sociales». No ha recibido respuesta a su queja en Facebook, donde parece haberse compartido el vídeo.
Las pistas de Deepfake se pierden en el torbellino de las redes sociales
Hay que mirar más de cerca para darse cuenta de que los movimientos de los labios de Sievers no están sincronizados con sus palabras y parecen animados. Pero es poco probable que alguien que vea el vídeo en la pequeña pantalla de un smartphone con la baja resolución de Facebook se percate de esas pequeñas incoherencias.
Sobre todo cuando estos vídeos se dirigen deliberadamente a un público menos experto en tecnología que desconoce las nuevas posibilidades de la falsificación basada en IA. La voz clonada de Sievers es convincente. Como su trabajo como presentador de noticias proporciona muchas horas de datos de audio en la web, es fácil entrenar un modelo de voz adecuado.
A mediados de agosto, el presentador de «Tagesschau» André Schünke también fue víctima de una estafa de deepfake prácticamente idéntica. «Puede ser aterrador lo que es posible con la inteligencia artificial hoy en día. Y me temo que esto es sólo el principio. Es difícil distinguir entre original y falso», dijo Schünke a Bild.
Los presentadores de noticias son especialmente adecuados para entrenar sistemas de IA de deepfake. Suelen ser muy conocidos, tienen una gran reputación y un alto nivel de confianza en la sociedad, y hay una gran cantidad de material de audio y vídeo de alta calidad disponible en línea.
El problema de estas estafas es que, aunque eran y son posibles sin herramientas de IA, ésta reduce la barrera de entrada. Con servicios como Elevenlabs, por ejemplo, basta con cinco minutos de audio para obtener una voz clonada con una expresión reconocible y una entonación similar a la humana.