2023-09-12 15:55:57
A medida que los resultados de los modelos de inteligencia artificial se hacen más realistas, los medios de comunicación generados por la IA se introducen en la política cotidiana, como muestran estos ejemplos.
Ha comenzado una nueva era de «noticias falsas» generadas por IA, no siempre tan inofensivas como las imágenes del Papa vestido de repente con ropa sorprendentemente a la moda. También pueden causar graves confusiones, como en el caso de las imágenes que pretenden mostrar la supuesta detención de Donald Trump, o la falsa imagen de un incendio cerca del Pentágono.
En este artículo recopilamos ejemplos del uso de la IA para la manipulación política. Este artículo se actualizará periódicamente.
Anthony Furey, candidato a la alcaldía de Toronto
Toronto está a punto de elegir nuevo alcalde. Anthony Furey, que dice haber trabajado 15 años en el periodismo y la radiodifusión, ha reconocido el potencial de los generadores de imágenes de IA y los está utilizando para ilustrar partes de su campaña. Uno de sus temas centrales es: Quiere librar las calles de Toronto de los sin techo.
Por ejemplo, una imagen de su campaña muestra una calle de Toronto con gente acampada sin cobijo. Otra imagen muestra a un hombre y una mujer, pero rápidamente se revela que es generada por IA: la mujer tiene tres brazos.
La fuente de las diversas imágenes del folleto digital no está claro. La imagen de los tres brazos se ha sustituido por otra menos llamativa, también generada por IA.
Partido Nacional Neozelandés
La imagen utilizada por el Partido Nacional de Nueva Zelanda, de derecha conservadora, en Instagram da una sensación más realista. «Nueva Zelanda no está segura bajo el laborismo», reza el pie de foto de un ladrón sin rostro. No se hace referencia al origen de la imagen. Las reacciones de los votantes en los comentarios son dispares: algunos condenan la política «a lo Trump» y otros aplauden el uso de la tecnología moderna.
Candidato a la alcaldía de Chicago
El uso de la inteligencia artificial para la manipulación política no se limita a la generación de imágenes. Según la New York Times, un candidato a la alcaldía de Chicago se quejó de que un medio de comunicación aparentemente legítimo clonó su voz en Twitter. De este modo, dice, le engañaron para que dijera que apoyaba la violencia policial. No se ha podido verificar si se trataba de un engaño.
Pentágono
En mayo de 2023, circularon por Twitter imágenes de un edificio en llamas, supuestamente cerca del Pentágono, desde cuentas que al principio parecían fiables porque estaban marcadas con una tilde azul.
Sin embargo, desde que Elon Musk se hizo con el control de Twitter, esta ya no es una señal fiable de información legítima, ya que cualquiera puede comprar una cuenta por ocho dólares al mes. El supuesto ataque al Pentágono causó revuelo e incluso hizo caer brevemente al Dow Jones.
Alternativa para Alemania (AfD)
En marzo de 2023, el jefe adjunto del grupo parlamentario de AfD, Norbert Kleinwächter, llamó la atención con una imagen de AI. «No a aún más refugiados», rezaba su post de Instagram, en el que aparecía gente enfadada con la boca abierta. No fue la última imagen de IA en el canal de Kleinwächter; también le gusta caricaturizar a sus oponentes políticos utilizando Midjourney.
Detención de Donald Trump
La IA puede crear imágenes en segundos que a primera vista parecen fotos reales. Esto permite a los usuarios malintencionados aprovechar las noticias de última hora y difundir rápidamente las visualizaciones.
Por ejemplo, cuando la opinión pública discutía la posible detención del expresidente de Estados Unidos Donald Trump, poco después aparecieron en las redes sociales imágenes parcialmente fotorrealistas que supuestamente lo confirmaban.
Esto fue provocado por Eliot Higginsfundador de la organización de investigación holandesa Bellingcat, que visualizó su fantasía de detención con Midjourney y compartió los resultados en Twitter.
Acusaciones de influencia electoral china a través de imágenes de IA
Según un informe de Microsoftlos investigadores de la empresa han identificado una red de cuentas falsas en redes sociales chinas que parecen estar utilizando IA para tratar de influir en los votantes estadounidenses. Al parecer, las cuentas han estado publicando contenidos de contenido político en inglés desde al menos marzo de 2023, haciéndose pasar por ciudadanos estadounidenses.
Un ejemplo, según Microsoft, es una imagen «muy probablemente» generada por IA de la Estatua de la Libertad con un rifle de asalto y el texto «Democracia & Libertades: Se está tirando todo por la borda». Al menos el texto debe haberse añadido manualmente.
Según Microsoft, las actividades de estas cuentas son similares a una operación de información china conocida anteriormente que el Departamento de Justicia de EE.UU. ha atribuido a una unidad de élite del Ministerio de Seguridad Pública de China. Sin embargo, el informe es escaso en detalles.
Las cuentas intentaban parecer estadounidenses afirmando estar en Estados Unidos, publicando eslóganes políticos estadounidenses y utilizando hashtags sobre asuntos nacionales, escribió Microsoft, que considera la campaña una amenaza para la integridad de las elecciones estadounidenses de 2024. China ha negado las acusaciones por considerarlas tendenciosas y malintencionadas.
Mientras tanto, Google se ha preparado para los contenidos generados por IA en la campaña electoral estadounidense con una nueva política publicitaria. Exige que el «contenido sintético» se etiquete de forma destacada.
¿Está permitido utilizar modelos de imagen de IA para campañas políticas?
Midjourney, el modelo de imagen de IA considerado actualmente el más potente de su clase y que se ha acercado más al fotorrealismo en versiones recientes, prohíbe explícitamente en sus condiciones de uso la utilización de sus imágenes con fines políticos.
Sin embargo, los operadores de Midjourney -si tienen conocimiento de tales casos- poco pueden hacer al respecto, salvo moderar las incitaciones y bloquear las cuentas correspondientes. Tales consecuencias están excluidas en el modelo de código abierto de Difusión Estable, que poco a poco está alcanzando un nivel de calidad similar con SDXL.
