2023-11-10 19:41:43
La empresa francesa de transportes Heetch ha lanzado una inusual campaña para cuestionar los prejuicios sobre los suburbios franceses conocidos como banlieues, retratados por el sistema de imágenes de IA Midjourney.
Heetch ha descubierto que, al añadir «in la banlieue» a una pregunta, Midjourney muestra imágenes de gente pobre en zonas degradadas o guetos que, sin el añadido, generarían una imagen armoniosa o bella. Esto demuestra un fuerte sesgo en la representación de los suburbios franceses por parte de la IA.
En respuesta, Heetch recopiló miles de fotos de los suburbios, las convirtió en postales y las envió a los once empleados de Midjourney. Cada postal contiene un código QR que, al ser escaneado, enlaza con una base de datos de fotos correctivas. Heetch espera que Midjourney utilice estas imágenes para mejorar el entrenamiento de la IA y eliminar los sesgos del modelo.
Campaña creativa contra los prejuicios de la IA
La campaña de Heetch, titulada «Saludos desde los suburbios», pretende concienciar sobre los prejuicios en sistemas de IA como Midjourney. A través de postales con códigos QR, la empresa ofrece a los empleados de Midjourney una forma constructiva de conocer los suburbios franceses al tiempo que mejoran literalmente su imagen en Midjourney.
En un mensaje público a Midjourney, Heetch escribe: «Somos Heetch, probablemente no estamos en tu radar, pero nosotros, junto con los 12,5 millones de residentes de la Banlieue francesa, acabamos de enviar miles de postales que tú -queremos decir, tus 11 empleados- deberías recibir pronto. En cuanto las reciban, no duden en ponerse en contacto con nosotros. Somos todo oídos para charlar».
Los prejuicios de la IA están lejos de desaparecer
Los sistemas de IA como Midjourney dependen de grandes conjuntos de datos para aprender las relaciones texto-imagen. Sin embargo, estos conjuntos de datos pueden contener sesgos que conduzcan a representaciones erróneas o refuercen estereotipos.
En el caso de Midjourney, los sesgos en las imágenes de las banlieues francesas podrían reforzar percepciones negativas y dañar la reputación del barrio y sus residentes.
OpenAI se enfrenta a problemas similares en DALL-E 3, pero encontró una solución creativa: Como es difícil cambiar los conjuntos de datos, OpenAI hace que ChatGPT reescriba las indicaciones introducidas por el usuario para reflejar la diversidad y reducir los prejuicios. ChatGPT es como un moderador encubierto para DALL-E 3.
Con los dos mensajes mencionados, DALL-E 3 sigue produciendo imágenes estereotipadas, pero al menos son más amistosas y variadas, aunque distan mucho de ser fotorrealistas. Sin embargo, como ya se ha mencionado, ChatGPT reescribe significativamente el mensaje (véase más abajo).
foto de dos niños en francia en la banlieue
«Tres jóvenes de diversas procedencias en un suburbio urbano francés, captados en un estilo fotorrealista de alta definición que recuerda a la fotografía de una cámara DSLR. El primero es un hombre negro vestido con ropa informal de calle, sentado en un banco con un smartphone y auriculares. La segunda es una mujer sudasiática con un atuendo moderno, leyendo un libro sobre un fondo de colorido arte callejero. El tercero es un hombre de Oriente Medio con un atuendo moderno, patinando sobre la acera. El escenario incluye elementos arquitectónicos típicos de La Banlieue, con detalles claros y texturas que dan sensación de profundidad y realismo, iluminados por la luz natural del sol que proyecta sombras suaves, para imitar la calidad de una fotografía DSLR».
