2023-07-20 08:51:38
Los modelos multimodales pueden reconocer imágenes y describir su contenido. Esto incluye imágenes de personas, lo que podría resultar problemático.
The New York Times informa de que OpenAI actualmente enmascara las caras en las imágenes y no permite que GPT-4 las procese con el reconocimiento de imágenes.
Esto afecta especialmente a las personas ciegas, que están utilizando GPT-4 con mejora de imagen en el experimento «Be My Eyes» para obtener descripciones detalladas del entorno así como de las personas. La descripción del entorno sigue disponible, pero la descripción de las personas se ha desactivado recientemente y las caras de las imágenes aparecen borrosas.
OpenAI no quiere que se haga un mal uso de GPT-4 para el reconocimiento facial
GPT-4 con capacidades de imagen puede reconocer a personas destacadas, como el CEO de OpenAI Sam Altman, de quien ha visto muchas imágenes en el entrenamiento de IA. GPT-4 no reconocerá a personas que no aparezcan en muchas imágenes disponibles en Internet.
Como resultado, sus capacidades de identificación y seguimiento no son ni de lejos tan amplias como las de sistemas de IA como Clearview AI o PimEyes, que están optimizados para este escenario y pueden identificar personas en imágenes basándose en detalles finos.
Sin embargo, más allá de la identificación, OpenAI se enfrenta a más problemas a la hora de analizar rostros: Aunque la persona de una imagen sea desconocida, puede ser descrita y asociada con un género o un estado emocional erróneos, por ejemplo.
Con cientos de millones de usuarios, esto podría dar lugar a numerosas quejas. Además, se dice que el análisis de imágenes es lo suficientemente potente como para eludir los sistemas captcha habituales.
Las identificaciones erróneas, en las que el modelo identifica correctamente la función de una persona como CEO, por ejemplo, pero le asigna un nombre equivocado, también son posibles, dice Sandhini Agarwal, investigadora de políticas de OpenAI.
«Queremos que sea una conversación bidireccional con el público. Si lo que oímos es: ‘En realidad, no queremos nada de esto’, estamos de acuerdo», afirma Agarwal.
Microsoft y Google también bloquean el reconocimiento facial
El chatbot Bard de Google también ofrece análisis de imágenes. Actualmente, Bard se niega a hacer declaraciones sobre imágenes de personas conocidas y desconocidas y borra una imagen subida de una persona sin más averiguaciones. En cambio, la búsqueda visual Lens de Google reconoce una imagen de Sam Altman y lo identifica correctamente.
Microsoft también está integrando la búsqueda visual de imágenes en Bing Chat. Tras subir una imagen de una persona, Bing Chat indica que la imagen aparecerá borrosa «por motivos de privacidad». Sin embargo, el chatbot ofrecerá recomendaciones sobre cómo encontrar a la persona a través de Google Imágenes, las redes sociales o TinEyes.
