2023-08-19 04:07:23
Puntos destacados:
– Instagram trabaja en nuevas etiquetas para identificar cuando se ha utilizado AI para crear contenido en su plataforma.
– La funcionalidad de etiquetas fue descubierta por el investigador de aplicaciones Alessandro Paluzzi.
– Meta, la empresa detrás de Instagram, se comprometió a desarrollar un sistema de marca de agua para informar a los usuarios cuando el contenido es generado por AI.
Instagram parece estar trabajando en nuevas etiquetas que identificarían cuándo la inteligencia artificial ha desempeñado un papel en la creación de contenido en su plataforma. El investigador de aplicaciones Alessandro Paluzzi, quien descubre con frecuencia nuevas funcionalidades de Instagram antes de que sean anunciadas o lanzadas oficialmente, ha publicado una captura de pantalla de una página en la aplicación de Instagram que dice «el creador o Meta dijo que este contenido fue creado o editado con IA». La etiqueta específica indica que en este caso se trata de una imagen que ha sido «generada por Meta AI», y luego ofrece una breve descripción de lo que es la IA generativa y cómo identificar publicaciones que utilizan la IA.
El descubrimiento viene poco después de que Meta, junto con otros importantes actores de la IA como Google, Microsoft y OpenAI, hicieran compromisos con la Casa Blanca en relación con el desarrollo responsable de la IA. Además de invertir en investigación sobre ciberseguridad y discriminación, uno de los compromisos incluyó el desarrollo de un sistema de marca de agua para informar a los usuarios cuando el contenido es generado por IA.
No está claro exactamente cuán automatizado será el sistema de etiquetado de Instagram y hasta qué punto dependerá de que los usuarios revelen cuando se ha utilizado IA para crear o editar una imagen. Sin embargo, el hecho de que la etiqueta contenga las palabras «Meta dijo» sugiere que en al menos algunos casos, la empresa tecnológica aplicará proactivamente la etiqueta, en lugar de depender de la honestidad de los propios usuarios. Un portavoz de Meta se negó a comentar sobre la etiqueta a Engadget, y la compañía no respondió de inmediato a la solicitud de comentarios de The Verge.
Aunque aún se encuentra en sus primeras etapas, ya hemos tenido un avance de cómo podría lucir la desinformación generada por IA cuando una imagen del papa con una chaqueta hinchada se volvió viral en las redes sociales a principios de este año. En este caso, la imagen relativamente inofensiva finalmente fue desacreditada, pero se consideró una advertencia de que ahora existen herramientas simples para difundir desinformación peligrosa si se aplican a imágenes de satélite y fotografía política.
Meta recientemente ha liberado su modelo de lenguaje grande LLaMA 2 como código abierto, pero aún no ha lanzado ampliamente características de IA generativa para sus productos como Instagram. Sin embargo, tenemos algunas pistas sobre los tipos de características que está desarrollando. En una reunión general en junio, el CEO Mark Zuckerberg dijo que Meta estaba desarrollando características como utilizar indicaciones de texto para modificar fotos en Instagram Stories, informó Axios, y el investigador de aplicaciones Paluzzi también ha notado indicios de una característica de «pincel de IA» para Instagram que podría «añadir o reemplazar partes específicas» de imágenes. The Financial Times informó recientemente que Meta podría integrar una característica de chatbot de IA ‘personas’ en sus productos tan pronto como el próximo mes.
Además de Meta, Google ya ha anunciado una nueva herramienta que facilitará a los usuarios determinar si una imagen ha sido generada por IA. Su función «Acerca de esta imagen» se lanzará este verano y está diseñada para resaltar el primer lugar donde la imagen fue indexada por el gigante de búsqueda, brindando pistas vitales sobre su origen.
