Descubriendo imágenes generadas por IA con SynthID: una guía práctica

Añadir a tus IAs favoritasQuitar de tus favoritasQuitar de favoritos 0
Puntuación0

2023-08-31 04:47:16

🔍 Nuevo herramienta ayuda a identificar imágenes sintéticas creadas por ImagenAI

En asociación con Google Cloud, se ha lanzado una versión beta de SynthID, una herramienta para marcar con una marca de agua e identificar imágenes generadas por IA. Esta tecnología inserta una marca de agua digital directamente en los píxeles de una imagen, haciéndola imperceptible para el ojo humano pero detectable para su identificación.

SynthID está disponible para un número limitado de clientes de Vertex AI que utilizan Imagen, un modelo de texto a imagen que crea imágenes fotorrealistas a partir de texto de entrada.

A medida que las tecnologías de IA generativa evolucionan rápidamente, las imágenes generadas por computadora, también conocidas como «imágenes sintéticas», se vuelven cada vez más difíciles de distinguir de las que no son creadas por un sistema de IA. Si bien la IA generativa tiene un gran potencial creativo, también presenta nuevos riesgos, como la propagación de información falsa, ya sea intencionalmente o por accidente. Poder identificar contenido generado por IA es fundamental para empoderar a las personas con el conocimiento de cuándo están interactuando con medios generados y ayudar a prevenir la propagación de desinformación.

SynthID genera una marca de agua digital imperceptible para imágenes generadas por IA. Google Cloud es el primer proveedor de servicios en la nube en ofrecer una herramienta para crear imágenes generadas por IA de manera responsable e identificarlas con confianza. Esta tecnología se basa en nuestro enfoque de desarrollo e implementación de IA responsable y fue desarrollada por Google DeepMind y refinada en asociación con Google Research.

SynthID no es infalible ante manipulaciones extremas de imágenes, pero ofrece un enfoque técnico prometedor para permitir que las personas y las organizaciones trabajen con contenido generado por IA de manera responsable. Esta herramienta también podría evolucionar junto con otros modelos y modalidades de IA más allá de las imágenes, como el audio, el video y el texto.

Esta nueva herramienta de marca de agua para imágenes generadas por IA aborda las limitaciones de los enfoques tradicionales de marcas de agua, que pueden ser fácilmente editados o eliminados. SynthID permite mantener la calidad de la imagen y que la marca de agua siga siendo detectable incluso después de modificaciones como agregar filtros, cambiar colores y guardar con esquemas de compresión con pérdida.

SynthID utiliza dos modelos de aprendizaje profundo: uno para marcar con una marca de agua y otro para identificarla. Estos modelos han sido entrenados juntos en un conjunto diverso de imágenes y están optimizados para identificar correctamente el contenido marcado y mejorar la imperceptibilidad al alinear visualmente la marca de agua con el contenido original.

SynthID permite a los clientes de Vertex AI crear imágenes generadas por IA de manera responsable y identificarlas con confianza. Aunque no es perfecta, nuestras pruebas internas demuestran que es precisa contra muchas manipulaciones comunes de imágenes.

Esta herramienta proporciona tres niveles de confianza para interpretar los resultados de la identificación de la marca de agua. Si se detecta una marca de agua digital, es probable que parte de la imagen haya sido creada por Imagen.

SynthID se suma a las diferentes aproximaciones disponibles para identificar contenido digital. Una de las formas más utilizadas de identificar contenido es a través de metadatos, que proporcionan información sobre quién lo creó y cuándo. Sin embargo, los metadatos pueden ser eliminados manualmente o perderse al editar archivos. La marca de agua de SynthID se inserta en los píxeles de una imagen, lo que la hace compatible con otros enfoques de identificación de imágenes basados en metadatos y sigue siendo detectable incluso cuando se pierden los metadatos.

En resumen, SynthID es una herramienta que permite marcar con una marca de agua e identificar imágenes generadas por IA de manera responsable. Google Cloud se compromete a desarrollar enfoques seguros y confiables para trabajar con contenido generado por IA y espera poder integrar esta tecnología en más productos de Google en el futuro, empoderando a las personas y organizaciones para trabajar de manera responsable con el contenido generado por IA.

Deja una opinión

      Deje una respuesta

      🤖 AI MAFIA
      Logo