2023-12-22 06:38:28
Andrew Bosworth, director técnico de Meta, no cree en los sistemas de marca de agua para los medios generados por IA. Al mismo tiempo, cree que la gente se acostumbrará a los deepfakes y a los contenidos generados por IA.
Puntos Clave:
- El director técnico de Meta, Andrew Bosworth, duda de la efectividad de las marcas de agua para verificar contenido generado por IA.
- Bosworth sugiere que la sociedad se acostumbrará a los deepfakes y a los medios de IA, adaptándose a una nueva realidad.
- El período de confianza en fotos y videos auténticos está llegando a su fin, según Bosworth.
- El inventor de la tecnología GAN que impulsó los primeros deepfakes, Ian Goodfellow, también señala la falta de autenticidad en la información audiovisual.
El Cambio de Perspectiva ante los Deepfakes y el Contenido Generado por IA
Andrew Bosworth, Director Técnico de Meta, cuestiona la eficacia de las marcas de agua para autenticar el contenido producido por inteligencia artificial (IA). Cree que la gente se acostumbrará a los deepfakes y a los contenidos generados por IA, adaptándose a una nueva realidad. Bosworth compartió su escepticismo en una entrevista con The Verge, expresando dudas sobre las marcas de agua como solución al problema de los contenidos borrosos de IA o las falsificaciones.
Para Bosworth, la autenticidad del contenido visual se está tambaleando, ya que considera que las marcas de agua podrían ser subvertidas peligrosamente, creando nuevos riesgos en lugar de mitigar los existentes. Aunque Meta está implementando tecnología de marca de agua en su último generador de imágenes, Bosworth reconoce que asumir la responsabilidad de su papel en Internet es fundamental.
El director general de OpenAI, Sam Altman, comparte la perspectiva escéptica de Bosworth sobre las marcas de agua como método de autenticación de contenido de IA, citando la falta de precisión en su detector de texto de IA como una razón reciente para cuestionar su eficacia.
La Evolución de la Confianza en los Medios Visuales
Bosworth plantea que la sociedad se está adentrando en un periodo en el que la certeza en la autenticidad de fotos y videos está llegando a su fin, tras alrededor de 50 años de confianza casi absoluta. Este cambio se asemeja a los periodos anteriores en los que la autenticidad de los relatos escritos y orales era cuestionada. Según Bosworth, la adaptabilidad de la sociedad le permitirá enfrentar este nuevo desafío y acostumbrarse a los medios falsos, transformando la percepción de la información visual.
A su vez, el inventor de la tecnología GAN que impulsó los primeros deepfakes, Ian Goodfellow, prevé un cambio similar en la confianza histórica en la autenticidad de la información audiovisual. Goodfellow describe las últimas décadas como una excepción, en la que capturar imágenes reales resultaba más accesible que generar imágenes artificiales. Estas perspectivas coinciden en señalar la necesidad de una mayor escepticismo ante la información visual en el futuro.
