2023-08-15 10:14:26
Puntos destacados:
🔸 Kickstarter implementa una nueva política que requiere a los proyectos que utilizan herramientas de IA generar contenido que divulguen detalles relevantes sobre su uso de contenido de IA y los componentes originales.
🔸 La plataforma también exige a los nuevos proyectos de desarrollo de tecnología de IA que detallen la información sobre las fuentes de datos de entrenamiento y la forma en que manejan el consentimiento y el crédito de los creadores de contenido.
🔸 Los proyectos que no divulguen adecuadamente el uso de IA podrían enfrentar la suspensión.
Kickstarter anuncia nueva política de transparencia para proyectos de IA generativa
A medida que la IA generativa entra en el mainstream, la plataforma de crowdfunding Kickstarter ha tenido dificultades para formular una política que satisfaga a todas las partes involucradas en el debate.
La mayoría de las herramientas de IA generativa utilizadas hoy en día para crear arte y texto, como Stable Diffusion y ChatGPT, se entrenaron con imágenes y texto públicamente disponibles en la web. Pero en muchos casos, los artistas, fotógrafos y escritores cuyo contenido fue extraído no se les ha dado crédito, compensación o la oportunidad de optar por no participar.
Los grupos detrás de estas herramientas de IA argumentan que están protegidos por la doctrina de uso legítimo (fair use) – al menos en los Estados Unidos. Pero los creadores de contenido no necesariamente están de acuerdo, especialmente cuando el contenido generado por IA – o las propias herramientas de IA – se están monetizando.
Con el objetivo de aclarar esta situación, Kickstarter anunció hoy que los proyectos en su plataforma que utilicen herramientas de IA para generar imágenes, texto u otros resultados (como música, discurso o audio) deberán revelar «detalles relevantes» en sus páginas de proyecto en adelante. Estos detalles deben incluir información sobre cómo el titular del proyecto planea utilizar el contenido de IA en su trabajo, así como qué componentes de su proyecto serán totalmente originales y qué elementos se crearán utilizando herramientas de IA.
Además, Kickstarter exige que los nuevos proyectos que involucren el desarrollo de tecnología, herramientas y software de IA detallen la información sobre las fuentes de datos de entrenamiento que el titular del proyecto tiene la intención de utilizar. Kickstarter afirma que el titular del proyecto deberá indicar cómo las fuentes manejan los procesos de consentimiento y crédito, y deberá implementar sus propios «mecanismos de salvaguarda» como opciones de exclusión o inclusión para los creadores de contenido.
Un número creciente de proveedores de IA ofrecen mecanismos de exclusión, pero la regla de divulgación de datos de entrenamiento de Kickstarter podría resultar controvertida, a pesar de los esfuerzos de la Unión Europea y otros por codificar estas prácticas en la ley. OpenAI, entre otros, se ha negado a revelar la fuente exacta de los datos de entrenamiento de sus sistemas más recientes por razones de competencia y posibles responsabilidades legales.
La nueva política de Kickstarter entrará en vigor el 29 de agosto. Sin embargo, la plataforma no tiene previsto aplicarla de forma retroactiva a los proyectos presentados antes de esa fecha, según Susannah Page-Katz, directora de confianza y seguridad de Kickstarter.
«Queremos asegurarnos de que cualquier proyecto financiado a través de Kickstarter incluya aportes creativos humanos y que se brinde el crédito adecuado y se obtenga el permiso para el trabajo de cualquier artista al que haga referencia», escribió Page-Katz en una publicación de blog compartida con TechCrunch. «La política requiere que los creadores sean transparentes y específicos sobre cómo utilizan la IA en sus proyectos, porque cuando todos entendemos de qué se trata un proyecto, se genera confianza y se sientan las bases para el éxito del proyecto».
Para aplicar la nueva política, las presentaciones de proyectos en Kickstarter deberán responder a un nuevo conjunto de preguntas, incluyendo varias que se refieran a si el proyecto utiliza tecnología de IA para generar obras de arte u otros elementos, o si el enfoque principal del proyecto es desarrollar tecnología de IA generativa. También se les preguntará si tienen el consentimiento de los propietarios de las obras utilizadas para producir o entrenar, según sea el caso, las partes generadas por IA de su proyecto.
Una vez que los creadores de proyectos de IA envíen su trabajo, este pasará por el proceso de moderación humano estándar de Kickstarter. Si es aceptado, cualquier componente de IA se etiquetará como tal en una nueva sección «Uso de IA» agregada a la página del proyecto, según Page-Katz.
«A lo largo de nuestras conversaciones con creadores y patrocinadores, lo que nuestra comunidad quería más era transparencia», agregó, y señaló que cualquier uso de IA que no se divulgue adecuadamente durante el proceso de presentación puede dar lugar a la suspensión del proyecto. «Estamos encantados de responder directamente a esta solicitud de nuestra comunidad al agregar una sección a la página del proyecto donde los patrocinadores puedan conocer el uso de IA en las propias palabras del creador».
Kickstarter indicó por primera vez que estaba considerando un cambio en la política de IA generativa en diciembre, cuando dijo que reevaluaría si los medios de comunicación propiedad o creados por otras personas en los datos de entrenamiento de un algoritmo constituían una copia o imitación del trabajo de un artista.
Desde entonces, la plataforma ha avanzado lentamente hacia una nueva política. A finales del año pasado, Kickstarter prohibió Unstable Diffusion, un grupo que intentaba financiar un proyecto de arte de IA generativa que no incluía filtros de seguridad y permitía a los usuarios generar cualquier obra de arte que deseen, incluido contenido para adultos. Kickstarter justificó la eliminación en parte implicando que el proyecto explotaba a comunidades particulares y ponía en riesgo a las personas.
Más recientemente, Kickstarter aprobó y luego eliminó un proyecto que utilizaba IA para plagiar un cómic original, lo que destaca los desafíos en la moderación de obras de IA.
