- La IA generativa desafía las convenciones establecidas en la edición, la ciencia y las artes al plantear cuestiones sobre transparencia, atribución, consentimiento y permiso.
- La revista Nature permite la publicación de textos generados por herramientas de IA, pero rechaza los contenidos visuales generados por sistemas de IA generativa.
- En el caso de los contenidos generados por LLM, deben seguirse unas directrices claras para garantizar la transparencia.
La tecnología de IA generativa desafía las convenciones existentes en la edición, la ciencia y las artes, especialmente en lo relativo a la transparencia, la atribución, el consentimiento y el permiso. La postura actual de Nature es contraria a los contenidos visuales creados con IA generativa hasta que se elaboren normas al respecto.
La revista científica Nature ha decidido no publicar imágenes ni vídeos generados o mejorados por generadores de IA como Midjourney. La decisión, tomada tras meses de debate interno, pretende mantener la integridad y la transparencia.
Las herramientas de IA generativa no permiten acceder a las fuentes de los datos y las imágenes, lo que dificulta su verificación. Además, Nature se queja del consentimiento y el permiso, que las «aplicaciones comunes» de la IA generativa no tienen en cuenta.
Los sistemas de IA generativa se entrenan con imágenes cuya fuente no se ha identificado. Las obras protegidas por derechos de autor se utilizan habitualmente para entrenar la IA generativa sin los permisos pertinentes. En algunos casos, también se viola la intimidad, por ejemplo, cuando los sistemas de IA generativa crean lo que parecen fotografías o vídeos de personas sin su consentimiento. Además de los problemas de privacidad, la facilidad con la que se pueden crear estos «deepfakes» está acelerando la difusión de información falsa.
NATURE
En cuanto a los contenidos visuales creados mediante IA generativa, Nature mantiene una postura simple de «no» hasta que el panorama normativo y jurídico se ponga al día con los avances de la tecnología de IA.
Pero Nature se siente cómoda con la inclusión de texto escrito generado por IA bajo ciertas condiciones. Herramientas como los grandes modelos lingüísticos (LLM) deben documentarse en la sección de métodos o agradecimientos de un artículo, y los autores deben proporcionar las fuentes de todos los datos, incluidos los generados por la IA. En ningún caso puede figurar la IA como autor.
