2024-03-24 02:23:06
La Tienda GPT, el mercado oficial de OpenAI para chatbots personalizables, se está inundando de opciones dudosas y potencialmente ilegales, poniendo en tela de juicio los esfuerzos de moderación de la compañía
Introducción
Cuando OpenAI lanzó la Tienda GPT, su mercado para chatbots personalizados alimentados por modelos de IA generativa, la promocionó como una colección curada de poderosas herramientas de productividad. Sin embargo, en poco tiempo, la tienda se ha convertido en un semillero de chatbots spammy, legalmente dudosos y potencialmente dañinos.
Problemas de derechos de autor
H3 Múltiples chatbots en la Tienda GPT se basan en franquicias populares de películas, televisión y videojuegos sin autorización de los propietarios. Algunos ejemplos incluyen:
- Un chatbot que crea monstruos al estilo de «Monstruos, S.A.» de Pixar
- Un chatbot que promete aventuras de texto basadas en el universo de «Star Wars»
- Chatbots que permiten interactuar con personajes protegidos por marcas como Wario y Aang de «Avatar: La leyenda de Aang»
Estos chatbots podrían sentar las bases para disputas por derechos de autor, ya que, según Kit Walsh, abogado de la Fundación Frontera Electrónica, «se pueden utilizar para crear obras transformadoras así como para infringir [donde obras transformadoras se refieren a un tipo de uso justo protegido de reclamaciones de derechos de autor].»
A pesar de que los términos de OpenAI prohíben explícitamente a los desarrolladores construir chatbots que promuevan la deshonestidad académica, la Tienda GPT está llena de opciones que afirman poder evadir detectores de contenido generado por IA, como Turnitin y Copyleaks.
Algunos de estos chatbots son, en realidad, pasarelas disfrazadas a servicios premium de terceros, como Humanizer Pro, que «humaniza» el contenido para evadir detectores de IA a cambio de una suscripción mensual.
Aunque las políticas de OpenAI prohíben a los desarrolladores crear chatbots que suplanten a personas u organizaciones sin su consentimiento, hay numerosos ejemplos en la Tienda GPT que simulan conversaciones con figuras públicas como Elon Musk, Donald Trump o Barack Obama.
OpenAI señala que permite a los creadores instruir a sus chatbots para responder «en el estilo de» una persona real siempre que no los suplanten completamente, pero los límites de esto no están claros.
Jailbreaks y violaciones de políticas
La Tienda GPT también alberga intentos de hacer jailbreak a los modelos de OpenAI, como chatbots que utilizan el método DAN («Haz Cualquier Cosa Ahora») para tratar de evadir las restricciones de los modelos.
Además, varios chatbots parecen violar directamente las políticas de OpenAI al describirse o instruirse para evadir las salvaguardas de la compañía.
Conclusión
Si bien la motivación de OpenAI con la Tienda GPT es clara (emular el lucrativo modelo de la App Store de Apple), la compañía está enfrentando los problemas iniciales que tuvieron muchos mercados digitales a gran escala en sus primeros días.
A menos que OpenAI refuerce sus esfuerzos de moderación y curación, la Tienda GPT continuará siendo un desastre plagado de spam, contenido potencialmente ilegal y violaciones flagrantes de sus propias políticas.
