2023-08-23 18:57:18
Puntos destacados:
– ⚡ La herramienta de detección de IA de OpenAI, AI Classifier, ha sido desactivada debido a su baja precisión.
– ⚡ OpenAI está trabajando en desarrollar mecanismos más efectivos para detectar si el contenido es generado por IA.
– ⚡ La detección precisa de IA es importante en el ámbito educativo, ya que los estudiantes están utilizando IA para escribir ensayos.
En enero, la potencia de la inteligencia artificial OpenAI anunció una herramienta que podría salvar el mundo, o al menos preservar la cordura de profesores y maestros, al detectar si un contenido había sido creado utilizando herramientas de IA generativa como ChatGPT.
Medio año después, esa herramienta está muerta, porque no pudo hacer lo que se diseñó para hacer.
El creador de ChatGPT, OpenAI, desconectó silenciosamente su herramienta de detección de IA, AI Classifier, la semana pasada debido a su «baja tasa de precisión», según dijo la empresa. La explicación no se hizo en un nuevo anuncio, sino que se agregó una nota al artículo del blog que anunció por primera vez la herramienta. El enlace al clasificador de OpenAI ya no está disponible.
«Estamos trabajando para incorporar comentarios y actualmente estamos investigando técnicas de procedencia más efectivas para el texto, y nos hemos comprometido a desarrollar e implementar mecanismos que permitan a los usuarios comprender si el contenido de audio o visual ha sido generado por IA», escribió OpenAI.
Casi a diario aparecen nuevas herramientas que permiten el uso de IA cada vez más sofisticada, y se ha creado una industria de detectores de IA.
OpenAI anunció el lanzamiento de su clasificador de IA, afirmando que podía distinguir entre texto escrito por un humano y texto escrito por una IA. Sin embargo, OpenAI calificó el clasificador como «no totalmente confiable», y agregó que las evaluaciones en un «conjunto de desafíos» de textos en inglés identificaron correctamente el 26% de los textos escritos por IA como «probablemente escritos por IA», mientras que etiquetó incorrectamente el texto escrito por humanos como escrito por IA el 9% de las veces.
OpenAI dijo que las limitaciones del clasificador de IA incluyen su falta de fiabilidad en textos con menos de 1,000 caracteres, la etiquetación incorrecta de textos escritos por humanos como escritos por IA, y el mal rendimiento de los clasificadores basados en redes neuronales fuera de sus datos de entrenamiento.
Un sector que está particularmente interesado en la detección precisa de IA es la educación. Desde el lanzamiento de ChatGPT en noviembre, los educadores han dado la voz de alarma sobre los estudiantes que utilizan el chatbot para escribir ensayos.
«Reconocemos que la identificación de textos escritos por IA ha sido un punto importante de discusión entre los educadores, y igual de importante es reconocer los límites e impactos de los clasificadores de texto generados por IA en el aula», afirmó OpenAI, añadiendo que la compañía continuará ampliando su alcance a medida que aprende.
