OpenAI cierra silenciosamente su herramienta de detecci贸n de IA

A帽adir a tus IAs favoritasQuitar de tus favoritasQuitar de favoritos 0
Puntuaci贸n0

2023-08-23 18:57:18

Puntos destacados:

– 鈿 La herramienta de detecci贸n de IA de OpenAI, AI Classifier, ha sido desactivada debido a su baja precisi贸n.
– 鈿 OpenAI est谩 trabajando en desarrollar mecanismos m谩s efectivos para detectar si el contenido es generado por IA.
– 鈿 La detecci贸n precisa de IA es importante en el 谩mbito educativo, ya que los estudiantes est谩n utilizando IA para escribir ensayos.

En enero, la potencia de la inteligencia artificial OpenAI anunci贸 una herramienta que podr铆a salvar el mundo, o al menos preservar la cordura de profesores y maestros, al detectar si un contenido hab铆a sido creado utilizando herramientas de IA generativa como ChatGPT.

Medio a帽o despu茅s, esa herramienta est谩 muerta, porque no pudo hacer lo que se dise帽贸 para hacer.

El creador de ChatGPT, OpenAI, desconect贸 silenciosamente su herramienta de detecci贸n de IA, AI Classifier, la semana pasada debido a su 芦baja tasa de precisi贸n禄, seg煤n dijo la empresa. La explicaci贸n no se hizo en un nuevo anuncio, sino que se agreg贸 una nota al art铆culo del blog que anunci贸 por primera vez la herramienta. El enlace al clasificador de OpenAI ya no est谩 disponible.

芦Estamos trabajando para incorporar comentarios y actualmente estamos investigando t茅cnicas de procedencia m谩s efectivas para el texto, y nos hemos comprometido a desarrollar e implementar mecanismos que permitan a los usuarios comprender si el contenido de audio o visual ha sido generado por IA禄, escribi贸 OpenAI.

Casi a diario aparecen nuevas herramientas que permiten el uso de IA cada vez m谩s sofisticada, y se ha creado una industria de detectores de IA.

OpenAI anunci贸 el lanzamiento de su clasificador de IA, afirmando que pod铆a distinguir entre texto escrito por un humano y texto escrito por una IA. Sin embargo, OpenAI calific贸 el clasificador como 芦no totalmente confiable禄, y agreg贸 que las evaluaciones en un 芦conjunto de desaf铆os禄 de textos en ingl茅s identificaron correctamente el 26% de los textos escritos por IA como 芦probablemente escritos por IA禄, mientras que etiquet贸 incorrectamente el texto escrito por humanos como escrito por IA el 9% de las veces.

OpenAI dijo que las limitaciones del clasificador de IA incluyen su falta de fiabilidad en textos con menos de 1,000 caracteres, la etiquetaci贸n incorrecta de textos escritos por humanos como escritos por IA, y el mal rendimiento de los clasificadores basados en redes neuronales fuera de sus datos de entrenamiento.

Un sector que est谩 particularmente interesado en la detecci贸n precisa de IA es la educaci贸n. Desde el lanzamiento de ChatGPT en noviembre, los educadores han dado la voz de alarma sobre los estudiantes que utilizan el chatbot para escribir ensayos.

芦Reconocemos que la identificaci贸n de textos escritos por IA ha sido un punto importante de discusi贸n entre los educadores, y igual de importante es reconocer los l铆mites e impactos de los clasificadores de texto generados por IA en el aula禄, afirm贸 OpenAI, a帽adiendo que la compa帽铆a continuar谩 ampliando su alcance a medida que aprende.

Deja una opini贸n

Deje una respuesta

馃 AI MAFIA
Logo