OpenAI suspende su detector de texto por falta de precisión

Añadir a tus IAs favoritasQuitar de tus favoritasQuitar de favoritos 0
Puntuación0

2023-07-27 19:01:41

El detector de texto por IA de OpenAI, presentado en enero, ya es historia. La empresa aduce como motivo la falta de fiabilidad, algo que se sabía desde el principio.

En una breve actualización del artículo del anuncio original, OpenAI dice que ha interrumpido su clasificador de texto de IA «debido a su baja tasa de precisión», como escribe la empresa. La empresa afirma que está investigando métodos más eficaces para el reconocimiento de texto por IA, y que también está «comprometida» con el desarrollo de mecanismos de reconocimiento para contenidos de audio e imagen.

Es probable que OpenAI se refiera a un acuerdo voluntario de autorregulación firmado por OpenAI y otras empresas de IA para seguir las directrices establecidas por la Casa Blanca. Uno de los métodos mencionados es la marca de agua digital. En el pasado, sin embargo, el fundador de OpenAI, Sam Altman, ha criticado repetidamente la viabilidad de las marcas de agua.

¿Fracaso del antimarketing?

La cuestión es por qué OpenAI lanzó el detector en primer lugar. Incluso en el momento de su presentación, OpenAI era consciente de que el sistema tenía una baja tasa de detección fiable y que identificaba erróneamente texto humano como texto de IA el nueve por ciento de las veces en las pruebas. La empresa no ocultó estos puntos débiles y declaró explícitamente que la herramienta no era adecuada para reconocer redacciones de estudiantes, por ejemplo.

Entonces, ¿por qué la publicación y ahora la rápida retractación? Tal vez OpenAI quería demostrar que su propio detector y otros detectores de IA no funcionan de forma inusual. Antimarketing contra los detectores de IA, por así decirlo.

Los detectores actuales son preocupantes porque sugieren un nivel de control sobre el texto de la IA que aún no existe y quizá nunca exista. Esto, a su vez, dificulta la integración de la tecnología de forma significativa, por ejemplo en la educación, cuando las instituciones educativas prefieren jugar a detectives en lugar de innovar. En el peor de los casos, un detector inexacto conduce a acusaciones precipitadas y falsas con graves consecuencias educativas o profesionales.

Deja una opinión

Deje una respuesta

🤖 AI MAFIA
Logo