2023-09-22 10:52:54
Actualizado el 21 de septiembre de 2023:
OpenAI está desplegando una nueva interfaz de ajuste que documenta el estado del ajuste. En los próximos meses, será posible realizar ajustes a través de la interfaz, lo que debería facilitar el acceso a más usuarios. Además, ahora es posible ajustar tres modelos de GPT 3.5 con datos propios; antes, esta función sólo estaba disponible para un modelo.
Artículo original del 22 de agosto de 2023:
El ajuste fino ya está disponible para GPT-3.5 Turbo, y GPT-4 llegará este otoño. OpenAI también ofrece modelos GPT-3 más baratos.
OpenAI ha anunciado el lanzamiento de funciones de ajuste fino para GPT-3.5 Turbo, que permiten a los desarrolladores personalizar el modelo de lenguaje para mejorar el rendimiento en casos de uso específicos. A finales de este año también se habilitará el ajuste fino para el próximo modelo GPT-4, según ha anunciado la compañía.
El ajuste fino permite introducir datos personalizados en GPT-3.5 Turbo para mejorar las prestaciones en tareas específicas. Los casos de uso de la personalización incluyen la mejora de la direccionabilidad, la coherencia del formato de salida y la personalización del tono/voz. El ajuste fino también puede reducir la longitud de los avisos hasta en un 90%, lo que disminuye los costes. Los mecanismos de seguridad, como la API de moderación, se utilizan para filtrar datos de formación no seguros y aplicar políticas de contenido durante el ajuste.
Según OpenAI, las primeras pruebas muestran que las versiones ajustadas pueden igualar o superar el rendimiento de GPT-4 en aplicaciones especializadas.
OpenAI sustituye los antiguos modelos GPT-3 por babbage-002 y davinci-002
Los costes de ajuste fino pueden dividirse entre el coste de formación inicial y el coste de uso y son:
- Formación: 0,008 $ / 1.000 fichas
- Entrada de uso: 0,012 $ / 1.000 fichas
- Salida de uso: $0.016 / 1K Tokens
OpenAI también ha anunciado que los modelos base GPT-3 (ada, babbage, curie y davinci) se cerrarán el 4 de enero de 2024. Como reemplazo, la compañía también está haciendo que los modelos babbage-002 y davinci-002 estén disponibles hoy, ya sea como modelos base o afinados.
Estos modelos pueden ajustarse mediante la nueva API /v1/fine_tuning/jobs. Estos modelos son significativamente más baratos que gpt-3.5-turbo. Los precios completos están disponibles en la página OpenAIs blog.
Al igual que con todas las API de OpenAI, «los datos enviados dentro y fuera de la API de ajuste fino son propiedad del cliente y no son utilizados por OpenAI, o cualquier otra organización, para entrenar a otros modelos», por lo que la compañía dijo.
