2023-11-30 17:21:41
La startup Perplexity.ai, conocida por su motor de búsqueda de IA, pone a disposición del público sus modelos lingüísticos en línea a través de una API.
Los LLM estándar tienen dificultades para proporcionar información actualizada y suelen dar respuestas incorrectas. Los LLM en línea de Perplexity, pplx-7b-online y pplx-70b-online, pretenden resolver este problema utilizando el conocimiento de Internet para ofrecer respuestas más precisas y actualizadas.
Esto permite a los modelos responder a preguntas sensibles al tiempo que son difíciles de contestar para los modelos offline, como los resultados deportivos de la noche anterior. La búsqueda en línea basada en LLM de Perplexity ofrece la misma experiencia implementada en una interfaz web.
Los modelos de Perplexity no son un LLM al uso.
Los LLM en línea de Perplexity se basan en los modelos de código abierto mistral-7b y llama2-70b. La empresa utiliza su propia infraestructura de búsqueda, indexación y rastreo para alimentar los LLM con la información más relevante y actualizada.
El índice de búsqueda da prioridad a los sitios web de alta calidad que no están optimizados para los motores de búsqueda y ofrece fragmentos de páginas web para obtener mejores respuestas, escribe Perplexity.
Además, los modelos se afinan utilizando grandes conjuntos de datos de entrenamiento, de alta calidad y diversos, compilados por los ingenieros de datos internos de Perplexity.
Este proceso de optimización está diseñado para garantizar que los modelos funcionen bien en términos de utilidad, precisión factual y frescura.
Perplexity supera a GPT-3.5 y Llama 2
Perplexity ha comparado su LLM en línea con GPT-3.5 de OpenAI y Llama2-70b de Meta. La evaluación se basa en tres criterios: Utilidad, Factualidad y Frescura.
Se pidió a los evaluadores humanos que seleccionaran su respuesta favorita para cada atributo de entre las respuestas pregeneradas y que proporcionaran una valoración global de las respuestas. Los evaluadores recibieron la pregunta y las distintas respuestas de los modelos en orden aleatorio.
Los resultados muestran que pplx-7b-online y pplx-70b-online de Perplexity superan a GPT-3.5 y Llama2-70b en los tres criterios individuales y en el criterio holístico. Según la empresa, los evaluadores humanos los prefieren por su precisión y actualización.
Los modelos de perplejidad ya están disponibles para todos a través de la API
Perplexity también anuncia la transición de su API pplx de beta a versión general, poniendo por primera vez a disposición de todos los modelos pplx-7b-online y pplx-70b-online.
La empresa también está introduciendo una estructura de precios de pago por uso, en la que los usuarios Pro de Perplexity.ai recibirán un crédito API pplx mensual de cinco dólares estadounidenses. Por lo demás, los costes de la API se basan en el uso.
Puede probar los modelos gratuitamente en Perplexity Labs. Los usuarios comerciales deben ponerse en contacto directamente con Perplexity por correo electrónico. Para más información sobre la API, incluida la documentación y las preguntas más frecuentes, pulse aquí..
