2024-03-04 00:16:57
Aumentando la potencia de la IA en la nube
Groq Inc., conocida por su desarrollo de semiconductores de vanguardia para inteligencia artificial, ha efectuado la compra de Definitive Intelligence Inc., una innovadora en análisis de datos, consolidando así su presencia en el sector. Esta adquisición fue realizada por un monto que no se ha hecho público.
Esta asociación estratégica, anunciada recientemente, fortalece a Groq y su incursión en el mercado con GroqCloud. La plataforma GroqCloud, que ofrece acceso inmediato a los potentes chips de inteligencia artificial de Groq, se verá potenciada gracias a los recursos y conocimientos de Definitive Intelligence.
Las compañías anunciaron la transacción hoy.
Groq: de Google a la innovación autónoma
Groq fue creada en 2016 por Jonathan Ross, un ex ingeniero de Google y mente detrás de los procesadores TPU de la compañía. Con un financiamiento que supera los $360 millones, obtenido principalmente de una ronda de inversión Serie C patrocinada por firmas de renombre como Tiger Global Management y D1 Capital, Groq se posiciona como líder emergente en el ámbito de la IA.
El Motor de Inferencia LPU: rompiendo barreras en velocidad de procesamiento
El famoso Motor de Inferencia LPU de Groq es una joya tecnológica optimizada para ejecutar modelos de lenguaje complejos. Este chip se ha destacado especialmente en tareas de inferencia, alcanzando récords de rapidez en pruebas de referencia al ejecutar el modelo de lenguaje LLM Llama 2 70B de Meta Platform Inc., un logro considerable en el campo de la inteligencia artificial.
El LPU se compone de núcleos llamados TSPs, con amplia memoria incorporada, que se articulan a través de una compleja red en el chip. Dicha red es crucial para entender y mejorar los lapsos de procesamiento de los datos, ya que permite a los sistemas determinar los caminos más eficientes y, en consecuencia, acelerar los tiempos de respuesta. La eficiencia de este diseño permite al LPU ejecutar tareas de inferencia hasta 10 veces más rápidamente que la competencia.
El LPU consta de núcleos denominados TSPs que incluyen aproximadamente 230 megabytes de memoria cada uno.
La adición estratégica de Definitive Intelligence
Con sede en Palo Alto y más de $10 millones en financiamiento, Definitive Intelligence se especializa en análisis avanzado y aplicaciones de IA que responden a lenguaje natural y facilitan la visualización de datos. Su incorporación a Groq no solo complementa la oferta de GroqCloud sino que también permite la expansión de su funcionalidad y alcance.
Sunny Madra, cofundador y CEO de Definitive Intelligence, jugará un papel crucial en el futuro de Groq, pues liderará la división encargada de **impulsar el crecimiento de GroqCloud**. Además, este movimiento empresarial sienta las bases para la creación de Groq Systems, otra nueva división que se concentrará en el despliegue de LPUs para clientes institucionales y agencias gubernamentales.