2023-08-23 06:42:56
¡Grandes Novedades! Presentación de SafeCoder: El Aliado en Desarrollo Empresarial
En un emocionante anuncio, se da a conocer SafeCoder, una solución innovadora de asistencia en codificación diseñada específicamente para empresas. Con el propósito de elevar la productividad en el desarrollo de software empresarial, SafeCoder ofrece un programador colaborativo autohospedado y completamente adaptable. Para simplificarlo: ¡es como tener un propio copiloto de GitHub en local! Antes de profundizar, aquí hay una visión de lo esencial: SafeCoder no es solo un modelo, sino una solución completa de extremo a extremo. Construido con un enfoque inquebrantable en seguridad y privacidad, el código nunca sale del entorno VPC durante el entrenamiento o la inferencia. Diseñado para ser autohospedado en la infraestructura del cliente, SafeCoder permite a las empresas poseer su propio y poderoso modelo de lenguaje de código.
¿Por qué Elegir SafeCoder? Si bien las soluciones de asistencia en codificación basadas en modelos de lenguaje están generando un aumento significativo en la productividad, también presentan desafíos. Dependiendo de modelos cerrados para crear asistentes internos plantea cuestiones de cumplimiento y seguridad. SafeCoder resuelve estos problemas permitiendo a las empresas crear sus propios modelos de lenguaje ajustados a su código, sin compartir datos sensibles. Con SafeCoder, se ofrece una solución completa de inferencia en contenedores, impulsada por hardware, para ser implementada directamente en el entorno seguro, sin exponer los datos.
De StarCoder a SafeCoder
En el corazón de SafeCoder está la familia StarCoder de modelos de lenguaje de código, nacidos del proyecto BigCode, en colaboración con ServiceNow y la comunidad de código abierto. Los modelos StarCoder brindan resultados de completado de código líderes en la industria y están diseñados para un rendimiento óptimo en la inferencia. Entrenados en Stack, un conjunto de datos ético y legalmente obtenido, los modelos StarCoder se adaptan a las necesidades empresariales.
En el núcleo de la solución SafeCoder se encuentra la familia StarCoder de LLM de código, creada por el proyecto BigCode, una colaboración entre Hugging Face, ServiceNow y la comunidad de código abierto.
Los modelos StarCoder ofrecen características únicas que se adaptan perfectamente a las soluciones empresariales autoalojadas:
- Resultados de finalización de código de última generación: véanse los puntos de referencia en el documento y la tabla de clasificación de evaluación de código multilingüe.
- Diseñado para el rendimiento de inferencia: un modelo de 15B parámetros con optimizaciones de código, Multi-Query Attention para una huella de memoria reducida, y Flash Attention para escalar a un contexto de 8.192 tokens.
- Entrenado en Stack, un conjunto de datos de código abierto de origen ético que contiene únicamente código con licencia comercial permitida, con un mecanismo de exclusión de desarrolladores desde el principio, perfeccionado mediante una eliminación intensiva de PII y esfuerzos de deduplicación.
Nota: Aunque StarCoder es la inspiración y el modelo que impulsa la versión inicial de SafeCoder, una ventaja importante de construir una solución LLM sobre modelos de código abierto es que puede adaptarse a los últimos y mejores modelos de código abierto disponibles. En el futuro, SafeCoder puede ofrecer otros modelos de código abierto comercialmente permisibles construidos sobre conjuntos de datos transparentes y de origen ético como la base LLM disponible para su ajuste.
Seguridad y Cumplimiento en el Núcleo En SafeCoder, se entiende que el código es una joya intelectual invaluable. Por eso, se garantiza que el código interno nunca estará en manos de terceros, incluida Hugging Face, durante el entrenamiento o la inferencia. El proceso de configuración inicial asegura que los datos se traten con total confidencialidad, y en la fase de implementación, los contenedores seguros se despliegan en la infraestructura para mantener la privacidad.
Cumplimiento Garantizado En un entorno regulatorio en constante evolución, la conformidad es primordial. SafeCoder se adelanta a los desafíos legales al ofrecer soluciones de código ajustadas a las necesidades. Los usuarios pueden verificar la correspondencia de las sugerencias de código con el conjunto de datos de Stack y establecer preferencias de licencias.
¿Cómo Funciona?
SafeCoder es una solución integral que abarca servicio, software y soporte. Desde el entrenamiento de su modelo personalizado hasta su despliegue, se acompaña en cada paso. El proceso implica entrenamiento opcional y personalización para lograr un modelo adaptado a las prácticas y lenguajes.
Implementa SafeCoder El enfoque se basa en la colaboración. En la configuración, se diseña la infraestructura ideal y se despliegan contenedores optimizados para el entorno. Luego, con SafeCoder en marcha, los desarrolladores pueden integrar plugins en IDE populares para obtener sugerencias mientras trabajan.
