
2023-08-27 03:15:37
Puntos destacados:
🔹 Identificar las mejores prácticas para el desarrollo seguro y responsable de modelos de IA de vanguardia.
🔹 Avanzar en la investigación sobre seguridad en IA y coordinar esfuerzos en áreas clave.
🔹 Facilitar el intercambio de información entre empresas y gobiernos sobre seguridad y riesgos en IA.
Google, Microsoft, OpenAI y Anthropic han anunciado la creación del Foro del Modelo de Vanguardia en IA, con el objetivo de desarrollar y desplegar modelos de IA de manera segura y responsable. Este foro se enfocará en identificar las mejores prácticas, avanzar en la investigación sobre seguridad en IA y facilitar el intercambio de información entre empresas y gobiernos.
El foro trabajará en estrecha colaboración con gobiernos y otras organizaciones, como la Unión Europea, la OCDE y el G7, para desarrollar estándares de seguridad y evaluaciones que mitiguen los riesgos de la IA. Se buscará promover el intercambio de conocimientos y mejores prácticas en seguridad, con el objetivo de mitigar una amplia gama de riesgos potenciales.
Además, se apoyará el ecosistema de seguridad en IA mediante la identificación de las preguntas de investigación más importantes y la coordinación de esfuerzos en áreas como la robustez adversarial, la interpretabilidad mecanística y la detección de comportamientos anómalos. También se establecerán mecanismos seguros para el intercambio de información sobre seguridad y riesgos entre empresas, gobiernos y partes interesadas relevantes.
Kent Walker, Presidente de Asuntos Globales de Google y Alphabet, expresó su entusiasmo por trabajar en conjunto con otras empresas líderes para promover la innovación de IA responsable. Brad Smith, Vicepresidente y Presidente de Microsoft, destacó la responsabilidad de las empresas en garantizar la seguridad y el control humano de la IA. Anna Makanju, Vicepresidenta de Asuntos Globales de OpenAI, enfatizó la importancia de alinear enfoques y prácticas de seguridad entre las compañías de IA. Dario Amodei, CEO de Anthropic, subrayó el papel vital del Foro del Modelo de Vanguardia en coordinar las mejores prácticas y compartir investigaciones sobre seguridad en IA.
Con esta iniciativa, las empresas líderes en AI se unen para promover el desarrollo responsable de modelos de IA de vanguardia y abordar los desafíos para beneficiar a toda la humanidad.