Líderes políticos se comprometen a colaborar para abordar la seguridad de la inteligencia artificial, Estados Unidos lanza un instituto de seguridad AI.
2023-11-06 07:51:04
Puntos destacados:
🤝 Varios líderes en inteligencia artificial (IA) se reúnen para colaborar en la mitigación de riesgos en el desarrollo de la IA.
🌍 Se anuncia la Declaración de Bletchley, un documento que busca alcanzar un consenso global sobre cómo abordar los riesgos de la IA.
🔬 Se anuncian nuevos desarrollos, como la creación de un instituto de seguridad de IA en Estados Unidos y la próxima reunión en Corea.
Varios líderes en inteligencia artificial (IA) se reunieron en la Cumbre de Seguridad de IA en Bletchley Park, Reino Unido, para discutir la colaboración en la mitigación de riesgos en el desarrollo de la IA. La Ministra de Tecnología del Reino Unido, Michelle Donelan, anunció la Declaración de Bletchley, un documento que tiene como objetivo alcanzar un consenso global sobre cómo abordar los riesgos que plantea la IA ahora y en el futuro a medida que se desarrolla. Además, se anunció que la cumbre se llevará a cabo regularmente, con una próxima reunión programada en Corea y otra en Francia.
El documento publicado hoy es de alto nivel y destaca la importancia de diseñar, desarrollar, implementar y utilizar la IA de manera segura y centrada en el ser humano. También llama la atención sobre los modelos de lenguaje grandes desarrollados por empresas como OpenAI, Meta y Google, y las amenazas específicas que pueden plantear para un uso indebido.
Además, se anunciaron nuevos desarrollos concretos. La Secretaria de Comercio de Estados Unidos, Gina Raimondo, anunció la creación de un instituto de seguridad de IA que estará ubicado dentro del Departamento de Comercio y específicamente bajo el Instituto Nacional de Estándares y Tecnología (NIST) del departamento. El objetivo es que esta organización colabore estrechamente con otros grupos de seguridad de IA establecidos por otros gobiernos, incluido el instituto de seguridad que el Reino Unido también planea establecer.
La cumbre contó con la participación de líderes políticos de las principales economías del mundo, así como representantes de países en desarrollo. Todos ellos hablaron de la importancia de la inclusión y la responsabilidad en el desarrollo de la IA, aunque queda por verse cómo se implementará esto en la práctica. Ian Hogarth, presidente del grupo de trabajo sobre modelos de IA fundacionales del gobierno del Reino Unido, expresó su preocupación por el ritmo acelerado del desarrollo de máquinas poderosas y la necesidad de garantizar la seguridad de la sociedad.
