Los laboratorios de IA se comprometen voluntariamente a desarrollar la IA de forma segura y transparente
2023-07-26 11:42:58
Empresas y laboratorios de investigación líderes en IA, como OpenAI, Amazon, Google, Meta y Microsoft, se comprometen voluntariamente a mejorar la seguridad y la fiabilidad de la tecnología y los servicios de IA.
Coordinado por la Casa Blanca, estas acciones pretenden promover una gobernanza significativa y eficaz de la IA en Estados Unidos y en todo el mundo. Como parte de sus compromisos voluntarios, las empresas tienen previsto informar de las vulnerabilidades del sistema, utilizar marcas de agua digitales para los contenidos generados por IA y revelar los fallos tecnológicos que afectan a la imparcialidad y la parcialidad.
Los compromisos voluntarios publicados por la Casa Blanca pretenden mejorar varios aspectos del desarrollo de la IA:
- Seguridad: Las empresas se comprometen a realizar un «red-teaming» interno y externo de los modelos o sistemas para identificar usos indebidos, riesgos sociales y problemas de seguridad nacional.
- Seguridad: Las inversiones en ciberseguridad y las salvaguardas contra amenazas internas protegerán los datos de modelos patentados e inéditos.
- Confianza: Desarrollar y desplegar mecanismos para que los usuarios sepan si los contenidos sonoros o visuales están generados por IA, informar públicamente de las capacidades y limitaciones de los modelos y priorizar la investigación sobre los riesgos sociales que plantean los sistemas de IA.
- Abordar los mayores retos de la sociedad: Las empresas desarrollarán y desplegarán sistemas de IA de vanguardia para ayudar a resolver problemas críticos como la mitigación del cambio climático, la detección precoz del cáncer y la lucha contra las ciberamenazas.
Estas medidas inmediatas pretenden abordar los riesgos potenciales a la espera de que el Congreso apruebe la normativa sobre IA. Los críticos sostienen que la mera promesa de actuar con responsabilidad puede no ser suficiente para que estas empresas rindan cuentas.
