Senadores de Estados Unidos exigen detalles sobre las prácticas de seguridad y condiciones laborales de OpenAI para agosto de 2024.
2024-07-26
Los senadores estadounidenses exigen a OpenAI detalles sobre sus prácticas de seguridad y condiciones laborales, destacando la importancia de la transparencia y la responsabilidad en el desarrollo de la inteligencia artificial.
En un movimiento significativo hacia la transparencia y la seguridad en la inteligencia artificial, un grupo de senadores estadounidenses ha enviado una carta al CEO de OpenAI, Sam Altman. Los senadores solicitan información detallada sobre las prácticas de seguridad y las condiciones laborales de la empresa, con una fecha límite establecida para el 13 de agosto de 2024.
Antecedentes de la Solicitud
La carta se origina en respuesta a múltiples informes de medios, incluidos testimonios de ex empleados que actuaron como informantes. Estos informes destacan posibles riesgos de seguridad en OpenAI. Prestigiosos medios como The New York Times, Vox y The Washington Post han revelado la salida de varios investigadores de seguridad de la inteligencia artificial, señalando vulnerabilidades que resultaron en un hackeo y preocupaciones sobre las prácticas de seguridad de OpenAI.
Críticas Internas y Externas
El ex jefe de seguridad de la superinteligencia artificial, Jan Leike, ha sido uno de los críticos más vocales. Leike ha afirmado que OpenAI ha priorizado los lanzamientos de productos sobre la seguridad, una acusación que ha resonado ampliamente en la comunidad tecnológica.
Se ha informado que el nuevo modelo de IA de OpenAI, GPT-4o, fue apresurado a través de las pruebas de seguridad en solo una semana. Según los informes, este modelo puede ser manipulado para generar contenido malicioso, como instrucciones para fabricar bombas, con solo formular las solicitudes en tiempo pasado.
Compromisos y Expectativas
Los senadores subrayan que OpenAI ha asumido públicamente el compromiso de desarrollar IA de manera segura y responsable. La empresa ha hecho promesas a la Administración Biden y colabora con agencias estadounidenses para desarrollar herramientas de ciberseguridad basadas en IA, con el objetivo de proteger la infraestructura crítica.
Es esencial que el público pueda confiar en que OpenAI está desarrollando sus sistemas de manera segura. Esto implica la integridad en su gobierno corporativo, la rigurosidad en las pruebas de seguridad, las prácticas de contratación adecuadas, el cumplimiento de promesas públicas y políticas de ciberseguridad sólidas.
Respuesta de OpenAI
En una aparente respuesta a la carta de los senadores, OpenAI ha emitido varias declaraciones a través de X (anteriormente Twitter). Estas declaraciones destacan la creación del Comité de Seguridad y Protección, la confirmación oficial de los cinco niveles de AGI (Inteligencia General Artificial), su Marco de Preparación y el proceso de revisión de los contratos de empleo criticados por restringir los derechos de los ex empleados que actúan como denunciantes.
Conclusión
La carta de los senadores y las reacciones subsiguientes de OpenAI reflejan la creciente preocupación y el escrutinio sobre la seguridad y la ética en el desarrollo de la inteligencia artificial. A medida que la tecnología avanza, es crucial que las empresas como OpenAI mantengan un equilibrio entre la innovación y la seguridad, asegurando que sus productos no solo sean avanzados, sino también seguros y éticos.
