OpenAI elimina su equipo de seguridad de super-inteligencia Artificial

Añadir a tus IAs favoritasQuitar de tus favoritasQuitar de favoritos 0
Puntuación+1

2024-05-19 11:36:48

OpenAI ha desmantelado su equipo de seguridad de superinteligencia AI, generando un debate sobre los riesgos y prioridades en el desarrollo de la IA. Descubre los detalles y las implicaciones en nuestro análisis.

En una sorprendente movida, OpenAI ha desmantelado su equipo de «Superalineación», el cual tenía como objetivo asegurar la seguridad de los futuros sistemas de IA de alto rendimiento, según informa Bloomberg. Esta decisión ha generado un debate intenso en la comunidad de inteligencia artificial sobre los riesgos y las prioridades en el desarrollo de la IA.

¿Qué ha sucedido?

El equipo de «Superalineación» de OpenAI ha sido disuelto, y su trabajo se integrará en la investigación general de seguridad de la organización. Esta decisión llega después de acusaciones y críticas por parte del ex investigador de seguridad Jan Leike, quien cuestionó la seriedad de OpenAI en cuanto a los riesgos asociados con la IA avanzada.

El CEO de OpenAI, Sam Altman, y el cofundador y presidente Greg Brockman, emitieron una declaración en respuesta a las críticas, enfatizando la incertidumbre en el camino hacia la AGI (Inteligencia Artificial General) y reafirmando el compromiso de la empresa con la seguridad de la IA.

¿Sobreestimó OpenAI el riesgo de la AGI?

Una teoría que ha surgido es que OpenAI pudo haber sobreestimado el riesgo asociado con la AGI, lo que llevó a una exageración en la investigación de seguridad de la super-IA. Esta teoría plantea que la dirección de OpenAI, al reconocer esta tendencia, ha decidido recortar recursos, lo que ha llevado a la disolución del equipo de «Superalineación».

Yann LeCun, investigador jefe de IA de Meta, sostiene que la AGI no es inminente y critica la percepción exagerada del riesgo. Sin embargo, John Schulman, co-creador de ChatGPT y co-fundador de OpenAI, tiene una visión diferente. Schulman sugiere que la AGI podría ser posible en los próximos dos o tres años y aboga por reglas interorganizacionales para su implementación segura.

Implicaciones y críticas hacia OpenAI

La decisión de desmantelar el equipo de seguridad de superinteligencia AI ha generado críticas hacia OpenAI, cuestionando su enfoque en la seguridad y la transparencia. La revelación de cláusulas de silencio para los empleados salientes, que amenazaban con la pérdida de acciones si criticaban a la empresa, ha alimentado la desconfianza en la imagen de OpenAI como una empresa comprometida con el bienestar humano.

Reflexión final

El caso de OpenAI y su desmantelamiento del equipo de seguridad de superinteligencia AI plantea importantes interrogantes sobre la gestión de riesgos en el desarrollo de la IA. ¿Es la AGI un riesgo inminente o se ha exagerado su peligro? ¿Cuál debería ser el papel de las empresas de IA en la promoción de la seguridad y la transparencia? Estas son preguntas cruciales que deben abordarse en el camino hacia un desarrollo de IA ético y responsable.

.

Deja una opinión

Deje una respuesta

🤖 AI MAFIA
Logo