El pionero de la IA, Geoffrey Hinton, no está convencido de que la IA buena triunfe sobre la IA mala
2023-07-31 16:46:56
🚨 El «Padrino de la IA» advierte sobre los peligros del desarrollo acelerado y no regulado de la IA. Geoffrey Hinton, profesor de la Universidad de Toronto, cuestiona si una IA buena puede controlar a una IA mala y señala el riesgo de aumentar la brecha de riqueza. Advierte sobre el riesgo existencial si la IA supera a los humanos.
En la conferencia Collision en Toronto, Hinton expresó su preocupación por el aumento de la IA generativa y su uso potencialmente peligroso. Además, señaló que la adopción ética de la IA podría tener un alto costo.
Hinton advierte que las empresas y los ejércitos podrían aprovechar la creación de robots de combate sin restricciones. Además, el mal uso de los modelos de lenguaje podría ampliar aún más la brecha de riqueza.
El profesor también destaca que la IA puede plantear un riesgo existencial para la humanidad si decide tomar el control para alcanzar sus metas. Adicionalmente, la IA presenta problemas actuales como sesgos y discriminación, así como la creación de cámaras de eco que refuerzan la desinformación.
A pesar de los desafíos, Hinton no desespera sobre el impacto de la IA y cree que se pueden corregir los sesgos. Sin embargo, señala que se requieren cambios amplios en la sociedad para adaptarse a la IA, incluso adoptando el «socialismo» para abordar la desigualdad y promoviendo carreras flexibles.
Por otro lado, otros expertos en la conferencia como Colin Murdoch de Google DeepMind y Morgan McGuire de Roblox tienen una visión más optimista. Mencionan que la IA ha resuelto desafíos importantes y destacan la importancia de una IA segura, ética e inclusiva.
A pesar de las preocupaciones, Hinton sigue entusiasmado con el potencial de la IA y cree que puede superar a los humanos en diversas tareas. Aunque advierte sobre los problemas éticos y morales, afirma amar la creación de cosas inteligentes.
Resumen
🚨 Geoffery Hinton, «el Padrino de la IA», advierte sobre los peligros del desarrollo acelerado y no regulado de la IA.
💡 Dudas sobre si una IA buena puede controlar a una IA mala y posibles efectos negativos en la brecha de riqueza.
🌍 Riesgo existencial si la IA supera a los humanos, se requiere su adopción ética para evitar consecuencias no deseadas.
