La inteligencia artificial está transformando el mundo, pero también plantea riesgos significativos. Yoshua Bengio, uno de sus pioneros, advierte sobre la necesidad de precauciones y regulación.
La inteligencia artificial (IA) se encuentra en un punto de entusiasmo global, pero este fervor puede ocultar una serie de riesgos significativos. Yoshua Bengio, conocido como el «padrino de la inteligencia artificial», ha estado a la vanguardia de este campo, investigando redes neuronales y algoritmos de aprendizaje profundo que han permitido desarrollos como ChatGPT de OpenAI. Su trabajo ha sido crucial para los modelos de IA que han comenzado a integrarse en nuestra vida diaria, planteando tanto oportunidades como desafíos.
Control y Poder IA
Bengio enfatiza que «la inteligencia otorga poder,» sugiriendo que quienes controlen esta tecnología no solo tendrán una ventaja tecnológica, sino también un poder considerable, ya sea en el ámbito económico, militar o político. Esto plantea la necesidad de regulaciones estrictas antes de que se desarrollen tecnologías que puedan concentrar el poder de manera peligrosa. Se requiere una intervención cuidadosa para evitar un futuro donde la control de la IA pueda caer en manos inapropiadas.
En 2018, Bengio, junto con Geoffrey Hinton y Yann LeCun, recibió el Premio Turing, considerado el Nobel de la informática, destacando su contribución inigualable al campo de la IA. En 2022, fue el científico informático más citado a nivel mundial y fue incluido en la lista de las 100 personas más influyentes de la revista Time. Sin embargo, a pesar de sus logros, se ha posicionado como una voz de cautela en la industria, especialmente a medida que el interés y la inversión en IA continúan en aumento, llevando a que las acciones de empresas como Nvidia se disparen, con un aumento del 172% en lo que va del año.
Riesgos Potenciales de la IA
En una reciente entrevista, Bengio expuso las posibles amenazas que la IA puede representar si no se maneja adecuadamente. Los modelos de IA podrían terminar en manos equivocadas, facilitando acciones terroristas o la manipulación de democracias. Además, se justifica una preocupación significativa respecto a la autonomía de estas tecnologías. Existe la posibilidad de que los sistemas de IA se desarrollen con objetivos de autoconservación, lo que podría resultar en la pérdida de control sobre ellos.
¿Quién Está Liderando de Manera Responsable?
Al discutir qué empresas tecnológicas están abordando la IA de manera ética, Bengio destacó a Anthropic como una de las más comprometidas en evitar resultados catastróficos. Sin embargo, también señaló que todas las compañías grandes tienen sesgos inherentes debido a la necesidad de mantenerse competitivas en la carrera por la Inteligencia Artificial General (AGI). Esto implica que la seguridad pública a menudo se convierte en un objetivo secundario dentro de esta competición.
Compromiso con la Seguridad
Anthropic ha sido pionera en proponer políticas de seguridad, comprometiéndose a detener sus desarrollos si la IA alcanza capacidades peligrosas. Junto a ellos, Elon Musk ha respaldado iniciativas regulatorias, como el proyecto de ley de regulación de IA SB 1047 en California, buscando una mayor transparencia en los procedimientos de seguridad.
En relación con el aumento significativo de las acciones de IA, como las de Nvidia, Bengio argumentó que el impulso detrás de estas valoraciones es sostenible a largo plazo. Sin embargo, advirtió que si el público no está protegido o si se desencadenan eventos desastrosos, el descenso en el mercado podría ser abrupto y severo. La precaución es esencial y se recomienda evitar errores que puedan acarrear catástrofes futuras.
La Carrera por los Chips de IA
Bengio también se refirió al papel crítico de los chips para IA, destacando su importancia como un elemento estratégico en la infraestructura de la IA. Con el aumento de la demanda de capacidades computacionales, se anticipa que habrá un aumento significativo en la inversión y diversificación en esta área.
La ambición de Salesforce de introducir 1,000 millones de agentes autónomos para 2026 plantea importantes interrogantes. Si bien la autonomía es un objetivo atractivo por su potencial comercial, Bengio expresó su preocupación respecto a la rapidez con la que las empresas están persiguiendo estos desarrollos. Se requieren marcos regulatorios adecuados antes de implementar tecnologías de tal magnitud.
El Veto de la SB 1047 y el Futuro de la Regulación
Finalmente, acerca del veto del gobernador Newsom a la legislación SB 1047, Bengio consideró que la falta de regulación es peligrosa. La posibilidad de desastres, aunque pequeña, requiere preparación. La regulación debe ser parte del proceso de desarrollo de IA, y se debe establecer un marco que comprometa a las empresas a documentar sus acciones de manera responsable.
El desarrollo de la inteligencia artificial sigue siendo un tema de gran relevancia, donde la responsabilidad y la regulación son cruciales para asegurar que sus beneficios no se vean eclipsados por sus posibles peligros.
