El cofundador de OpenAI, Greg Brockman, quiere una regulaci贸n de la IA fronteriza que no frene el c贸digo abierto

A帽adir a tus IAs favoritasQuitar de tus favoritasQuitar de favoritos 0
Puntuaci贸n0

2023-11-12 15:05:47

El cofundador de OpenAI, Greg Brockman, habl贸 con el presidente franc茅s Emmanuel Macron sobre las oportunidades y los riesgos de la inteligencia artificial. Abord贸 tres puntos principales: regulaci贸n, despliegue y predicciones.

Brockman destac贸 el potencial de modelos de IA como el GPT-4 para revolucionar diversos campos como la medicina, el derecho y la agricultura. Cit贸 su experiencia personal y estudios recientes que demuestran que la IA puede mejorar la calidad del trabajo y reducir costes.

Al mismo tiempo, subray贸 la importancia de la seguridad y la regulaci贸n en el desarrollo de la IA, compar谩ndola con la criptograf铆a. En este caso tambi茅n existe el escenario del doble uso, es decir, la posibilidad de utilizar la tecnolog铆a tanto para fines buenos como malos.

Por ejemplo, una IA como GPT-4 puede responder preguntas o traducir idiomas. Pero tambi茅n podr铆a utilizarse para cosas como inventar noticias falsas o crear im谩genes falsas.

Brockman sugiri贸 que los modelos de IA m谩s capaces y avanzados, que 茅l denomina modelos de IA de frontera, deber铆an estar sujetos a una supervisi贸n especial. Sin embargo, esto no deber铆a hacerse a expensas de otros modelos, especialmente los de la comunidad de c贸digo abierto.

A veces se acusa a OpenAI y a otras grandes empresas de IA de 芦captura normativa禄, es decir, de utilizar la regulaci贸n pol铆tica para crear obst谩culos insuperables para los desarrolladores m谩s peque帽os y de c贸digo abierto con el fin de proteger su propio modelo de negocio. Brockman aborda indirectamente estas acusaciones aqu铆.

El despliegue iterativo es la mejor medida de seguridad

Seg煤n Brockman, la decisi贸n de seguridad m谩s importante de OpenAI es el enfoque de desarrollo iterativo que utiliza desde GPT-2.

Este enfoque implica la publicaci贸n gradual de mejores versiones de la tecnolog铆a de IA, ya sea directamente mediante la publicaci贸n de versiones modelo o a trav茅s de la API o de una interfaz como ChatGPT, la recopilaci贸n de comentarios sobre la seguridad y la utilidad, y la participaci贸n del mundo en el proceso de desarrollo.

Esta es la 煤nica forma de que se entiendan el potencial y los beneficios, cree Brockman. 芦As铆 que he aceptado que los titulares de las noticias hablen del miedo, pero s贸lo cuando la gente utilice la tecnolog铆a entender谩 realmente por qu茅 la queremos禄.

Como ejemplo positivo, Brockman cita el enfoque iterativo de OpenAI que condujo al lanzamiento de ChatGPT, que desencaden贸 una conversaci贸n mundial sobre la IA y la seguridad de la IA. En este contexto, Brockman subraya la importancia de la aportaci贸n democr谩tica en el proceso de desarrollo.

Predecir las capacidades de la IA

Brockman reconoci贸 que la historia de la IA est谩 plagada de predicciones err贸neas de expertos. La propia OpenAI ha cambiado de rumbo con cada modelo de GPT, y espera que GPT-5 difiera de los modelos anteriores en aspectos que a煤n no pueden predecirse.

Se necesita m谩s inversi贸n en ciencia, incluyendo predicciones cient铆ficas, evaluaciones de seguridad y rendimiento rigurosamente definidas y mediciones objetivas, para guiar el desarrollo, despliegue y regulaci贸n de los modelos de IA de vanguardia en el futuro.

Brockman destaca especialmente la predicci贸n de OpenAI sobre las capacidades clave de GPT-4 antes de que el modelo estuviera completamente entrenado. 芦Cada vez aprendemos m谩s a ver a la vuelta de la esquina. Invertimos mucho en construir una pila de aprendizaje profundo que se escalara de forma predecible.禄

Pero lo m谩s importante, dice, es hablar y trabajar con muchas partes interesadas del gobierno, la sociedad civil, la industria y el mundo acad茅mico. 芦El mundo sigue siendo m谩s inteligente que cualquiera de nosotros individualmente禄.

Deja una opini贸n

Deje una respuesta

馃 AI MAFIA
Logo