La Era de los Agentes de IA: ¿Un Futuro Autónomo?

Añadir a tus IAs favoritasQuitar de tus favoritasQuitar de favoritos 0
Puntuación0

 Descubre cómo OpenAI está desarrollando los ‘agentes’, modelos de inteligencia artificial que prometen revolucionar la forma en que interactuamos con la tecnología. Conoce sus características, desafíos y el futuro de la inteligencia general artificial.

La empresa OpenAI tiene la mirada puesta en el lanzamiento de los llamados ‘agentes’ para el próximo año. Estos avanzados modelos de inteligencia artificial están diseñados para operar de manera independiente y realizar una variedad de tareas sin necesidad de intervención humana. Es probable que pronto estén disponibles en plataformas como ChatGPT, llevando la experiencia del usuario a un nuevo nivel.

Durante el evento inaugural de OpenAI DevDay, celebrado en San Francisco, el CEO Sam Altman anunció que “2025 será el año en que los agentes estarán en funcionamiento”. Se presentó un ejemplo inicial de las capacidades que podrían tener estos agentes, mostrando cómo un asistente de voz pudo realizar una llamada y ordenar fresas de manera autónoma. Este avance suscita entusiasmo por las posibilidades que podría ofrecer la inteligencia artificial en nuestra vida cotidiana.

La empresa ha identificado cinco etapas en el desarrollo de la Inteligencia General Artificial (AGI), y actualmente nos encontramos en la segunda etapa. En esta fase, la inteligencia artificial es capaz de razonar sobre una idea antes de responder. La siguiente etapa, la tercera, es donde los agentes demostrarán su capacidad para razonar y, a su vez, llevar a cabo acciones de forma independiente como parte de su proceso de planificación.

Altman ha enfatizado que los poderosos modelos de la familia o1 son fundamentales para la creación de modelos que puedan funcionar como agentes. Sin embargo, el mayor reto será alinear estas inteligencias artificiales con los valores humanos, asegurando que no actúen de manera «independiente» en contra del bienestar humano.

¿Cuál es el Propósito de los Agentes de IA?

La API en tiempo real de OpenAI ha demostrado su capacidad al realizar la llamada para ordenar fresas durante el Dev Day, aunque con una latencia de respuesta de aproximadamente 2 segundos. Construir agentes útiles y funcionales es un objetivo compartido por todos los laboratorios de inteligencia artificial. Por ejemplo, un agente podría no solo escribir un libro, sino también averiguar cómo autopublicarlo, incluyendo la creación de una cuenta en Amazon para compartirlo en Kindle Direct.

Este desarrollo permitirá que los usuarios deleguen tareas que tradicionalmente llevarían un mes, y en cambio, estas serán realizadas en solo una hora.

Los agentes representan un paso crucial hacia la AGI, ya que se espera que sean capaces de llevar a cabo tareas que consideren necesarias para alcanzar sus objetivos. Altman mencionó en el Dev Day que «si podemos crear un sistema de IA que sea mejor en la investigación de IA que OpenAI, eso sería un gran hito».

Este avance requiere un continuo desarrollo de generaciones anteriores de IA. Según Altman, los modelos o1 serán los responsables de hacer que los agentes sean una realidad tangible. Cuando las personas comiencen a utilizar estos agentes, se producirá un impacto significativo en nuestras interacciones diarias.

Se prevé que los usuarios puedan tener un agente encargado de tareas específicas, mientras que otros podrían ocuparse de diferentes responsabilidades, hasta llegar a un uso masivo de hasta 10 o 100 agentes que podrían manejar variedad de aspectos de la vida diaria. Ya se han observado los primeros destellos de este potencial en el razonamiento y las sugerencias proporcionadas por los modelos o1.

Desafíos y Obstáculos: La Alineación es Clave

En el evento DevDay SF, se han lanzado nuevas capacidades en la plataforma OpenAI. Con cada modelo presentado, OpenAI aplica un riguroso proceso de pruebas de seguridad. Este proceso, que incluye una evaluación basada en criterios predefinidos, ha ocasionado retrasos anteriores y la necesidad de establecer límites para evitar ciertas acciones.

Un ejemplo claro de esto es el modelo GPT-4o. Este modelo tiene la capacidad de generar imágenes, producir música y simular voces, pero todas esas funciones están restringidas por «guardrails». Es evidente que puede realizar estas tareas, ya que ocasionalmente se sobrepasan los límites establecidos.

La ruptura de un guardrail puede conllevar a problemas serios en el caso de los agentes, que podrían tener acceso a cuentas bancarias y la habilidad de realizar tareas en línea, incluso contratar a alguien en plataformas como Fiverr mediante instrucciones de voz.

En el ejemplo mostrado durante el Dev Day, un bot de voz realizó una llamada a un vendedor (interpretado por un investigador), ordenando 400 fresas cubiertas de chocolate, proporcionando una dirección específica y afirmando que pagaría en efectivo. Aunque el asistente declaró su condición de IA, en ocasiones era difícil distinguirlo de un humano.

Kevin Weil, el director de producto de OpenAI, comunicó en una entrevista que el objetivo es permitir interacciones con la IA de la misma manera que se haría con otro ser humano. Se espera que los sistemas de agentes se integren al uso cotidiano el próximo año, facilitando que este objetivo se convierta en realidad.

Weil sugirió que uno de los límites en los sistemas de agentes sería la obligación de declarar constantemente su identidad como IA. Sin embargo, quienes han interactuado con herramientas avanzadas de voz o han visto las capacidades generativas del GPT-4o, saben que estas restricciones no siempre son efectivas.

Personalmente, estoy deseando la llegada de los agentes. La programación es una de mis pasiones, y los agentes prometen acelerar el proceso, asumiendo algunas de las etapas de prueba que tienden a ser tediosas. También me permitirán afrontar la montaña de correos electrónicos no leídos que he acumulado. Si el precio de alcanzar un buzón de entrada vacío es la creación de un sistema como Skynet, ¡bienvenidos sean los Terminators!

Conclusión

Los avances que se están llevando a cabo con los agentes de OpenAI pueden redefinir nuestras interacciones con la tecnología y llevarnos a un futuro donde la Inteligencia Artificial no solo asista, sino que actúe de manera autónoma en diversos contextos de nuestra vida diaria. Sin embargo, el camino hacia una implementación segura y alineada con los valores éticos humanos está lleno de desafíos que deben abordarse cuidadosamente.

Deja una opinión

      Deje una respuesta

      🤖 AI MAFIA
      Logo