2023-12-01 20:00:42
El proyecto «Q*» de OpenAI fue tachado rápidamente de proyecto AGI secreto. Ahora, Sam Altman, CEO de OpenAI, se pronuncia al respecto.
Altman confirma indirectamente Q sin dar detalles sobre el proyecto. A la pregunta de Alex Heath de qué trataba Q*, Altman respondió que se trataba de una «desafortunada filtración» sobre la que no quería hacer comentarios.
Altman no habla abiertamente del proyecto, pero si Q* era una historia inventada, podría haberlo sacado de dudas.
Pero se complace en reiterar declaraciones anteriores de OpenAI: la empresa espera que continúe el rápido progreso de la tecnología de IA, y OpenAI trabaja para que sea segura y útil.
«Sin hacer comentarios sobre ninguna cosa o proyecto específico o lo que sea, creemos que el progreso es investigación. Siempre puedes toparte con un muro, pero esperamos que el progreso siga siendo significativo. Y queremos comprometernos con el mundo al respecto y averiguar cómo hacer que esto sea lo mejor posible», dice Altman.
Teorías Q
Según un informe de Reuters, el supuesto avance en IA de OpenAI, conocido como Q*, habría suscitado temores internos sobre una posible amenaza para la humanidad. También se rumorea que influyó en el despido de Altman, que duró cuatro días y medio, supuestamente por motivos de seguridad.
La naturaleza exacta de Q* no está clara. Según Reuters, Q* puede resolver algunos problemas matemáticos sencillos. Los expertos especulan con que podría ser una combinación de Large Language Models (LLM) y planificación.
Q* podría utilizar métodos no lineales como Tree-of-Thoughts, Monte-Carlo Tree Search (MCTS), Process-Supervised Reward Models (PRMs) y un algoritmo de aprendizaje como Q-Learning.
El cómputo del tiempo de prueba, un concepto que se refiere al tiempo que tarda un sistema de IA en encontrar una respuesta, también es probable que desempeñe un papel importante en el rendimiento de Q*.
Incluso sin traer la AGI al mundo, Q* podría ser un componente básico de la próxima generación de sistemas de IA, más fiables y capaces que los sistemas actuales como ChatGPT.
