Un método inspirado en la neurociencia podría ser crucial en la búsqueda de una IA similar al cerebro
2023-08-24 15:00:52
La codificación predictiva es una de las principales teorías neurocientíficas sobre el funcionamiento del cerebro. ¿Puede ser útil para la IA?
Los sistemas actuales de IA se basan en redes neuronales profundas entrenadas por retropropagación. Sin embargo, este método tiene algunas limitaciones, como la ineficacia y la falta de robustez, y es poco probable que funcione como el cerebro. Un enfoque alternativo llamado codificación predictiva, inspirado en las teorías de la neurociencia, es un candidato para superar estas limitaciones.
La codificación predictiva postula que el cerebro tiene un modelo interno del mundo. Las conexiones descendentes transmiten predicciones a los niveles inferiores, mientras que las ascendentes transmiten errores de predicción. Al minimizar estos errores a través de una jerarquía, el cerebro realiza la inferencia y el aprendizaje.
La codificación predictiva como esquema de minimización de la energía libre
Un nuevo artículo de investigadores de varios laboratorios, liderados principalmente por el VERSES AI Research Lab, entre los que se encuentra el reputado neurocientífico Karl Friston, ofrece una panorámica completa de la codificación predictiva, que abarca los fundamentos teóricos, destacados relatos computacionales, diversas aplicaciones a problemas de aprendizaje automático, plausibilidad en neurociencia y consideraciones sobre el hardware.
Consideran que las principales ventajas de la codificación predictiva son la robustez y el potencial para implementaciones altamente paralelas y neuromórficas. También es coherente con los descubrimientos sobre la estructura y función cortical, y como tal es biológicamente plausible. También exploran cómo «la percepción de lo que es la CP ha cambiado a lo largo de los años», siendo su definición «la codificación predictiva es un esquema de maximización de la evidencia (o minimización de la energía libre) para modelos generativos gaussianos jerárquicos», siguiendo el trabajo de Friston sobre la principio de la energía libre.
La codificación predictiva podría convertirse en un poderoso paradigma alternativo en la IA
Aunque la codificación predictiva aún no ha alcanzado la escala de los métodos basados en la retropropagación, los avances recientes resultan muy prometedores para el progreso de la inteligencia artificial inspirada en el cerebro, afirman. La codificación predictiva ha demostrado su eficacia en tareas como el aprendizaje discriminativo, el procesamiento del lenguaje natural, la visión por ordenador, el modelado temporal, el aprendizaje permanente y la robótica, con algunos ejemplos que igualan el rendimiento de la retropropagación en MNIST o CIFAR10.
Sin embargo, aunque existe potencial para la codificación predictiva, el campo aún está «lejos de las aplicaciones a gran escala que podrían requerir una inversión significativa en investigación en CP», afirma el equipo. El principal objetivo de la encuesta, afirman, es animar a los investigadores a basarse en los resultados de investigaciones anteriores y centrarse en los retos de la codificación predictiva.
«Será necesario un esfuerzo comunitario para hacer avanzar la codificación predictiva tanto desde el punto de vista del software como del hardware; en particular, para desarrollar esquemas computacionales que exploten las ventajas que ofrece, como su paralelismo y sus cálculos dispersos, locales y potencialmente eficientes desde el punto de vista energético». Aunque los avances de la investigación en codificación predictiva han sido constantes a lo largo de las últimas décadas, es posible que sólo estemos empezando a darnos cuenta de las ventajas que ofrece a la inteligencia artificial la ingeniería inversa del córtex y otras estructuras biológicas.»
Del artículo.
Con más investigación, sugieren, podría convertirse en un poderoso paradigma alternativo en IA.
