2023-10-11 11:50:33
¿Cuáles son los límites creativos de los actuales sistemas de IA y podemos superarlos los humanos? ¿Y dónde queda el profeta griego Tiresias? Un artículo de Joël Doat.
«Die Zukunft wird […] zum modellierten Raum der Gegenwart».
(«El futuro se convierte en el espacio modelado del presente»).Barbara Eder, Sehen wie Teiresias
Con esta frase, Barbara Eder retoma un tema central del debate en torno a los algoritmos y los datos en la inteligencia artificial en su ensayo «Sehen wie Teiresias» («Ver como Teriesias»), publicado recientemente. ¿Pueden las máquinas predecir el futuro o se limitan a crear ficciones probabilísticas?
Los titulares distópicos prometen la desaparición de la creatividad cuando una inteligencia artificial tan moderna pueda hacerse cargo de tareas cada vez más complejas. Pero con una mirada más profunda en las fuentes utilizadas por Eder, no sólo podemos encontrar más allá los límites de la inteligencia artificial, sino que podemos derivar algunas oportunidades, que el ser humano individual todavía puede utilizar para sí mismo. Porque, al fin y al cabo, la máquina no deja de ser una imagen de nosotros mismos: comprender y trascender nuestros propios límites siempre posibilitó nuevas formas de creatividad. Éstas son las oportunidades que la máquina aún no conoce.
Al principio, Eder reseña el ensayo «Tiresias, o nuestro conocimiento de los acontecimientos futuros» de Alfred Schütz, fundador de la sociología fenomenológica. Aunque esto se tratará con más detalle en la próxima sección, a continuación repasaremos también los paradigmas «clásicos» del aprendizaje automático contemporáneo: supervisado, no supervisado y reforzado.
El pasado está en el futuro
Pero, ¿qué ocurriría si partiéramos del supuesto de que un sistema de este tipo es capaz de representar todos los productos creativos posibles, incluido el que aún no existe? Entonces, nos encontramos en la posición de Schütz de interpretar de nuevo la antigua saga griega sobre Tiresias – un hombre que vio a Atenea desnuda y se quedó ciego. Como compensación por su desgracia, se le concedió el don de experimentar el futuro. Luego, como vidente ciego, se ve condenado a percibir el futuro sin su propio presente.
Schütz utiliza esta figura mítica para explorar el modo en que el conocimiento humano del futuro está determinado por las experiencias pasadas. En esta analogía, su posición puramente fenomenológica de nuestra experiencia cotidiana pone de relieve las paradojas que encontramos cuando suponemos que nuestras predicciones del futuro son correctas.
El concepto más importante del ensayo de Schütz se denomina «retrospección anticipada». Un fenómeno que deduce de la historia al comparar nuestra percepción del mundo con lo que Tiresias podría haber visto. Como no podemos ver el futuro, cualquier previsión o predicción futura no es más que una retrospectiva que transponemos al marco del futuro. Schütz también lo describe como la imposibilidad de describir la pertenencia categórica de un acontecimiento antes de haberlo experimentado.
«Una vez materializado, el estado de cosas provocado por nuestras acciones tendrá necesariamente aspectos muy distintos de los proyectados. En este caso, la previsión no se distingue de la retrospectiva por la dimensión temporal en la que situamos el acontecimiento.»
Alfred Schütz, Tiresias, o nuestro conocimiento de los acontecimientos futuros
Nuestra predicción sobre el futuro sólo existe en correspondencia con lo que ya sabemos del presente y del pasado. Más concretamente, lo que imaginamos del futuro depende siempre de la comprensión de la información existente que hemos procesado. Por tanto, eso limita nuestras expectativas de futuro a una mera proyección de experiencias.
Como implicación a la pregunta original, la IA que sólo está entrenada en términos de información pasada (o información actual en el caso del aprendizaje automático recurrente) sólo proyecta esta base de conocimiento en cualquier cosa potencialmente creada con ella.
En consecuencia, cualquier creación carecerá de novedad al estar limitada a este espacio proyectado. Esto define el espacio conceptual donde podemos recuperar la novedad. Porque, como dijo Karl Popper,
«Podemos convertirnos en artífices de nuestro destino cuando hemos dejado de erigirnos en sus profetas».
Karl Popper
Entonces, ¿dónde están estos límites formales?
En los métodos supervisados y no supervisados de aprendizaje automático, en realidad se da un espacio de probabilidades claramente definido en un sentido matemático. Construimos esos modelos a partir de información ya existente (por ejemplo, una base de datos) y de la definición de variables con las que se diferencia la información. Después, lo entrenamos con algo de estadística a la antigua usanza para obtener «estadística con esteroides», como la llamó Meredith Broussard.
Pero como aquí sólo utilizamos matemáticas, todas las posibles afirmaciones que este modelo puede hacer sobre la información dada ya están incorporadas en el sistema. En consecuencia, las posibles salidas están muy rodeadas de límites estáticos de lo que el modelo es capaz de decir. Por supuesto, la diferencia que obtenemos es la probabilidad variable de que se produzca una salida dada la entrada.
Así que nos quedan dos límites formales:
- La información y las variables definen un espacio estático de enunciados posibles.
- La información con la que se entrenó el modelo permanece en el pasado y no puede reaccionar ante información nueva.
Ambos límites demuestran de nuevo el dilema que tuvimos con Tiresias. El uso de un modelo estático y de información preexistente no es más que una retrospectiva anticipada basada en el conocimiento y la experiencia pasados, respectivamente. La expresión creativa resultante de esta IA sigue siendo una proyección del pasado, incapaz de formar innovación. Por lo tanto, salir de este espacio significa salir de la situación de los datos y de la lógica de procesamiento.
Con el aprendizaje por refuerzo, podemos debilitar la segunda limitación. Este método puede reaccionar ante la situación actual actualizando algunas variables en función de la nueva información. Más concretamente, los modelos pueden realizar cierta acción, percibir el resultado y adaptar la acción para la siguiente situación similar en consecuencia. Las probabilidades del modelo no permanecen estáticas y ganan flexibilidad en cuanto a su resultado.
También en este caso, la estructura del modelo no cambia y, por tanto, el espacio de enunciados posibles sigue un patrón determinista. Aunque la determinación de la producción futura sigue siendo «retrospectiva anticipada», cabe preguntarse si esto es suficiente para crear una expresión creativa sin precedentes. Con el aumento de la complejidad de estos modelos, quizá en algún momento sea posible crear continuamente innovación con suficientes «momentos futuros presentes».
Para investigar más a fondo esta idea, pasamos a la siguiente sección, en la que se exploran algunas ideas de Elena Esposito, quien afirma que nuestras predicciones actuales del «futuro presente» no son más que ficción. Lo único que podemos conseguir es la idea de un «futuro presente».
La ficción de las probabilidades
En su libro de ensayos «La ficción de las realidades probables», Elena Esposito esboza los paralelismos entre la creación de las primeras novelas, por un lado, y la teoría de la probabilidad, por otro. Ambas ocurrieron en los años 17a y, según ella, no es una coincidencia. Fue el siglo de los «mundos posibles».
De forma similar a nuestra discusión anterior, ella parte de la apertura de la realidad. Es decir, un agente humano puede decidir por sí mismo y provocar acontecimientos sin precedentes; el espacio de los acontecimientos no está cerrado por una teoría o un modelo elegidos de antemano. La estadística, sin embargo, exige cerrar este espacio debido a la definición de variables aplicadas sobre información finita y pasada. Incluso cuando un modelo estadístico se aproxima lo suficiente como para predecir el comportamiento humano actual, los seres humanos toman conciencia de ello y empiezan a adaptarse. En otras palabras, en cada decisión somos capaces de tener en cuenta las inseguridades, las probabilidades calculadas y los conocimientos estadísticos en los que otras personas basan sus decisiones. Esto inicia un proceso recursivo de inclusión de la intención de otra persona en nuestra propia intención.
Así pues, la teoría de la probabilidad no es sólo una herramienta de observación, sino una herramienta de razón práctica. Debido a esta complejidad explosiva de la predicción del futuro, resulta imposible captar la verdad o la realidad de un futuro presente: sigue siendo mera ficción y, en el mejor de los casos, una herramienta para observar al observador. Esposito lo resume maravillosamente en
«La realidad es improbable, y ése es el problema».
Elena Esposito, La ficción de las realidades probables
¿Dónde nos deja esto? La predicción de un futuro presente de ese modo no es más que ficción. No obstante, como herramienta de razonamiento práctico, nos brinda la oportunidad de investigar los «futuros presentes». Nos da una base objetiva para discutir lo que intentamos predecir y cómo lo hacemos. Aunque esto no tiene por qué coincidir con el futuro, seguro que nos ayuda a planificarlo.
Suponer ahora que los modelos de aprendizaje automático pueden predecir todas las expresiones creativas posibles en el futuro, implica que ya no tenemos nada que aprender de nuestra experiencia. Todos los aspectos potenciales están ya cubiertos por los patrones de procesamiento de la IA. Gracias a la estadística no sólo hemos reducido nuestras inseguridades sobre el futuro, sino que también le hemos robado al futuro su nueva información.
Pero esto sólo nos dará productos que han sido prensados a través de la forma del modelo – de forma similar a una fundición para la producción en masa. La expresión creativa reducida a un espacio probabilístico se convertirá tarde o temprano en prescriptiva en lugar de predeterminada. Por lo tanto, abrir el espacio de los acontecimientos posibles también abre de nuevo la posibilidad de una expresión creativa nueva y auténtica.
¿Una oportunidad para la creatividad humana?
Desde las nuevas formas de inteligencia artificial, como ChatGPT o Dall-E, muchas personas que ejercen profesiones creativas temen por su futuro. Entre los ensayos autoescritos y las imágenes fotorrealistas, no hay quien impida que las tareas correspondientes en el ámbito profesional sean sustituidas por la máquina. Entre el abaratamiento de los costes y la casi eliminación del tiempo entre la idea y el producto, las habilidades de los escritores y artistas reales son cada vez más irrelevantes. Por lo tanto, la pregunta para muchos es si la creatividad morirá frente a la inteligencia artificial moderna. Sin embargo, dada la perspectiva anteriormente discutida, las salidas de este predicamento se abren a través de posibles salidas de sus espacios de probabilidad.
Todo sistema formal se basa en presuposiciones únicas, lo que predetermina la lógica de procesamiento de cualquier información entrante. Incluso si se puede generar nueva información a partir de nuevos sucesos, ésta debe procesarse de la misma manera y, por tanto, sólo puede moverse dentro del espacio de un posible enunciado que el sistema es capaz de plantear. En el caso del aprendizaje automático, éste se basa en modelos estadísticos que configuran los patrones a los que pueden atenerse los enunciados. Aunque el punto de partida del entrenamiento de un modelo puede ser casi aleatorio, el curso de los análisis depende siempre de estos patrones. Estos patrones predeterminados crean entonces un molde para los productos de cada sistema de este tipo.
Después de todo, ¿no es este patrón como materialización de los principios subyacentes lo que siempre permite la producción en masa con resultados homogéneos? Aunque para poder entender estos presupuestos se requiere una mayor comprensión de la lógica matemática y formal, pueden proporcionar una visión de lo que la máquina en cuestión no es capaz de hacer. Nuestra interpretación de los datos puede superar la interpretación predeterminada de las máquinas, ya que somos nosotros quienes aplicamos las reglas de interpretación. El proceso creativo, por tanto, puede superar las capacidades de la máquina cuando integra el cuestionamiento de las realidades técnicas y encuentra una interpretación novedosa de los datos. En otras palabras, para romper las reglas, debemos entenderlas. ¿Quizá el camino del artista del futuro pase por la ingeniería?
