Tras probar ChatGPT, los responsables de Boston temen que la directiva de Biden sobre IA limite sus beneficios
2023-11-19 17:13:16
La ciudad estadounidense de Boston lleva varios meses probando ChatGPT en su administración. Los funcionarios han llegado a un veredicto inicial positivo y han advertido contra el exceso de regulación.
Las tecnologías de IA generativa como ChatGPT de OpenAI podrían reformar los procedimientos burocráticos obsoletos y mejorar los procesos gubernamentales y la participación ciudadana, argumentan Santiago Garcés, Director de Información de la ciudad de Boston, y Stephen Goldsmith, Profesor de Política de Desarrollo Urbano de la Harvard Kennedy School.
En un artículo reciente, Garcés y Goldsmith, que afirman haber impulsado ya la innovación tecnológica en cinco ciudades y trabajado con responsables de datos de otros 20 municipios, sostienen que la reciente orden ejecutiva de la administración Biden sobre IA debe aplicarse de forma dinámica y flexible para no obstaculizar los beneficios potenciales de la IA generativa.
La tecnología podría cambiar radicalmente la forma de trabajar de las administraciones, sobre todo reduciendo la burocracia. También podría ayudar al personal a analizar problemas y riesgos y responder con rapidez.
La ciudad estadounidense de Boston lleva probando ChatGPT desde mayo
En mayo, Garcés presentó unas directrices para el uso de la IA generativa en Boston con el fin de garantizar un uso responsable de la tecnología en el gobierno de la ciudad. Las directrices hacen hincapié en la transparencia, la imparcialidad y la responsabilidad en el uso de contenidos generados por IA para evitar que la parcialidad y la desinformación influyan en la toma de decisiones. También incluyen recomendaciones para identificar los contenidos generados por IA, evaluar su credibilidad y alinear su uso con los valores y objetivos de la ciudad.
Una aplicación que ya se está probando, según Garcés y Goldsmith, es una interpretación simplificada de los llamados datos 311. El 311 es una línea de atención al ciudadano que sirve de alternativa al número de emergencias 911 en algunas ciudades y permite a los residentes informar de problemas o hacer preguntas. La tecnología de OpenAI permitió realizar análisis de series temporales por caso y análisis comparativos por distrito, escriben.
«Esto significaba que los funcionarios de la ciudad pasaban menos tiempo navegando por la mecánica de la computación de un análisis, y tenían más tiempo para sumergirse en los patrones de discrepancia en el servicio», dijeron los dos expertos. «Con menos barreras para analizar los datos, nuestros funcionarios municipales pueden formular más hipótesis y cuestionar los supuestos, lo que se traduce en mejores decisiones». Afirman que el experimento demuestra que, con poca formación, incluso quienes no tienen formación en STEM pueden utilizar la IA generativa para apoyar su trabajo.
La IA generativa podría producir cambios «para devolver a los residentes al centro de la toma de decisiones locales»
Por ello, los autores proponen que los trabajadores de primera línea tengan más autoridad para resolver problemas, identificar riesgos y revisar datos. «Esto no es incompatible con la rendición de cuentas; más bien, los supervisores pueden utilizar estas mismas herramientas de IA generativa para identificar patrones o valores atípicos, por ejemplo, si la raza desempeña un papel inadecuado en la toma de decisiones o si la eficacia del programa disminuye (y por qué)».
También señalan el potencial de las herramientas de IA generativa para permitir a los grupos de ciudadanos pedir cuentas al gobierno de nuevas formas.
Sin embargo, este uso generalizado de la IA generativa tendría que ir acompañado de una mejora de las capacidades de análisis de datos en el personal público para comprender si una herramienta está dando los pasos correctos y generando información precisa. También piden el desarrollo de asociaciones tecnológicas con el sector privado para abordar cuestiones de privacidad, seguridad y sesgo algorítmico.
Garcés y Goldsmith creen que la tecnología, si se aplica de forma amplia, correcta y justa, puede provocar los cambios necesarios «para devolver a los residentes al centro de la toma de decisiones local.»
