Comunidad Científicos mantienen que las grandes empresas tecnológicas no deberían dominar la IA en la atención médica.
2023-12-18 15:15:50
La carrera de las grandes tecnológicas por controlar la IA generativa en la sanidad plantea problemas éticos
En un informe publicado en Nature los investigadores manifiestan su inquietud por la posibilidad de que las grandes compañías tecnológicas puedan controlar el desarrollo y la implementación de la IA creadora en el ámbito de la salud.
Abogan por que sean los profesionales de la medicina quienes impulsen el progreso y la aplicación para salvaguardar la privacidad y la seguridad de las personas, no los intereses comerciales.
Las grandes empresas tecnológicas incursionan en la IA en el ámbito de la salud
Gigantes tecnológicos como Google y Microsoft están avanzando rápidamente en el campo de la IA creadora para el ámbito de la salud.
Google acaba de lanzar MedLM, un conjunto especializado de modelos de IA creadora para la salud disponibles para los clientes en Estados Unidos a través de su plataforma Vertex AI. Los modelos se basan en Med-PaLM 2, la segunda versión de los modelos de lenguaje médico especializado a gran escala de Google que pueden responder a nivel de especialista.
Recientemente, Microsoft presentó Medprompt, una nueva estrategia que permite a GPT-4 obtener las mejores puntuaciones en consultas médicas, superando a modelos especializados como Med-PaLM-2. A principios de este año, Microsoft resaltó el potencial de GPT-4 para tareas médicas.
A pesar de estos progresos, los investigadores sostienen que la prisa por adoptar modelos exclusivos de grandes lenguajes (LLM) -como los utilizados por ChatGPT- conlleva el riesgo de ceder el control de la medicina a intereses comerciales oscuros. Apuntan varias posibles amenazas.
A pesar de los avances logrados hasta ahora, los expertos advierten sobre los peligros asociados a la prisa por adoptar modelos de lenguaje de gran envergadura (MLE), como los empleados por ChatGPT, ya que esto podría resultar en la cesión del control de la atención médica a intereses comerciales oscuros. Se plantean diversas amenazas potenciales.
Además, es importante mencionar que los MLE a menudo generan información errónea de manera convincente. Ante cambios en las circunstancias, como la aparición de un nuevo virus, no queda claro cómo se podría actualizar la base de conocimientos del modelo sin llevar a cabo un costoso proceso de reentrenamiento.
La atención médica podría volverse dependiente rápidamente de estos MLE, los cuales son difíciles de evaluar y podrían ser modificados o incluso suspendidos sin previo aviso si se considera que no son rentables. Según los investigadores, esto podría comprometer la calidad de la atención al paciente, así como su privacidad y seguridad.
Por otra parte, el uso de historiales médicos para entrenar el modelo plantea riesgos para la privacidad. El modelo podría reconstruir información delicada y compartirla si se le solicita. Según los investigadores, esto representa un riesgo especial en el caso de datos relacionados con personas que padecen enfermedades o condiciones poco comunes.
Por último, los LLM basados en grandes volúmenes de datos de Internet podrían reforzar los prejuicios relacionados con el género, la raza, la discapacidad y la situación socioeconómica. Aunque externos a la investigación tuvieran acceso a los modelos subyacentes, no está claro cuál es la mejor manera de evaluar la seguridad y precisión de los LLM.
Los LLM de código abierto podrían fomentar una mayor colaboración y transparencia
Los investigadores proponen un enfoque más transparente y global. Recomiendan que las instituciones de salud, los investigadores académicos, los médicos, los pacientes e incluso las empresas tecnológicas de todo el mundo colaboren para desarrollar LLM de código abierto para el ámbito de la salud.
Este consorcio podría crear un modelo inicial de código abierto basado en datos accesibles al público. Posteriormente, los miembros del consorcio podrían compartir conocimientos y mejores prácticas para mejorar el modelo utilizando datos a nivel de paciente que puedan existir en una institución privada específica.
Este enfoque abierto, dirigido por un consorcio, ofrecería varias ventajas en comparación con el desarrollo de LLM propios para la medicina. Ayudaría a garantizar su confiabilidad y solidez, permitiría una evaluación compartida y transparente de los modelos y facilitaría el cumplimiento de los requisitos de privacidad y otros aspectos.
