Por Patricia Raquel Mancilla Dávila [1]
El 18 de enero de 2024 la Organización Mundial de la Salud (OMS) presentó el informe sobre “Ética y gobernanza de la Inteligencia Artificial para la salud”, donde reconoce que al implementar la Inteligencia Artificial (IA) en los sistemas de atención para la salud se presentan diversos desafíos, entre ellos los dilemas éticos.
Uno de esos desafíos los enfrenta el personal de salud y está relacionado al conocimiento de cómo y cuándo utilizar esas tecnologías en su práctica cotidiana, ya que pueden implementarse desde que el paciente agenda su cita y queda registrada su consulta, hasta emplearlas en tratamientos específicos. Es por ello, que saber aprovechar al máximo los beneficios que presentan los diferentes sistemas de IA en salud complementará la experiencia clínica del galeno y no lo reemplazará.
Por ejemplo, la IA puede colaborar en el autocuidado del paciente, al monitorear la salud y predecir los riesgos que los signos y síntomas revelen a la aplicación; fortalecer la telemedicina; brindar información médica a través de chatbots.
Por otra parte, el informe señala que, así como existen beneficios también existen riesgos con el uso de las aplicaciones que promueven el bienestar, pues no existe como tal una regulación sobre esas tecnologías portátiles, por ejemplo: los rastreadores de actividad o las bombas de insulina, y las personas pueden emplearlas e interpretarlas sin previa asesoría médica.
Entre las preocupaciones que se generan al emplear la tecnología portátil se encuentran la captura y el monitoreo de datos que los SIA utilizan para predecir o detectar los riesgos de la salud, ya que por un lado permiten la vigilancia voluntaria y constante de la persona y por el otro recaban de manera excesiva datos de un individuo. Por otra parte, la obtención de datos biométricos con fines médicos y no médicos (gobierno, sistema judicial, empresas) pueden generar prácticas de “biovigilancia” sin consentimiento explícito por parte de los usuarios de esas tecnologías, lo que despierta inquietudes jurídicas y éticas. Derivado de lo anterior, será necesario crear mecanismos que protejan los datos recopilados en los dispositivos portátiles de atención a la salud.
Otros de los muchos empleos de los SIA en el ámbito de la salud que se señalan en el informe son el perfeccionamiento de la medicina de precisión; el análisis de grandes bases de datos en el campo de la medicina genómica; una aceleración en el proceso y desarrollo de fármacos y vacunas; una rápida comprensión de las enfermedades actuales y nuevas; el análisis de grandes cantidades de imágenes, pruebas de laboratorio y datos genéticos.
La incorporación de los SIA en los sistemas de salud también abarca el área administrativa, en planeación y logística, en optimizar la cadena de suministros médicos, identificar fraudes, o programar consultas. En este sentido, una limitante que se observa es el sesgo en los datos recopilados. También en el ámbito de la salud pública se puede emplear la IA por ejemplo, en la detección y predicción en el análisis y vigilancia de los brotes de enfermedades, aunque esto también despierta inquietudes éticas en cuanto a discriminación, equidad, privacidad y autonomía o los riesgos de filtración de datos privados y públicos. Además existe la necesidad de evaluar la confianza y veracidad de los SIA en cuanto a su efectividad, precisión y utilidad.
El informe también menciona que los SIA pueden promover o socavar los Derechos Humanos. En relación con la salud señala que las nuevas tecnologías deben emplearse de manera responsable, sin distinción alguna, sin embargo, también pueden deshumanizar la medicina; disminuir la autonomía o violar la privacidad de datos.
Por lo tanto, al no existir como tal una regulación sobre los SIA, es necesario apegarse a la normatividad internacional vigente que resguarda y protege los Derechos Humanos y a las diferentes recomendaciones y principios éticos que han sido elaborando conforme se desarrollan los SIA, entre las que destacan los principios de la IA de la OECD (Organization for Economic Co-operation and Development), el Consejo de Europa o la Organización Económica, Científica y Cultural de las Naciones Unidas (UNESCO) y la OMS, entre otros.
Entre los Derechos se deben de considerar el resguardo y garantía de la dignidad humana, la igualdad, la privacidad, la libertad, la solidaridad, la no discriminación, la rendición de cuentas y el derecho humano a la protección de la salud.
El informe de la OMS, propone una serie de consideraciones bioéticas para el uso de la IA para la salud; entre las propuestas destaca el consentimiento informado para el uso, recopilación y procesamiento de datos de salud; transparencia en cuánto a los riesgos de emplear SIA en la salud; validación analítica y clínica de los SIA, compromiso en el resguardo y privacidad de datos; control de datos médicos y participación en los beneficios de las investigaciones generadas a partir de esos datos, respeto a la propiedad intelectual.
En la lectura del informe se pueden observar distintos principios éticos para guiar, regular y gestionar el uso de la IA para la salud, tales como no hacer daño; beneficencia; minimizar los riesgos y maximizar los beneficios; promover un trato justo; por lo que ninguna persona debe ser objeto de discriminación, manipulación, negligencia, abuso; proteger la privacidad; permitir que las personas controlen con quién comparten su información. Sin embargo, hace énfasis en seis principios éticos: 1) Proteger la autonomía; 2) Promover el bienestar humano, la seguridad humana y el interés público; 3) Garantizar la transparencia, la explicabilidad y la inteligibilidad; 4) Fomentar la responsabilidad y la rendición de cuentas; 5) Garantizar la inclusión y la equidad; 6) Promover una inteligencia artificial sostenible.
A la par de los principios, el documento menciona los desafíos éticos que se pueden presentar, tales como 1) evaluar si se debe utilizar o no la IA; 2) la creación de una brecha digital – se refiere a la desigualdad en el acceso, uso y efecto de los SIA–; 3) recopilación y uso de datos – identificación digital–; 4) rendición de cuentas y responsabilidad en la toma de decisiones con inteligencia artificial; 5) toma de decisiones autónomas; 6) sesgos y discriminación asociados a la IA; 7) riesgos de seguridad y ciberseguridad; 8) comercialización de la IA para la atención a la salud; 9) cambio climático.
El informe destaca que, si bien los SIA son empleados por médicos, también los programadores de estos sistemas deben apegarse a los principios éticos y todos los profesionistas involucrados en la atención a la salud, ya sea en el sector público o privado. Así mismo, los médicos deben dialogar con los programadores para que los diseños de los SIA se adapten a las necesidades reales de los usuarios de los servicios de salud. Por otra parte, los proveedores de las tecnologías deben ser transparentes con el alcance de la IA y comprometerse a garantizar y capacitar en el uso de sus productos, esto genera mayor confianza y aceptación de las nuevas tecnologías. Tampoco hay que olvidar el impacto social que genera el uso de la IA en los sistemas de salud. Además, estos principios éticos pueden ser una herramienta para ayudar a la regulación local de los SIA.
Para concluir, el documento aborda los regímenes de responsabilidad de la inteligencia artificial para la salud en atención clínica, la compensación que se debe otorgar por los errores de los SIA, el papel de las agencias reguladoras y las consideraciones para los países de ingresos medios o bajos, así como un marco para la gobernanza de datos en el sector público y privado. Sugiere también algunos elementos para la creación de políticas y legislación para promover una gobernanta global de la IA.
Por último, invito al lector interesado en este tema, a leer el documento completo en el siguiente enlace: https://iris.who.int/bitstream/handle/10665/341996/9789240029200-eng.pdf?sequence=1
[1] Doctoranda en Bioética Aplicada en la Universidad Anáhuac , Maestra en Bioética por el Centro de Investigación Social Avanzada y Cirujana Dentista egresada de la Facultad de Estudios Superiores Iztacala de la Universidad Nacional Autónoma de México.
Referencias
Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization; 2021. Licence: CC BY-NC-SA 3.0 IGO
