LA ETICA MEDICA EN TIEMPOS DE ALTA TECNOLOGIA

ALGUNOS TEXTOS FUERON TOMADOS DE LA PUBLICACION DE LA ORGANIZACIÓN MUNDIAL DE LA SALUD
“ETICA Y GOBERNANZA DE LA INTELIGENCIA ARTIFICIAL PARA LA SALUD”

La medicina siempre ha avanzado de la mano de la tecnología. Sin embargo, la IA aprende de datos humanos y puede amplificar o reproducir desigualdades.

Sesgo en los datos Los conjuntos de datos utilizados para entrenar modelos de IA están sesgados, ya que muchos excluyen a niñas y mujeres, minorías étnicas, personas mayores, comunidades rurales y grupos desfavorecidos. En general, la IA está sesgada hacia el conjunto de datos mayoritario (las poblaciones para las que hay más datos), por lo que, en sociedades desiguales, puede estar sesgada hacia la mayoría y poner en desventaja a una minoría.

Estos sesgos sistemáticos, al incorporarse en la IA, pueden convertirse en sesgos normativos y exacerbar y corregir (en el algoritmo) las disparidades existentes en la atención médica (195). 
Este sesgo suele estar presente en cualquier modelo inferencial basado en el reconocimiento de patrones. Por lo tanto, las decisiones humanas que componen los datos y dan forma al diseño del algoritmo quedan ahora ocultas tras la promesa de neutralidad y tienen el poder de discriminar injustamente a una escala mucho mayor que la de los individuos sesgados (196).

El sesgo existente y la discriminación establecida en la prestación de servicios de salud, así como en las estructuras y prácticas de la atención médica, se reflejan en los datos con los que se entrenan los modelos de aprendizaje automático y se manifiestan en las recomendaciones realizadas por las tecnologías guiadas por IA. 

Esto implica que las recomendaciones serán irrelevantes o inexactas para las poblaciones excluidas de los datos (Recuadro 7), lo que también es consecuencia de introducir una tecnología de IA entrenada para su uso en un contexto en otro diferente.
Autonomía profesional el riesgo de actuar solo por protocolos y no por juicio clínico. 
La adopción de la IA puede llevar a situaciones en las que la toma de decisiones podría transferirse, o de hecho se transfiere, a las máquinas. 

El principio de autonomía exige que cualquier extensión de la autonomía de las máquinas no menoscabe la autonomía humana. En el contexto de la atención médica, esto significa que los humanos deben mantener el control total de los sistemas de atención médica y las decisiones médicas. 
Los sistemas de IA deben diseñarse de forma demostrable y sistemática para cumplir con los principios y derechos humanos con los que se adhieren; más específicamente, deben diseñarse para ayudar a los humanos, ya sean profesionales médicos o pacientes, a tomar decisiones informadas. 

La supervisión humana puede depender de los riesgos asociados a un sistema de IA, pero siempre debe ser significativa y, por lo tanto, debe incluir una supervisión eficaz y transparente de los valores humanos y las consideraciones morales. 
En la práctica, esto podría incluir decidir si se utiliza un sistema de IA para una decisión sanitaria específica, variar el nivel de discreción y toma de decisiones humanas, y desarrollar tecnologías de IA que puedan clasificar las decisiones cuando sea apropiado (en lugar de una decisión única).

Es por todo esto y mucho más que la IA es y será una herramienta de apoyo y nunca el todo de las decisiones en medicina.