La IA en la salud: una promesa con riesgos
La Organización Mundial de la Salud (OMS) reconoce el impacto positivo que la inteligencia artificial (IA) puede tener en los resultados de salud. Sin embargo, advierte sobre los riesgos y la necesidad de establecer medidas de seguridad y eficacia en estos sistemas, según sus nuevas orientaciones.
La privacidad y seguridad en riesgo
La OMS alerta que el uso de datos sanitarios en los sistemas de IA puede exponer información personal sensible, por lo que es necesario contar con marcos jurídicos sólidos que protejan la privacidad, seguridad y la integridad.
Consideraciones normativas en la IA para la salud
La OMS enumera las principales consideraciones normativas en la IA para la salud, abogando por poner sistemas adecuados a disposición de quienes los necesiten, además de fomentar el diálogo entre las partes interesadas.
El potencial de la IA en la mejora de la salud
La IA tiene el potencial de mejorar los resultados sanitarios en diversas áreas, como el tratamiento del cáncer o la detección de la tuberculosis, así como reforzar los ensayos clínicos y mejorar el diagnóstico médico y el autocuidado.
Riesgos y regulación en la IA en salud
La rápida implementación de tecnologías de IA, incluidos los grandes modelos lingüísticos, plantea retos en cuanto a la comprensión de su funcionamiento y los beneficios y perjuicios que puede tener. Por ello, es necesario regular de forma responsable el uso de la IA en la salud.
Seis áreas clave para regular la IA en salud
La OMS propone seis áreas para la regulación de la IA en salud:
1. Fomentar la confianza
Es importante transparentar y documentar todo el ciclo de vida del producto, así como hacer un seguimiento de los procesos de desarrollo para generar confianza en los usuarios.
2. Gestión de riesgos exhaustiva
Las cuestiones relacionadas con el «uso previsto», el «aprendizaje continuo», las intervenciones humanas y la ciberseguridad deben ser abordadas de forma rigurosa para minimizar los riesgos.
3. Validación externa de los datos y claridad en su uso
La validación externa de los datos y la claridad en el uso previsto de la IA son fundamentales para garantizar la seguridad y facilitar la regulación, así como evitar la amplificación de sesgos y errores.
4. Cumplimiento de normativas y protección de datos
Es necesario comprender el alcance de las normativas existentes, como el RGPD en Europa y la HIPAA en Estados Unidos, para asegurar la privacidad y la protección de datos en el uso de la IA en salud.
5. Colaboración entre los actores involucrados
La colaboración entre los organismos reguladores, pacientes, profesionales sanitarios, representantes de la industria y socios gubernamentales es clave para garantizar el cumplimiento de la normativa en todo el ciclo de vida de los productos y servicios de IA en salud.
6. Mitigación de sesgos y representatividad de los datos
Es importante utilizar normas que garanticen la inclusión de atributos como el sexo, la raza y la etnia en los datos de entrenamiento de los modelos de IA, para evitar sesgos y mejorar la representatividad de la población.
En resumen, la OMS destaca la importancia de regular de forma responsable el uso de la IA en la salud, considerando los riesgos y aprovechando su potencial para mejorar los resultados sanitarios. Las seis áreas propuestas brindan una guía para los gobiernos y autoridades reguladoras en la elaboración de orientaciones sobre la IA a nivel nacional o regional.
