Implicaciones de la utilización de IA en el ámbito sanitario

La inteligencia artificial (IA) está ya revolucionando la medicina al facilitar la detección temprana de las enfermedades, diagnósticos más precisos y un tratamiento totalmente personalizado.

Las IA se basan en el procesamiento de grandes cantidades de información y datos, tanto de los propios pacientes, como aquellos derivados de la investigación médica. A través de ellas, podemos identificar más fácilmente patrones y correlaciones que pueden llevar a un diagnóstico más temprano y preciso. Una ayuda inestimable en la posterior labor de interpretación por el equipo humano que, sin duda, contribuye no sólo a mejorar las tasas de supervivencia y calidad de vida de los pacientes, sino a la sostenibilidad económica del sistema sanitario integrado, al reducir plazos y costos del tratamiento.

En efecto, las IA pueden contribuir a la selección de aquellos tratamientos más efectivos, personalizándolos y adaptándolos a las particulares circunstancias de cada paciente, en función de su perfil genético, hábitos de vida, historial médico, otros factores psicosociales, etc. Además, la capacidad de monitorización y seguimiento del paciente -incluso en tiempo real-, puede ayudar a los médicos a evaluar la eficacia del tratamiento, ajustando la dosis o la duración del mismo.También en situaciones de emergencia que requieran de primeros auxilios, las tecnologías y los avances en robótica, junto con las IA, pueden ayudar al personal sanitario e incluso a los socorristas y profesionales que pudieran intervenir a tomar decisiones informadas, rápidas y precisas ante la necesidad de evaluación de las constantes vitales y condición de un paciente, orientando su intervención a salvaguardar la integridad e incluso la vida de la víctima.

Sin embargo, es importante tener en cuenta que la implementación de las IA en el ámbito sanitario plantea importantes desafíos éticos, de privacidad y responsabilidad. El manejo de datos médicos confidenciales, la toma de decisiones de tratamiento adecuadas, etc. La irrupción de la Inteligencia Artificial no sólo supone nuevos desafíos tecnológicos. Plantea, en realidad, un auténtico cambio de paradigma. Y en BHD somos conscientes de eso y, por ello, queremos ser especialmente cuidadosos, a la hora de diseñar, desarrollar e integrar nuevas herramientas y funcionalidades basadas en IA, siempre de forma responsable y ética.

Las implicaciones que tiene la IA en el proceso de toma de decisiones automatizada y en la gestión de la protección de datos son extremadamente relevantes. Es cierto que la IA puede llevar a otro nivel el proceso de toma de decisiones, incluso hacerlo de forma automatizada, pero también presenta enormes desafíos en términos de sesgo, transparencia, protección de datos y responsabilidad. En BHD trabajamos por abordar estos desafíos de manera proactiva, buscando maximizar los beneficios que nos aporta la integración de tecnologías de IA y minimizar los riesgos inherentes a la misma.

En primer lugar, el llamado “sesgo algorítmico”. Los algoritmos de IA pueden perpetuar e incluso llegar a amplificar los sesgos existentes previamente en los propios datos de entrenamiento. Resulta clave, por tanto, asegurar que los datos utilizados para entrenar algoritmos de IA sean en lo posible lo más imparciales y representativos de la población de estudio en cuestión.

En segundo lugar, la cuestión de la transparencia y la explicabilidad. La mayoría de los algoritmos de IA son para los humanos como “cajas negras”: nos resulta muy difícil comprender cómo la IA llega a una determinada decisión o a ofrecer un determinado resultado. Por tanto, al trabajar con IA’s, resulta necesario desarrollar técnicas que nos permitan no sólo explicar, sino también justificar las decisiones que puedan ser tomadas en base a los resultados que nos ofrezcan los algoritmos; en especial, cuando esas decisiones puedan afectan a los derechos fundamentales de las personas.

En tercer lugar, la cuestión de la protección de datos personales. Los algoritmos de IA suelen requerir de grandes cantidades de datos personales para funcionar correctamente. Por ello, es obligado garantizar que se respetan los derechos de privacidad de las personas, implementando en los procesos, las herramientas y funcionalidades aquellas medidas de seguridad que resulten más adecuadas para salvaguardar esa privacidad, garantizándola tanto desde el diseño (privacy by design) durante todo el ciclo de vida del dato, desde su recogida hasta su cancelación; como por defecto (privacy by default), con una adecuada gestión protegida de los datos.

Por último, y no menos importante, está la cuestión de la transferencia de responsabilidad. Aun mediando la intervención de un algoritmo de IA, en realidad somos los seres humanos los responsables de las decisiones que pudieran ser tomadas en base a una decisión o resultado ofrecido por la IA. Por tanto, es necesario establecer, o adaptar en su caso, los marcos regulatorios y legales precisos (normativas profesionales, Códigos deontológicos, etc.) para garantizar la adopción por los profesionales sanitarios de decisiones no sólo técnicamente adecuadas, sino también éticamente justas.

La próxima tramitación de la propuesta de normativa europea en materia de Inteligencia Artificial ya ha obtenido el visto bueno de los Comités de Mercado Interior y de Libertades Civiles; y ahora, la tramitación continuará con la aprobación del Parlamento y el Consejo europeos y supondrá una reformulación de las pautas contenidas en el texto del reglamento europeo sobre IA previamente existente. Con este paso, la UE avanza en la regulación pionera de estas tecnologías, tratando de garantizar una adecuada transparencia y gestión de riesgo en el desarrollo y uso de las mismas.

José Luis del Río
CCO-DPO Área Legal BHD Consulting