La IA en sanitat, més enllà de Matrix: "Em preocupa més que els professionals deixem de qüestionar-la"
Els experts adverteixen dels riscos de les recomanacions clíniques errònies, els biaixos i l'excés de confiança, mentre les comunitats autònomes desenvolupen mecanismes per avaluar i supervisar aquests sistemes
I a més: Els estudiants de Medicina aterren al curs de la IA: "La Intel·ligència Artificial podria descontrolar-se"
A finals dels 90, les germanes Wachowski van imaginar a Matrix un món en què les màquines havien aconseguit escapar del control humà i rebel·lar-se. Més de dues dècades després de la seva estrena, aquest escenari continua pertanyent a la ciència-ficció i l'avenç de la Intel·ligència Artificial en la sanitat ofereix avantatges evidents: permet als professionals augmentar la capacitat del propi sistema, millorar-ne la precisió i obtenir més temps per dedicar-lo a tasques amb un "major valor clínic i humà". Tanmateix, també planteja preocupacions: fins a quin punt aquesta tecnologia pot escapar del control humà i quins riscos planteja per a l'assistència sanitària?
Que una Intel·ligència Artificial escapi del control humà no vol dir que adquireixi consciència o es rebel·li. Segons explica Julio Mayol, director científic de l'Institut d'Investigació Sanitària de l'Hospital Clínic San Carlos i catedràtic de Cirurgia de la Universitat Complutense de Madrid, actualment existeixen alguns agents que ja compten amb un cert grau d'autonomia i poden actuar sobre programes de dades o dispositius sense que siguem capaços de supervisar-los, corregir-los o "aturar-los a temps". "També podem perdre el control quan acceptem les seves respostes sense qüestionar-les", ha advertit a Redacción Médica.
Quin és el major risc de la IA en sanitat?
El major risc actualment dins de la sanitat està en les recomanacions clíniques "incorrectes però convincents". No obstant això, no és l'únic. Mayol ha detallat altres aspectes importants que cal supervisar, com els biaixos, la pèrdua de privacitat, els ciberatacs i l'"excés de confiança" dels propis professionals. També posa especial èmfasi en un punt potser menys visible, però que constitueix un altre dels riscos per al sector: utilitzar la IA per augmentar la productivitat, com fer més proves, consultes o intervencions, però sense millorar els resultats de salut d'aquestes activitats.
Per evitar els riscos que podria comportar la IA en la sanitat, el control per part de les comunitats autònomes és essencial. Nuria Ruiz, directora general de Salut Digital de la Conselleria de Digitalització de la Comunitat de Madrid, defensa que la clau no és "córrer" per implantar nous models, sinó fer-ho amb "governança i seguretat". "Tenim el circuit definit", reconeix a Redacción Médica.
Com controlar la IA dins de la sanitat?
Els sistemes que s'incorporen al Servei Madrileny de Salut (Sermas) han de superar un procés d'avaluació que analitza la seva utilitat, seguretat i compliment normatiu. A més, la seva implantació està sotmesa a auditories de seguiment. Actualment, aquestes eines serveixen de suport als professionals sanitaris i són ells qui supervisen els processos i assumeixen la responsabilitat de validar-ne els resultats.
Per tant, Ruiz considera que "no cal tenir por" dels avenços de la IA dins de la sanitat. Amb responsabilitat, prudència, seguretat i complint la normativa existent en aquests moments, es minimitzen els possibles riscos. "Tots els models tenen un seguiment molt exhaustiu i cap substitueix cap professional sanitari", ha sentenciat.
"La IA no substituirà cap professional sanitari"
A la Comunitat Valenciana, l'estratègia també passa per utilitzar la Intel·ligència Artificial com a suport als professionals, sense substituir el criteri clínic ni deshumanitzar l'assistència. Entre les seves aplicacions hi ha la lectura de radiografies i, pròximament, està prevista la posada en marxa d'una iniciativa per gestionar cites d'Atenció Primària: el projecte Tagia, un assistent virtual basat en la IA conversacional per millorar la gestió de la demanda a l'AP.
"El seu objectiu és que el ciutadà pugui contactar amb més facilitat amb el seu centre de salut, identificar-se de manera segura, explicar el motiu de la seva trucada i gestionar una cita d'acord amb els circuits establerts per la Conselleria", ha explicat Bernardo Valdivieso, secretari autonòmic de Planificació, Informació i Transformació Digital a Redacción Médica, qui aclareix que automatitzar no significa "tancar portes", sinó afegir un "nou canal d'accés i utilitzar millor els recursos disponibles".
Per evitar qualsevol tipus de risc en aquest tipus de projectes, la Conselleria va crear l'Oficina Autonòmica per a l'Aplicació de la IA a la Salut. La seva funció és promoure una incorporació "ordenada i responsable", avaluar l'interès, la viabilitat i la seguretat de les solucions, i fer el seguiment del seu impacte un cop desplegades.
Pot la IA en sanitat escapar del control humà?
Perquè els sistemes d'intel·ligència artificial escapin del control humà, Mayol creu que haurien de ser capaços de perseguir objectius, planificar, utilitzar eines, recursos i superar controls. No obstant això, esmenta un altre factor decisiu: els permisos que concedim.
En definitiva, que una IA prengui per si sola el control d'un hospital és, per ara, "especulatiu". Tanmateix, Mayol conclou amb una important reflexió: "em preocupa més que els professionals sanitaris deixem de qüestionar-la".
