La Intel·ligència Artificial (IA) pot millorar el diagnòstic, agilitzar les proves mèdiques i ajudar els professionals sanitaris a prendre decisions, però la seva implantació també pot comprometre la seguretat dels pacients, augmentar les desigualtats i debilitar determinades competències clíniques. Així ho adverteixen a Redacción Médica André Knottnerus, representant del Consell Assessor Científic de les Acadèmies Europees (Easac), i Luis Martí-Bonmatí, vicepresident de la Federació Europea d'Acadèmies de Medicina (FEAM). Tots dos consideren que Europa ha de passar de desenvolupar normes sobre aquestes tecnologies a garantir que la seva aplicació produeixi beneficis reals, mesurables i equitatius. "La tecnologia està avançant més ràpid que les condicions necessàries per utilitzar-la de manera eficaç i segura", expliquen.
I és que les seves declaracions arriben després de la publicació de l'informe conjunt AI in European Healthcare: Policy Recommendations for Optimising Added Value and Safe, Ethical, and Inclusive Adoption, elaborat per ambdues entitats. El document, resultat del treball de 22 científics europeus, analitza com avaluar i integrar la IA en els sistemes sanitaris i planteja recomanacions sobre regulació, protecció de dades, seguretat, formació professional i accés equitatiu. Així, Knottnerus i Martí-Bonmatí han copresidit el grup de treball responsable de la seva elaboració.
La precisió dels algoritmes no garanteix millors resultats
Un dels principals problemes que identifiquen és "la diferència entre la precisió tècnica i el benefici real per als pacients". En aquest sentit, aclareixen que un algoritme que obté bons resultats en un entorn de laboratori "no necessàriament ajuda un pacient a rebre un diagnòstic més ràpid i precís, evita proves innecessàries o millora el seu pronòstic i els seus resultats de salut".
"Un algoritme que obté bons resultats en proves de laboratori no necessàriament ajuda un pacient a rebre un diagnòstic més ràpid i precís, evita proves innecessàries o millora el seu pronòstic i els seus resultats de salut".
Els experts assenyalen que les aplicacions amb més evidència de benefici es troben actualment en el diagnòstic per imatge. La IA permet millorar la reconstrucció d'imatges de ressonància magnètica i tomografia computada, aconseguir exploracions més ràpides i de més qualitat i, en el cas de la tomografia, reduir l'exposició a la radiació. També facilita la detecció, mesura i caracterització de lesions i tumors, i pot contribuir a planificar tractaments de radioteràpia més específics.
A més, apunten al desenvolupament d'eines predictives per avaluar riscos i pronòstics en Oncologia, Cardiologia, Obstetrícia i malalties infeccioses, així com a sistemes administratius que redueixen la càrrega de documentació dels professionals.
Tanmateix, adverteixen que bona part dels estudis disponibles mesuren la precisió diagnòstica i no els resultats que realment importen als pacients. "Necessitem saber si aquestes eines milloren la supervivència, la qualitat de vida, el temps fins al diagnòstic o si eviten danys", expliquen. Per això, per tancar aquesta bretxa consideren necessari incrementar la inversió en recerca i també en Atenció Primària i Salut Pública.
El risc de crear "deserts d'IA" a la sanitat europea
Una altra de les seves principals preocupacions és que la incorporació d'aquestes tecnologies ampliï les desigualtats sanitàries existents. Els models entrenats principalment amb dades de determinats grups de població poden oferir pitjors resultats per a d'altres que estan menys representats a les bases de dades, com nens, persones grans, poblacions rurals o minories.
A això s'hi afegeix la diferència de recursos entre països i hospitals. La infraestructura digital, la capacitat d'inversió i la disponibilitat de professionals formats condicionen la possibilitat d'incorporar i avaluar aquestes eines. "Sense una actuació deliberada, la IA podria ampliar les desigualtats sanitàries", adverteixen.
En aquest escenari, alerten de la possible aparició de "deserts d'IA", és a dir, espais en què els pacients més desafavorits reben una atenció de pitjor qualitat perquè no tenen accés a eines adequadament validades.
Per evitar-ho, proposen una major coordinació europea, estàndards comuns d'interoperabilitat i programes de formació accessibles a tots els professionals, no només als qui treballen en grans centres. També defensen que els sistemes s'entrenin i validin amb poblacions diverses i que els seus resultats es publiquin desglossats per edat, sexe, origen ètnic i altres grups rellevants.
El finançament públic, afegeixen, ha de tenir un paper decisiu. Consideren que ha de sostenir infraestructures compartides de validació, facilitar l'accés a dades representatives i donar suport especialment a les regions amb menor capacitat digital. "La inversió pública ha de centrar-se també en el retorn per a la societat, i no únicament en la productivitat comercial", apunten.
"La inversió pública ha de centrar-se també en el retorn per a la societat, i no únicament en la productivitat comercial"
Els biaixos i el deteriorament del rendiment
Tot i que consideren que tots els riscos identificats a l'informe són reals, situen els biaixos i la pèrdua progressiva de rendiment dels algoritmes entre els problemes més urgents i menys visibles.
Un sistema pot funcionar correctament quan es desenvolupa i valida, però perdre fiabilitat amb el temps o en utilitzar-se en un entorn diferent. Els canvis en les poblacions ateses, els protocols mèdics o els equips poden alterar els seus resultats sense que el deteriorament sigui evident.
"Aquests riscos rarament provoquen fallades evidents. En canvi, poden comprometre silenciosament la fiabilitat clínica i la seguretat del pacient", expliquen. Per això, consideren imprescindible vigilar el comportament dels sistemes durant tota la seva vida útil.
La ciberseguretat representa una altra amenaça especialment important. Els experts recorden que el sector sanitari és un dels objectius dels ciberatacs pel valor de les seves dades i adverteixen que els sistemes basats en IA incorporen nous punts vulnerables, com la possibilitat de manipular imatges mèdiques o les dades utilitzades per entrenar els models. "Sincerament, encara no disposem de bones dades sobre la freqüència amb què es produeixen aquests problemes ni sobre les seves conseqüències reals", admeten.
Davant aquesta manca d'informació, reclamen mecanismes obligatoris de supervisió humana, vigilància posterior a la comercialització, notificació d'incidents i registres d'audi toria. "Sense ells, no podem mesurar el problema que estem intentant resoldre", adverteixen.
La dependència de la IA pot debilitar les habilitats dels metges
La pèrdua de competències professionals, coneguda com a deskilling, és una altra de les qüestions que destaquen. Els experts citen un estudi inclòs a l'informe segons el qual els gastroenteròlegs acostumats a treballar amb assistència d'IA van ser aproximadament un 20 per cent menys capaços de detectar pòlips per si mateixos durant una colonoscòpia.
Per evitar aquest fenomen sense renunciar als avantatges de la tecnologia, proposen utilitzar determinats sistemes com una segona lectura, després que el professional hagi realitzat la seva pròpia interpretació. D'aquesta manera, l'eina pot confirmar o qüestionar una valoració inicial, en lloc de substituir-la.
També consideren necessari mantenir la formació contínua i la pràctica clínica sense assistència automatitzada, a més de reforçar capacitats com el judici clínic, el raonament contextual i l'empatia. "La IA ha de donar suport a l'experiència professional, mai substituir-la", recalquen. Per això, defensen que els hospitals avaluïn el rendiment dels professionals tant quan utilitzen aquestes eines com quan treballen sense elles.
"La IA ha de donar suport a l'experiència professional, mai substituir-la"
Avaluacions independents i controls
Per garantir la seguretat, Knottnerus i Martí-Bonmatí proposen que la validació dels sistemes es planifiqui des del seu disseny i contempli dos nivells: un d'analític, destinat a comprovar la precisió i fiabilitat tècnica, i un altre de clínic, que demostri la seva seguretat, eficàcia i valor en condicions reals.
En la pràctica, recomanen provar cada eina en diversos hospitals i entorns d'experimentació amb poblacions diferents, publicant els resultats per grups de pacients i no únicament mitjançant mitjanes generals. També destaquen les possibilitats dels sistemes federats, que permeten fer anàlisis en diferents hospitals sense traslladar les dades sensibles, ja que "l'anàlisi viatja a cada hospital i les dades romanen on són".
L'avaluació ha de continuar després de la implantació. Els experts consideren que les auditories periòdiques han de ser obligatòries i que els sistemes el rendiment dels quals es deteriori han de poder actualitzar-se, tornar a entrenar-se o retirar-se quan deixin de funcionar de manera segura i equitativa.
"Les eines d'IA no són dispositius estàtics. El seu rendiment pot canviar amb el temps a mesura que evolucionen els pacients, la pràctica clínica, el coneixement científic o els equips", expliquen. Per aquest motiu, consideren insuficient una única autorització abans de la seva comercialització i reclamen mecanismes de vigilància contínua, documentació de les modificacions i supervisió independent.
També defensen que el nivell d'evidència exigit sigui proporcional al risc: un sistema que actua de manera autònoma ha de demostrar garanties molt més grans que un altre que simplement dona suport a un professional.
Europa: bona base normativa, però assignatures pendents
Pel que fa a la regulació, els experts reconeixen que Europa disposa d'una base legislativa sòlida, integrada pel Reglament d'Intel·ligència Artificial, la normativa de productes sanitaris, el Reglament General de Protecció de Dades, l'Espai Europeu de Dades Sanitàries i la nova Directiva sobre responsabilitat per productes defectuosos. Tanmateix, consideren que "tenir bones lleis no és el mateix que garantir un ús segur i adequat de la IA als centres sanitaris".
Així, entre les qüestions pendents esmenten l'aplicació desigual de les normes entre Estats membres, la classificació de determinats usos sanitaris com a sistemes d'alt risc i les dificultats que plantegen tecnologies que evolucionen ràpidament, com els grans models de llenguatge, la IA multimodal i els sistemes d'IA agèntica.
També apunten als dubtes sobre el consentiment dels pacients i la responsabilitat quan es produeix un dany. En aquest sentit, proposen que la responsabilitat davant el pacient romangui en el proveïdor sanitari, amb vies clares per reclamar al fabricant quan un defecte del producte provoqui conseqüències perjudicials.
Per evitar retards innecessaris en la innovació, defensen que els requisits regulatoris siguin proporcionals al risc i al grau d'autonomia de cada sistema. Així mateix, aposten pels anomenats regulatory sandboxes, entorns controlats en què els innovadors puguin provar eines sota supervisió de les autoritats i amb garanties per als pacients.
"Les infraestructures compartides de validació i les bases de dades de referència permetrien que les petites empreses i els hospitals públics no haguessin de construir-les cadascun pel seu compte", afegeixen.
Tres prioritats per mesurar l'impacte de l'informe
De cara a l'aplicació de les seves recomanacions, els dos copresidents identifiquen tres prioritats: establir un marc europeu comú per avaluar el valor afegit real de la IA abans i després de la seva implantació, desenvolupar infraestructures de dades interoperables i federades juntament amb recursos compartits de validació, i reforçar la governança, la supervisió independent i la formació dels professionals sanitaris.
Els experts també proposen indicadors per comprovar si aquestes mesures produeixen resultats en els pròxims anys. Entre ells figuren el nombre d'Estats membres que exigeixen validacions externes i multicèntriques en les seves contractacions públiques, la proporció d'eines d'alt risc els resultats de les quals es publiquen per grups de pacients, l'existència de sistemes operatius de vigilància i notificació d'incidents i la incorporació de l'alfabetització en IA als programes de Medicina i formació continuada. En aquest context, aclareixen que aquests indicadors són propostes per mesurar els avenços, no objectius que ja hagin estat acordats.
En darrera instància, consideren que la decisió d'incorporar una eina no ha de dependre exclusivament de la seva precisió o de la seva novetat tecnològica. També ha de resoldre un problema clínic, de Salut Pública o organitzatiu real, haver estat dissenyada juntament amb els professionals i pacients que la utilitzaran i demostrar que aporta valor davant la pràctica habitual: "Una eina que és precisa, però que els professionals no utilitzen o que interfereix en la seva feina, no és una bona inversió".
"Els sistemes sanitaris han d'avaluar contínuament els resultats clínics, la seguretat dels pacients, la protecció de les dades, la qualitat de vida, els efectes sobre l'equitat i la relació cost-efectivitat", conclouen. A això cal afegir les despeses d'integració, infraestructura, formació, validació local, supervisió i consum energètic.