Publicada

La revolució sanitària que planteja la IA genera una sèrie de qüestions a nivell legal a les quals el dret té encara pendent determinar resposta. Les possibilitats tècniques que ofereix emplacen a un nou model de repartiment de responsabilitats entre el professional i la màquina en què cal determinar qui ha de respondre davant eventuals errors en l'atenció. Una qüestió que ha estat objecte d'anàlisi en un taller en el marc del XXXII Congrés de l'Associació Espanyola de Dret Sanitari (AEDS), amb la participació d'experts des del punt de vista jurídic, clínic i pericial.

El seu imparable avanç està especialment instaurat en camps com el diagnòstic per imatge, el triaje de pacients, assistents en consulta o en la recerca de biomarcadors. La IA emergeix així com una mena de 'professional' addicional amb un potencial de desenvolupament exponencial. Els ponents han insistit que el criteri clínic sempre ha de prevaldre sobre les recomanacions de la màquina, alhora que han reconegut la necessitat d'aprofitar totes les possibilitats de desenvolupament tecnològic.

Iñigo De Miguel Beriain, doctor en Dret, jurista i investigador especialitzat en les implicacions ètiques i jurídiques Professor UPV i UCJC Associació Espanyola de Dret Sanitari / Imatge de Joana Huertas

Entre la lex artis i el producte defectuós

Des de la perspectiva jurídica, la integració d'algoritmes en el diagnòstic i tractament obliga a traçar una frontera clara entre la responsabilitat del facultatiu i la del desenvolupador del software. José Carlos López, magistrat lletrat de la Sala Primera del Tribunal Suprem, ha explicat que la responsabilitat del metge a Espanya continua sent subjectiva i es regeix per la lex artis, mentre que la del fabricant s'emmarca en la responsabilitat objectiva per productes defectuosos.

José Carlos López Martínez, magistrat Llevat de la Sala Primera del Tribunal Suprem Professor UCJC. / Imatge de Joana Huertas

El jurista ha advertit sobre el desfasament normatiu actual, assenyalant que la medicina ja utilitza aquestes eines mentre Europa encara ultima la transposició de la nova Directiva de Productes Defectuosos, que inclou expressament el software i els sistemes d'IA. Aquesta norma introduirà presumpcions legals a favor del pacient perjudicat davant la complexitat tècnica de provar un error algorítmic, contemplant fins i tot la capacitat d'autoaprenentatge del sistema després de la seva posada al mercat.

No obstant això, López subratlla que la directiva no eximeix el sanitari si incorre en el que va anomenar "biaix d'automatització". "No ens podem guiar només i exclusivament pel que la màquina ens digui; sempre que sigui possible advertir l'error mitjançant altres proves diagnòstiques, l'acceptació acrítica genera responsabilitat professional", ha puntualitzat el magistrat.

Automatització acrítica, fins on es pot delegar en la IA?

En l'àmbit de la valoració del dany corporal i els litigis sanitaris, la directora mèdica executiva del Grup Promede, María Rodríguez, ha apuntat que l'ús de la IA entre pèrits s'ha convertit en una realitat que exigeix control ètic i metodològic. Si bé la tecnologia permet agilitzar considerablement la cerca de documentació i l'elaboració d'informes, encara presenta riscos i dubtes que ella mateixa reconeix tenir personalment.

Rodríguez de Alba ha advertit sobre la tendència dels models generatius a donar la raó a l'usuari segons com es formuli la consulta, i fins i tot a inventar o descontextualitzar bibliografia científica. Un altre biaix al qual ha al·ludit és la tendència a jutjar l'actuació mèdica des del coneixement del desenllaç final en lloc de situar-se en la incertesa clínica del moment. "Plausibilitat no implica certesa; extreure informació no equival a emetre un judici pericial", ha asseverat.

Per això, considera que no s'ha de delegar el judici: "Hem passat d'utilitzar la IA perquè ens organitzi els ingredients a prémer el botó de la Thermomix perquè emeti un informe que simplement validem", sosté. Al seu parer, amb les possibilitats actuals que ofereix la IA, "podem delegar tasques, però no podem delegar criteri".

María Rodríguez de Alba Galofre, llicenciada en Medicina Directora mèdica executiva del Grup Promede, pèrit mèdic i professora a la UCJC. / Imatge de Joana Huertas

La qüestió no està exempta de debat ja que, tal com es va posar de manifest en el torn de preguntes, la progressiva introducció d'aquests sistemes fa que no es pugui descartar. En aquest sentit, el president del grup Promede, Juan Abarca, va plantejar que, en un context de temps d'espera elevats i pressió assistencial, cal aprofitar l'optimització de recursos i procediments que ofereix aquesta tecnologia. A propòsit de deixar sobre les espatlles del metge la responsabilitat d'acollir-se a les recomanacions de la IA, López ha reconegut que "a la velocitat que anem, no descartaria que la IA no només sigui una eina que ens eviti feina, sinó que pugui arribar a desenvolupar criteri propi".

Evidència clínica davant precisió tècnica

La IA és una realitat cada cop més assentada en la pràctica clínica i el dia a dia dels hospitals. Una cosa que la responsable de la Unitat d'Innovació de l'Hospital Clínic San Carlos, María Luaces ha posat de manifest al·ludint als més de 1.600 dispositius amb aquesta tecnologia que ha aprovat la FDA, especialment en camps com la radiologia, la cardiologia, la neurologia o el triaje de pacients. No en va, Luaces, ha fet èmfasi en la necessitat de reforçar l'evidència científica disponible sobre els beneficis clínics que aporta.

María Luaces Méndez, responsable de la Unitat d'Innovació a l'Hospital Clínic San Carlos (Madrid). / Imatge de Joana Huertas

"La precisió tècnica de la intel·ligència artificial està més que demostrada, però ara hem de demostrar amb metodologia d'assaig clínic que realment millora els resultats de salut de les persones", ha assenyalat en aquest sentit. La facultativa ha alertat sobre els riscos d'entrenar algoritmes amb dades incompletes —on grups com dones o població pediàtrica solen estar infrarepresentats— i sobre els errors en eines d'assistència documental, com els escribes digitals que poden ometre al·lèrgies greus en un informe si el metge no els revisa.

Per a Luaces, l'algoritme manca d'elements essencials de l'acte mèdic: "La intel·ligència artificial no pot assumir les preferències del pacient, els seus valors ni les seves circumstàncies personals, i tampoc pot assumir la responsabilitat professional i jurídica".

Governança i agents autònoms a l'hospital

Per la seva banda, Jesús Sánchez, director corporatiu de Transformació Digital i Sistemes d'HM Hospitals, ha aportat la visió operativa del desplegament tecnològic a gran escala. En aquest sentit, ha explicat com als hospitals d'aquest grup s'està transitant des de la IA generativa bàsica cap a ecosistemes d'agents avançats capaços d'orquestrar tasques complexes, citant com a exemple un sistema propi de codificació clínica, que aconsegueix un 91,7 % d'encert inicial en només 33 segons davant l'hora i mitja que requeria un documentalista, assolint el 100 % després de la validació humana.

Jesús Sánchez Mena, director corporatiu de Transformació Digital i Sistemes a HM Hospitals. / Imatge de Joana Huertas

Sánchez ha destacat que l'èxit d'aquestes eines —que abasten des de la reconstrucció quirúrgica en 3D fins a la cirurgia robòtica remota entre països o els bessons digitals docents— depèn estrictament de la governança prèvia i la ciberseguretat. "Tractem fins i tot els desenvolupaments administratius sota els estàndards d'alt risc del reglament europeu, assegurant traçabilitat absoluta sobre què va proposar cada agent i què va decidir finalment el professional", ha explicat.