El dret a equivocar-se davant l'exigència de perfecció: el metge davant la IA
Ricardo De Lorenzo i Montero és president a De Lorenzo Advocats
Errar és humà, i el Dret sap des de fa segles que no tot error constitueix culpa. Però hi ha un lloc on aquesta màxima mai va acabar d'entrar del tot: la consulta mèdica. Qui en creua la porta no busca algú merament humà; busca, comprensiblement, algú que no falli. El metge, però, sap que treballa en el territori de la incertesa: el diagnòstic incorpora probabilitats i, fins i tot actuant correctament, el desenllaç pot ser advers.
Entre ambdues expectatives s'ha situat sempre el Dret: al metge no se li exigeix guarir, sinó actuar conforme a la “lex artis ad hoc”. La seva obligació és, amb caràcter general, de mitjans i no de resultat. La conseqüència jurídica és essencial: la fal·libilitat no equival a negligència. El «dret a equivocar-se» no és un dret autònom a causar dany, sinó una manera d'expressar que l'error, per si sol, no acredita negligència.
Durant molt de temps va imperar el mite del metge infal·lible. L'error era una taca individual que s'ocultava als passadissos, i davant d'un dany la pregunta no era què havia fallat, sinó qui havia fallat. A finals del segle XX, la medicina es va mirar al mirall.
L'any 1999, l'Institute of Medicine nord-americà va fer públic l'informe “To Err Is Human”: Building a Safer Health System”. El text va estimar —a partir d'estudis realitzats a Nova York, Colorado i Utah— que entre 44.000 i 98.000 persones podien morir cada any als hospitals nord-americans com a conseqüència d'errors mèdics prevenibles, o com diem en Dret Sanitari, “esdeveniments adversos evitables”. L'estimació va ser debatuda, però el seu missatge roman: molts danys no provenen de professionals incompetents, sinó de professionals diligents que treballen en sistemes mal dissenyats. La seguretat del pacient va deixar de ser només una qüestió de culpa individual per convertir-se també en una qüestió d'organització, prevenció i aprenentatge.
En aquest context, Albert W. Wu va formular l'any 2000 l'expressió «segona víctima»: el professional que pateix les conseqüències personals i professionals d'un esdeveniment advers. No es va reconèixer un dret a ser negligent, sinó la necessitat de distingir l'error inevitable de la conducta reprovable i d'aprendre sense culpabilitzar automàticament.
Avui aquest pèndol torna a moure's. Ha entrat a la consulta un nou actor: no es cansa, no fa guàrdies i, sobretot, sembla no dubtar. La intel·ligència artificial promet allò que el metge mai va poder prometre: una precisió propera a la perfecció. Si donem per suposat que la màquina no falla, qualsevol error tornarà a semblar exclusivament humà.
Però la màquina falla. No li reconeixem un «dret a equivocar-se», perquè no és subjecte moral ni jurídic; tanmateix, pot equivocar-se. Una sensibilitat del 95% significa que, en les condicions avaluades, el sistema detecta el 95% dels casos positius i deixa sense detectar el 5% restant. Aquest rendiment tampoc garanteix resultats idèntics en qualsevol població o context assistencial. La qualitat de les dades i les condicions d'utilització importen tant com la xifra.
Aquesta cautela no és una reserva jurídica davant el progrés, sinó una exigència de la pròpia medicina. Com ha recordat el doctor Cristóbal Belda Iniesta en la seva tribuna «Entre la ciència i la fascinació», entre un algoritme que funciona en una base de dades i una eina que millora la salut de pacients reals existeix una distància considerable. L'atractiu tecnològic no substitueix l'evidència de benefici clínic.
Aquesta afirmació té una conseqüència jurídica immediata: la disponibilitat d'un algoritme, la seva precisió aparent o la seva validació tècnica no són suficients per desplaçar el judici del metge ni per alterar automàticament l'estàndard de diligència. La medicina exigeix evidència; el Dret, garanties. Ambdues perspectives convergeixen en la necessitat d'una incorporació responsable de la tecnologia.
A més, molts models operen com a caixes negres: ofereixen una conclusió sense fer intel·ligible el raonament que condueix a ella. Poden presentar respostes errònies amb aparença de certesa i arrossegar biaixos de les dades amb què van ser entrenats. La IA no elimina les nostres imperfeccions: pot reproduir-les i amplificar-les, especialment respecte de grups insuficientment representats.
El legislador europeu n'és conscient. El Reglament (UE) 2024/1689, d'Intel·ligència Artificial, estableix, amb un calendari escalonat d'aplicació, un règim reforçat per a determinats sistemes que són productes sanitaris, o components de seguretat d'aquests, quan requereixen avaluació de conformitat per tercers. No es limita a exigir precisió, solidesa i ciberseguretat. El seu article 14 preveu una supervisió humana efectiva: el supervisor ha de comprendre les capacitats i limitacions del sistema, interpretar-ne els resultats i poder desestimar-los, revertir-los o interrompre'n el funcionament. Les obligacions específiques per a aquests sistemes vinculats a productes regulats tenen prevista la seva aplicació a partir del 2 d'agost de 2028, conforme al calendari actualitzat.
El Reglament esmenta expressament el «biaix d'automatització»: la tendència a confiar excessivament en els resultats d'una màquina. No pressuposa la infal·libilitat de l'algoritme; identifica la confiança acrítica com un risc que cal prevenir.
Desapareix aleshores el dret a equivocar-se? No; es transforma el seu exercici. Al metge se'l continuarà jutjant per la diligència de la seva actuació clínica, però també per com utilitza i supervisa l'eina que hi intervé.
Aquesta supervisió col·loca el professional davant una pinça incòmoda. Si segueix l'algoritme i aquest s'equivoca, se li pot retreure haver signat sense pensar. Si se n'aparta i s'equivoca, se li pot retreure haver ignorat una eina validada. Si no resolem aquesta tensió, empenyerem els metges cap a l'opció aparentment més defensiva: obeir.
Per això, el dret a equivocar-se s'ha de reformular com un dret —i, en determinats casos, un deure— de discrepar raonadament. No s'ha de jutjar la decisió exclusivament des del desenllaç conegut, sinó des de la informació i les circumstàncies disponibles quan es va adoptar. El que s'ha de protegir és el judici clínic motivat, prudent i documentat.
El metge que s'aparta d'una recomanació algorítmica amb raons clínicament fonamentades i actua conforme a la “lex artis” ha de rebre el mateix empara que qualsevol professional diligent, encara que el desenllaç sigui desfavorable. Documentar no eximeix per si sol; permet acreditar les raons d'una decisió diligent. Tampoc seguir l'algoritme constitueix una garantia automàtica de correcció.
La “lex artis” no és immòbil. Evoluciona amb el coneixement científic, l'organització assistencial i els mitjans disponibles. La implantació d'una eina no és suficient per fer obligatori el seu ús: importen la seva evidència, utilitat, disponibilitat i idoneïtat per al cas. En determinats supòsits pot ser reprovable no utilitzar-la; en altres, utilitzar-la sense formació o sense comprendre'n els límits.
El metge no deixa de ser clínic per convertir-se en supervisor: afegeix la supervisió tecnològica a la seva responsabilitat assistencial. Ha de conèixer els límits rellevants de l'eina i contrastar-ne les recomanacions amb la història, l'exploració i el context del pacient. I ha de continuar preguntant-se si un tractament amb un 60% d'èxit val la pena per a aquella persona, amb els seus valors, les seves pors i el seu projecte de vida.
El deure d'informació assistencial i el consentiment informat tampoc s'aturen a les portes de l'algoritme. La Llei 41/2002 exigeix informació adequada i comprensible. La mera utilització d'IA no determina, per si sola, la necessitat d'un consentiment específic separat, però la seva intervenció s'ha d'explicar quan sigui rellevant per comprendre l'actuació proposada, els seus riscos i les seves alternatives. La consulta no ha de convertir-se en una classe d'informàtica, ni la tecnologia en una excusa per reduir l'autonomia del pacient.
Tampoc podem dipositar sobre les espatlles del metge tot el pes de l'error tecnològic. La IA manca de personalitat jurídica i no respon per si mateixa. La responsabilitat s'ha d'atribuir segons la intervenció de cada subjecte, el defecte o incompliment i la seva relació amb el dany. No es reparteix automàticament: es determina jurídicament.
La Directiva (UE) 2024/2853, sobre responsabilitat per productes defectuosos, configura el nou marc europeu per a productes introduïts al mercat o posats en servei després del 9 de desembre de 2026 i requereix transposició al Dret nacional. Inclou el programari, també els sistemes d'IA, i facilita, sota determinades condicions, l'exhibició de proves en poder del demandat. Contempla, a més, presumpcions refutables de defecte o causalitat quan el perjudicat afronta dificultats probatòries excessives derivades de la complexitat tècnica o científica i demostra que és probable el defecte o la seva relació causal amb el dany. L'opacitat tecnològica no ha de convertir-se en una barrera insuperable per al perjudicat.
El centre sanitari també pot respondre. El Reglament d'IA diferencia les mesures d'alfabetització de les obligacions específiques de supervisió de sistemes d'alt risc, subjectes al seu corresponent calendari d'aplicació. Per a aquesta supervisió preveu persones amb competència, formació i autoritat suficients. Sense formació, temps, informació ni capacitat efectiva per qüestionar el resultat, la supervisió és una ficció. Quan el dany deriva d'aquestes mancances, pot existir un defecte d'organització, no només una culpa individual. La infracció regulatòria, però, no determina automàticament una indemnització: han de concórrer els pressupostos del règim de responsabilitat aplicable.
La intel·ligència artificial pot salvar vides i millorar diagnòstics. Res d'això no és un al·legat en contra seva. El perillós no és que entri a la consulta, sinó que entri revestida d'infal·libilitat.
La medicina no perdrà la seva humanitat per utilitzar algoritmes. La perdrà si confon evidència amb fascinació, assistència amb obediència i predicció amb decisió clínica. La reflexió del doctor Cristóbal Belda Iniesta i la perspectiva jurídica es complementen: la ciència ha d'acreditar el benefici; el Dret ha de garantir que la seva incorporació no desprotegeixi el pacient ni buidi de contingut la responsabilitat professional.
Cuidem el dret dels nostres metges a equivocar-se quan han actuat diligentment. Però cuidem, sobretot, el seu dret i el seu deure de discrepar amb raons. Perquè l'últim bastió de la nostra humanitat no resideix en l'error, sinó en la capacitat de decidir responsablement, assumir les conseqüències i continuar mirant el pacient als ulls.
