La incertesa que l'algoritme no pot gestionar: per què la IA encareix els costos davant del criteri mèdic
Un estudi publicat a NEJM AI estima que els grans models de llenguatge indiquen abordatges fins a tres vegades més cars que els pautats pels facultatius.
I a més: Primer Manual de Bones Pràctiques per a Intel·ligència Artificial en Medicina
Davant la creixent presència de les eines d'intel·ligència artificial en l'exercici de la Medicina, la pregunta clau és fins on poden ser d'ajuda i en quins aspectes continua sent insubstituïble el criteri professional. En aquest sentit, un article recent publicat a The New England Journal of Medicine (NEJM) AI aporta algunes pistes en constatar com els grans models de llenguatge multipliquen els costos de l'abordatge clínic respecte a les decisions de facultatius amb experiència.
Els resultats d'aquest estudi, basat en l'avaluació de 24 sistemes d'IA sobre 200 notes clíniques reals, mostren un cost mitjà tres vegades superior per consulta en base a les recomanacions algorítmiques: 314 dòlars davant dels 97 dòlars que costaven de mitjana els abordatges proposats pels metges en exercici. Aquesta tendència es va reproduir també en els models entrenats específicament per a l'àmbit biomèdic, on els sobrecostos es van mantenir entre 2,7 i 3,5 vegades per sobre del criteri professional.
Per al metge intensivista i expert en IA Fernando Eiras, aquests resultats no resulten sorprenents tenint en compte com s'entrenen aquests models de llenguatge. En conversa amb Redacción Médica, analitza les explicacions d'aquest fenomen i com aquestes dades refermen el caràcter indispensable del criteri clínic davant de l'automatització.
Per a l'especialista, el sobrecost s'explica per biaixos en la configuració d'aquests sistemes que porten a que "la IA no pugui passar res per alt". "Els models de llenguatge intenten optimitzar les respostes per evitar haver de treballar de nou, i per això intentaran donar-te el màxim de diagnòstics diferencials", explica Eiras. D'aquí que recomanin realitzar el màxim nombre de proves complementàries possible per "no saltar-se res".
Aquest mecanisme s'entronca amb un altre dels biaixos comprovats dels LLM: la complaença. Per defecte, els models tendeixen a satisfer la petició de l'usuari i a no contradir-lo, buscant abastar tots els escenaris concebibles per tal de no ser corregits davant una omissió greu. Això explica, al seu parer, la inflació en proves diagnòstiques, on es concentra el gruix de la despesa extra, especialment en aquelles consultes on el metge no va considerar necessari sol·licitar cap estudi. En resum: "La IA no es pot permetre errar".
L'intensivista destaca que en aquesta incapacitat de l'algoritme per descartar escenaris rau, precisament, "l'art de la Medicina". "Com a metge prens decisions contínuament i hi ha una part de la Medicina que comporta la gestió de la incertesa", detalla. Es tracta d'un marge de dubte raonat que la IA, per com està entrenada, no tolera.
A més, en la gestió d'aquesta incertesa, el factor humà aporta intangibles que un model de llenguatge no és capaç de processar. De les notes clíniques de les quals es va nodrir la IA a l'estudi, Eiras apunta que obeeixen a una foto fixa en un moment determinat. És aquí on l'exploració física, el context social i el seguiment longitudinal del pacient exerceixen com a factor diferencial a favor del facultatiu, permetent-li estalviar proves innecessàries.
"El metge d'atenció primària, per exemple, ja coneix el pacient d'abans, sap les tendències en les seves analítiques i el seu context social. Això li permet no haver de demanar una prova complementària i fer una entrevista molt més dirigida. La IA s'ha de fixar només en un moment concret, mentre que el metge gestiona un ventall temporal molt més ampli i es recolza en el seu criteri clínic", apunta.
Tenint en compte aquestes limitacions, Eiras considera que el veritable nínxol on la IA pot ser un gran aliat de la pràctica mèdica no és en la prescripció autònoma, sinó en l'alleujament de les tasques burocràtiques i organitzatives: "El gran fort avui dia està en l'optimització dels recursos administratius, en no perdre hores fent informes o en actuar com un escriba que ajudi a humanitzar la consulta mèdica".
En cas de recolzar-s'hi per al raonament clínic, l'especialista formula una regla d'or pedagògica indispensable: "Hi ha d'haver un doble check. Primer, exigir i comprovar que la font d'informació de la qual s'extreu la recomanació és veraç i traçable; i segon, verificar que el que es proposa té coherència clínica real per a aquell pacient concret".
Si bé la IA planteja una revolució en l'exercici de la Medicina, els resultats que mostren les seves eines ratifiquen la idea que, almenys per ara, hi ha un gran camp de competències on el coneixement i criteri clínic dels facultatius continua sent un component irrenunciable de l'exercici de la professió.