Què tal se li dona a la IA recomanar fàrmacs? Li falta 'carrer' clínic (i es refia en excés de la notorietat digital)
Un estudi a Nature analitza com es comporten 5 models a l'hora de recomanar fàrmacs. Spoiler: més aviat malament. L'economista Beatriz González López Valcárcel ens ajuda a entendre l'estudi, les seves implicacions i si seria aplicable a Espanya.
Un estudi publicat a Nature ha mesurat com es comporten GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 i MedGemma quan els usuaris els pregunten per fàrmacs. El resultat és que els cinc models tendeixen a recomanar els mateixos fàrmacs quan els preguntes per un principi actiu i que aquesta recomanació no sempre és l'opció clínica més adequada. Li falta carrer (i criteri) clínic i es refia en excés de les seves fonts, que es basen sobretot en la notorietat digital. El comportament d'aquests models d'IA no està ni de bon tros a prop de la pràctica clínica real (només va coincidir en el 29,7% dels casos) als Estats Units.
El grup d'investigadors, liderat per Yunya Sato, del Departament d'Intel·ligència Artificial en Diagnòstic Radiològic de la Universitat d'Osaka (Japó) i del MD Anderson Cancer Center de Texas (Estats Units), va alimentar els cinc models d'IA amb 177.120 casos clínics simulats, construïts combinant diferents perfils sociodemogràfics amb 123 parells de malaltia i principi actiu.
El resultat? Els productes amb més notorietat digital van concentrar, de mitjana, el 97,5% de les primeres opcions per combinació i model. Tots van preferir Lipitor, de Pfizer, per a atorvastatina (Cardyl i Zarator a Espanya); Norvasc, de Viatris, per a amlodipí (Norvas a Espanya), i Zoloft, també de Viatris, per a sertralina (amb el mateix nom a Espanya).
Una dimensió diferent de l'al·lucinació
L'interessant d'aquest estudi és que posa xifres a una dimensió diferent de l'al·lucinació: un model pot esmentar un medicament real i, tot i així, afavorir sistemàticament un producte comercial davant d'altres del mateix principi actiu. I per mostrar-ho, utilitza la comparació amb l'ús real, un model de simulació de costos (que analitzarem en un parell de paràgrafs) i una revisió de la regulació. “En la nostra anàlisi només amb la malaltia, que ometia el principi actiu, la convergència es va reduir, però va persistir, encara que els diferents models van recomanar sovint fàrmacs diferents”, assenyala a aquest diari Sato, l'autor principal.
La pregunta lògica és qui controla que els assistents utilitzin informació vigent i no converteixin la notorietat digital en preferència terapèutica? Sato la respon: “Creiem que els reguladors haurien d'avaluar la neutralitat comercial també en aquesta etapa prèvia. Sospequem que la prominència dels noms comercials [la seva notorietat digital] en les dades d'entrenament és un factor determinant. Les associacions que hem trobat donen suport a aquesta hipòtesi, però no estableixen causalitat.”
El fet de ser un producte original de marca va ser el factor més associat a la recomanació: la probabilitat que la IA el recomanés era 20,5 vegades més gran. El seguien tenir visibilitat a Google i tenir pàgina a la Viquipèdia. Cap d'aquests tres factors té res a veure amb el criteri clínic, però tampoc no té res d'il·legal o il·lícit.
A més, fins al 15% de les recomanacions es referien a productes retirats del mercat. No és que fossin tractaments perillosos, sinó que simplement ja no estaven al mercat. Sato explica que la solució a aquesta disfunció podria estar en “un millor disseny dels prompts i actualitzar les bases de dades reguladores podria reduir les recomanacions de productes que ja no es comercialitzen. Tanmateix, no vam comprovar si aquests enfocaments eliminen el problema. Són components prometedors dels assistents clínics, però requereixen validació.”
Com protegir-nos d'aquest biaix
Els riscos del desplegament i introducció de la IA en la vida i les decisions dels pacients són clars. I és impossible posar portes al camp, perquè el pacient que abans preguntava a Google ara trasllada els seus dubtes a una IA. Així doncs, com mitigar aquests biaixos perquè la variabilitat no es converteixi en inequitat?
“Idealment, l'avaluació de biaixos hauria de començar per les dades d'entrenament. Abans del desplegament, els desenvolupadors i els sistemes sanitaris haurien de provar el màxim nombre possible d'escenaris realistes dins dels usos previstos, identificar les diferències injustificades entre grups de pacients i avaluar si l'ús de prompts específics o altres intervencions les redueixen”, conclou Sato.
Simulació de costos
Per abordar l'impacte financer d'aquest comportament de la IA, els autors es van plantejar un condicional: si en lloc de l'ús real es repartís la prescripció tal com recomanen les IA, com quedaria el compte? Segons l'estudi, 55,6 milions de dòlars anuals més, amb un augment de l'1.019% sobre la pràctica real.
Però, com de sòlida és aquesta conclusió? Hem demanat a l'economista de la salut, Beatriz González López-Valcárcel, Catedràtica d'Economia a la Universitat de Las Palmas de Gran Canaria, que ens ajudi a entendre una hipotètica translació d'aquesta anàlisi a la situació a Espanya:
Pregunta. La simulació estima un increment de l'1.019% en costos d'adquisició per a 51 principis actius. Quins supòsits sostenen una xifra així i quins són els punts febles per traslladar-la al sistema espanyol?
Resposta. Els resultats no són traslladables a Espanya. Tampoc gaire útils per als EUA, excepte per conèixer les limitacions de l'anàlisi i que la IA encara no està llesta per a aquesta tasca. És més, si s'utilitzés, hi hauria risc de manipulació estratègica de les marques per posicionar-se. Hi ha diverses marques per al mateix principi actiu i indicació (mitjana 5,5), per tant, es tracta de medicaments fora de patent. El més interessant al meu parer és el descobriment del biaix sistemàtic de disponibilitat de tots els algoritmes i la concordança entre ells. No només els humans tenim aquest biaix, ben estudiat per Kahneman i Tversky, també la IA el pateix.
D'altra banda, també resulten interessants les diferències sistemàtiques en prescripció segons criteris sociodemogràfics, aliens a les necessitats de salut. L'estudi, en qualsevol cas, és limitat. Dels 123 parells malaltia-principi actiu, només es poden analitzar els costos (preus) de 51 d'ells. La resta, es perd o perquè ja no està al mercat, o no es prescriu segons dades del panell MEPS, o no es coneix el preu…
P. A Espanya, amb preus regulats, compres centralitzades en alguns àmbits i dispensació de genèrics, quin impacte real podria tenir que un assistent afavorís marques davant del que passa als EUA?
R. A Espanya genèrics i marques no competeixen en preu, sinó que pertanyen a grups d'homogenis, amb preus de referència (la llista de preus i grups de 2026 aquí). Genèric i marca tenen el mateix preu. Per fomentar la prescripció i l'ús de genèrics, les CCAA solen incorporar entre els indicadors de rendiment per a la productivitat variable en els contractes programa el percentatge de genèrics prescrits.
Per tant, a Espanya la IA no canviaria les coses. Al nostre país ja comptem amb ajudes incorporades a la prescripció en línia a les consultes. En aquestes situacions, salta l'opció preferible a l'ordinador del metge prescriptor.
P. L'estudi no mesura l'actuació posterior del metge ni la substitució a la farmàcia. Com dissenyaria vostè un estudi per mesurar l'efecte econòmic real d'aquests assistents en el SNS?
R. Crec que un assistent d'IA millor dissenyat, que incorpori informació per ajudar a la prescripció, podria ser útil a Espanya. Els prompt podrien i haurien de refinar-se, incloent criteris d'eficàcia, efectivitat i cost-efectivitat, i preferències dels pacients si escau.
P. Recomanar genèrics canvia la primera opció del model en la majoria de casos. N'hi hauria prou amb la instrucció al sistema o caldrien incentius i controls com els que ja utilitza la política de genèrics?
R. Continuarien fent falta incentius i controls explícits, perquè el pacient sol preferir la marca, i el metge complaent la prescriu. La competència a Espanya entre genèrics i entre aquests i marques, és més limitada que als Estats Units; com a conseqüència, els preus relatius dels genèrics són més alts aquí. A més, hi ha genèrics "de marca".
P. Quina lliçó de dècades de política de preus i genèrics a Espanya es pot aplicar a l'entrada de la IA en la prescripció?
R. Cal anar amb compte amb l'ús de la IA en la prescripció, i sobretot, en l'anàlisi del comportament dels algoritmes d'IA d'articles com aquest.
