Un instante durante la jornada.
Estudiants

Juan José Beunza acosta la IA clínica a la consulta mèdica

El catedràtic i director d'IASalud de la Universitat Europea ha construït en directe un agent d'intel·ligència artificial durant una jornada que ha abordat la seva aplicació crítica i responsable en medicina i ha presentat la tercera edició del Manual pràctic d'intel·ligència artificial en entorns sanitaris

Llegir en Català
Publicada
Actualitzada

Què necessita una intel·ligència artificial per poder utilitzar-se en una consulta mèdica? Quines fonts ha de consultar? On han de romandre les dades del pacient? Com es pot comprovar una resposta abans d'utilitzar-la? Aquestes preguntes han centrat la jornada “Aplicant la IA de manera crítica i responsable. Construïm una IA per a la consulta. En viu”, celebrada a l'Il·lustre Col·legi Oficial de Metges de Madrid i organitzada conjuntament per Elsevier, el mateix Col·legi, BiblioMadSalud i la Universitat Europea.

Juan José Beunza, catedràtic i director d'IASalud de la Universitat Europea, ha traslladat aquestes qüestions a la pràctica construint juntament amb els assistents un agent d'intel·ligència artificial. La sessió, adreçada especialment a professionals sanitaris i bibliotecaris, ha mostrat com seleccionar el model que actuarà com a cervell del sistema, dotar-lo de memòria, definir les seves instruccions i incorporar-hi eines que li permetin realitzar tasques concretes.

L'objectiu ha estat allunyar la IA clínica de la idea d'una eina capaç de respondre per si sola a qualsevol qüestió. Beunza ha explicat que la seva utilitat depèn en bona mesura del context que rep, de les fonts a les quals pot accedir i dels límits establerts abans d'utilitzar-la: “Fer consultes mèdiques sense netejar el context és un error gravíssim”, ha advertit en explicar com una conversa prèvia pot condicionar les respostes posteriors d'un model de llenguatge.

Un dels aspectes centrals de la demostració ha estat com construir una IA capaç de treballar amb informació clínica fiable sense perdre el control sobre les dades. El model pot executar-se en local, dins la infraestructura d'una organització, i incorporar protocols interns, guies clíniques, revisions científiques o documentació pròpia del centre. D'aquesta manera, la informació sensible no necessita enviar-se a plataformes externes i les respostes poden vincular-se a les fonts utilitzades.

D'una resposta convincent a una resposta verificable

Beunza ha posat el focus en la qualitat de la informació que alimenta aquests sistemes. Durant la sessió ha explicat el funcionament de tècniques com la generació augmentada per recuperació, coneguda com a RAG, que permet proporcionar al model documentació concreta per fonamentar les seves respostes: “Quan utilitzo RAG amb una guia fiable, les respostes són molt més fiables”, ha assenyalat. El repte passa per comprovar la data, autoria i nivell d'evidència dels documents, detectar versions obsoletes i evitar recomanacions contradictòries.

La participació de BiblioMadSalud ha incorporat a la jornada la perspectiva dels professionals de la informació sanitària, especialment rellevant quan la IA ha de treballar amb coneixement científic fiable i actualitzat. “La intel·ligència artificial pot generar respostes en segons, però la qualitat d'aquestes respostes depèn del coneixement que hi ha darrere i de la nostra capacitat per avaluar-les críticament”, han assenyalat des de l'organització, destacant la necessitat de treballar conjuntament entre professionals sanitaris i professionals de la informació.

La sessió ha abordat altres elements que condicionen l'ús de la IA en salut, des de la privacitat i la seguretat fins als biaixos o la responsabilitat professional. El professional ha de determinar quina tasca vol resoldre, amb quines dades pot fer-ho, quines instruccions rep l'agent i quins són els seus límits. El plantejament parteix d'una premissa clara: la intel·ligència artificial pot donar suport al treball clínic, però les decisions sanitàries han de romandre sota supervisió humana.

La visió des de la pràctica assistencial ha arribat de la mà de Samuel González, de la UCI de l'Hospital HLA Moncloa i membre d'IASalud, qui ha plantejat la distància que encara existeix entre les capacitats de la intel·ligència artificial i el seu impacte quotidià sobre els pacients: “Segueix havent-hi una bretxa molt gran entre el que la intel·ligència artificial pot fer i el que al final beneficiarà realment el pacient”, ha explicat.

González ha mostrat la feina que s'està desenvolupant a la UCI per ordenar, estandarditzar i analitzar la gran quantitat d'informació generada diàriament pels pacients. Per a l'especialista, els professionals clínics tenen un paper fonamental en aquest procés perquè són qui coneixen què significa cada dada, els seus possibles errors i el seu veritable valor assistencial: “Tot el que no hem avançat en els darrers 50 anys en aplicació clínica de la intel·ligència artificial ho avançarem en els propers cinc anys”, ha afirmat.

Un manual per aplicar la IA en entorns sanitaris

Durant la jornada s'ha presentat la tercera edició del Manual pràctic d'intel·ligència artificial en entorns sanitaris, publicat per Elsevier, coorganitzadora de la trobada i especialitzada en coneixement científic i tecnologia per a l'àmbit sanitari. L'obra està concebuda per apropar aquestes tecnologies des d'una perspectiva clínica, científica, ètica i organitzativa.

La nova edició aborda qüestions que estan entrant directament en la pràctica professional, des de com utilitzar IA amb seguretat o evitar que les dades clíniques surtin de l'organització fins a quines fonts han d'incorporar-se a un sistema, com comprovar-les i qui assumeix la responsabilitat quan una eina ofereix una resposta incorrecta.

La presentació s'ha completat amb una taula d'experts en la qual han participat Samuel González; José Luis Lafuente, professor de l'Escola d'Arquitectura, Enginyeria, Ciència i Computació – STEAM i Eva Avilés Álvarez, alumni d'Enginyeria Biomèdica i actual docent de la Universitat Europea. La trobada ha permès traslladar els dubtes dels assistents a casos vinculats amb la pràctica clínica, la gestió de les dades i el desenvolupament de noves solucions.

La sessió ha posat de relleu que no cal convertir-se en programador per comprendre com funciona un agent d'IA, però sí conèixer què fa amb les dades, d'on obté les seves respostes i fins on pot arribar. Perquè en salut una resposta convincent no n'hi ha prou. Ha de poder rastrejar-se, verificar-se i romandre sota criteri clínic.