Alicia Batlle – Responsable de Comunicació Linde Mèdica & Linde Gas
Fa uns dies llegia sobre una nova aplicació de la intel·ligència artificial que comença a obrir-se camí en la investigació de mercats: els focus groups sintètics. En lloc de reunir consumidors reals, escoltar les seves opinions, observar els seus dubtes, les seves contradiccions o allò que potser ni tan sols havien pensat abans de seure a conversar, és possible crear perfils virtuals amb determinades característiques demogràfiques, culturals i psicològiques i preguntar-los què comprarien, quin missatge els convenceria o com reaccionarien davant d’un producte que encara no existeix.
La proposta resulta difícil d’ignorar. És ràpida, extraordinàriament barata i permet repetir un estudi tantes vegades com calgui, modificant variables gairebé sense cost. També pot ser útil per explorar hipòtesis, anticipar possibles objeccions o detectar preguntes que després valdrà la pena plantejar a persones reals. El problema comença quan deixem d’entendre-la com una eina per formular hipòtesis i comencem a tractar les seves respostes com a coneixement sobre els éssers humans que pretén representar.
Un model pot rebre una descripció minuciosa d’una persona: dona, 58 anys, viu en una determinada ciutat, té un nivell concret d’estudis, una determinada renda, fills, una malaltia crònica, certs hàbits o trets de personalitat. Pot produir després una resposta extraordinàriament versemblant. Fins i tot pot introduir vacil·lacions, dubtes, desacords i una certa aparença de contradicció. Però darrere d’aquesta resposta no hi ha una dona de 58 anys que hagi viscut cinquanta-vuit anys.
Hi ha una inferència que, permeteu-me, ni podem ni hem de passar per alt.
Convé remarcar aquesta diferència ara, abans que la capacitat creixent de les màquines per representar lingüísticament allò humà acabi fent-nos oblidar allò que estem realment mesurant.
La qüestió adquireix una dimensió molt més delicada quan traslladem aquesta lògica a la salut. Pensem per un moment en una investigació destinada a conèixer com reben els pacients una determinada informació mèdica. Volem saber quin missatge genera més confiança, quin s’entén millor o quina forma de comunicar un diagnòstic afavoreix una determinada decisió. Fins ara, la resposta sembla evident: caldrà preguntar-ho als pacients.
Però tècnicament comença a ser possible fer una cosa diferent. Construir centenars de pacients sintètics amb edats, sexes, patologies, nivells educatius i característiques diferents, exposar-los als mateixos missatges i obtenir en poques hores una enorme quantitat de respostes aparentment humanes.
El resultat podria ser impecable sobre el paper: mostres àmplies, segmentacions sofisticades, taules, percentatges i diferències entre grups. Podríem acabar descrivint com reaccionen els pacients davant d’una informació sense que cap pacient hagués participat realment en la investigació.
Ens trobem davant d’alguna cosa força més important que la discussió sobre la precisió actual dels models: Quina mena de coneixement sobre una persona podem considerar vàlid quan aquesta persona ha estat substituïda per una representació computacional de com suposem que hauria de pensar, sentir o decidir?
La literatura recent obliga a ser prudents. Alguns estudis que han comparat respostes humanes amb les de participants sintètics estan trobant distorsions sistemàtiques: menor capacitat per reproduir diferències individuals, estereotips, biaixos de representació i una tendència a oferir respostes més coherents o racionals que les dels éssers humans reals. Un estudi publicat enguany que va comparar persones amb els seus propis “bessons digitals”, construïts a partir de centenars de respostes prèvies de cada participant, va trobar una correlació mitjana de només 0,20 entre les respostes humanes posteriors i les d’aquests models.
La dada importa, però per a mi importa encara més el que revela sobre el problema.
Podem demanar-li a una intel·ligència artificial que representi una dona amb MPOC, per exemple. Podem informar-li de la seva edat, del temps transcorregut des del diagnòstic, que va ser fumadora, que viu amb la seva parella i que durant anys ha assumit responsabilitats de cura. El model disposa de prou rastres lingüístics i coneixement acumulat com per generar un relat perfectament plausible sobre l’estigma, l’adherència al tractament, la por a la dependència o la dificultat per prioritzar la seva pròpia salut.
El que no podem concloure d’aquesta plausibilitat és que haguem accedit a l’experiència d’aquesta dona.
Haver cuidat algú no equival a conèixer estadísticament com solen parlar qui han cuidat. Sentir vergonya en utilitzar un dispositiu mèdic en públic no equival a disposar de milions de textos en què altres han descrit aquesta vergonya i haver retardat una consulta perquè algú necessitava més de tu que tu mateixa no pot reduir-se sense més a una combinació particularment afinada de variables.
La biografia humana té una qualitat incòmoda per a qualsevol sistema de classificació: desborda les categories amb què intentem explicar-la.
Dos persones amb diagnòstic, edat, sexe, nivell socioeconòmic i tractament idèntics poden interpretar de manera radicalment diferent la mateixa informació mèdica, perquè cap d’aquestes variables conté per complet allò que han viscut abans de rebre-la. Som les nostres experiències, relacions, records, contradiccions i les circumstàncies des de les quals una determinada informació adquireix sentit.
Precisament per això resulta preocupant que l’enorme capacitat dels models generatius per produir llenguatge humà pugui conduir-nos a confondre semblança lingüística amb equivalència humana. Una intel·ligència artificial no necessita experimentar por per escriure sobre la por de manera convincent. Tampoc necessita confiar per produir una resposta que expressi confiança, ni dubtar per construir un dubte perfectament reconeixible. Aquesta és, precisament, una de les seves capacitats més extraordinàries. Però la investigació hauria de ser especialment curosa per no convertir aquesta extraordinària capacitat de representació en una prova que darrere de la representació existeix allò que estem intentant conèixer.
Res d’això implica renunciar als participants sintètics. Poden resultar enormement útils per explorar escenaris, sotmetre missatges a una primera prova, detectar possibles biaixos, generar hipòtesis o descobrir preguntes que un equip investigador no havia contemplat. En aquests usos, la intel·ligència artificial pot ampliar la nostra mirada abans de trobar-nos amb les persones.
Una altra cosa molt diferent seria permetre que reemplaçés aquesta trobada. Perquè llavors l’estalvi de temps i costos podria introduir silenciosament una altra forma de pèrdua. Les persones reals són metodològicament incòmodes: responen de manera inesperada, interpreten malament les nostres preguntes, es contradiuen, canvien d’opinió, guarden silenci, introdueixen qüestions que no estaven en el nostre qüestionari i obliguen a revisar categories que crèiem perfectament construïdes.
Però aquesta incomoditat no és un defecte del mètode, és precisament el lloc on comença el coneixement.
Ens preguntem insistentment fins a quin punt una intel·ligència artificial pot parlar com nosaltres. L’aparició de consumidors, ciutadans o pacients sintètics obliga a formular una pregunta diferent i molt més urgent: en quin moment començarem a considerar que parlar com nosaltres és suficient per poder parlar en nom nostre?
La medicina ha dedicat dècades a defensar que el pacient ha d’estar al centre. Convé assegurar-nos que, mentre incorporem la intel·ligència artificial a la investigació, no acabem construint un centre perfectament modelitzat en què el pacient real ja no hi sigui.