La IA és una realitat i encara que els metges encara han d'abordar-ne l'ús amb una mica més de seguretat i formació, forma part de la nostra sanitat i té efectes i impacte. Aquesta és una de les conclusions en què han coincidit quatre primers espases del Dret convocats pel XXXII Congrés Nacional de Dret Sanitari, celebrat a Madrid: Cristina Gil Membrado, catedràtica de Dret Civil de la Universitat de les Illes Balears; Raquel Luquin Bergareche, catedràtica de Dret Civil de la Universitat Pública de Navarra; Federico De Montalvo Jääskeläinen, professor ordinari de Dret Constitucional de la Universitat Pontifícia Comillas, i Óscar Monje Valmaseda, catedràtic de Dret Civil de la Facultat de Dret de la Universitat de Deusto.
De Montalvo ha estat el més específic: “No podem anar de ludites. Crec que aviat veurem temes de responsabilitat del metge per no haver-la volgut fer servir o per no haver-la fet servir quan podia utilitzar-la per no recórrer als instruments que té al seu abast per completar o millorar el diagnòstic. Acabarem tenint condemnes a metges que no volen utilitzar la IA que se'ls posa a la seva disposició. Ja no és una alternativa. Si la teva institució posa una IA a la teva disposició per ajudar-te en la teva feina, l'has de fer servir. Una altra cosa és que el problema de la IA està realment en el seu ús: si acabem incorrent en un biaix de delegació o d'automatització en què esperem que la IA resolgui sense que l'humà pensi... Això no. La IA té el seu lloc i ningú pot deixar d'utilitzar-la d'una manera sensata i adequada”.
Federico De Montalvo Jääskeläinen, professor Propi Ordinari de Dret Constitucional de la Universitat Pontifícia Comillas.
Gil Membrado també ha intervingut per matisar que “partim de la premissa que la màquina no pot fallar i que la màquina no pot tenir biaixos, però el cervell humà és infinitament esbiaixat. Haurem de veure quin és el nivell de biaix i d'error que li permetem a una màquina. Però com deia Federico [per De Montalvo] la IA és aquí i cal comptar-hi. És important no caure en el biaix d'automatització, és clar: no podem deixar que ens faci la feina sense que hi hagi una supervisió humana significativa, que és l'obligació del professional”.
Cristina Gil Membrado, catedràtica de Dret Civil de la Universitat de les Illes Balears. Investigadora principal del Projecte SALUDPYR
El marc que proposa De Montalvo obre la porta a múltiples escenaris: si un metge empra la IA sense conèixer -i per tant, sense actuar per mitigar- els biaixos, qui incorre en mala praxi: ell o el seu ocupador per no formar-lo?
Luquín aborda la qüestió: “El responsable del desplegament de la IA. De manera progressiva això s'haurà d'implantar. I els responsables d'aquest desplegament en l'àmbit de la salut haurien de formar -i em consta que en molts llocs ja ho estan fent- als metges. Entra dins de l'estàndard de diligència de la Lex Artis. Ara bé, també és veritat que cal ponderar el moment en què estem, que és d'adaptació, de progrés, de canvi. És una evolució més enllà del digital, molt més enllà del que suposava la telemedicina. És una altra cosa. Així que crec que els tribunals, sens dubte, atendran criteris de justícia, és clar, però també atendran la necessitat d'adaptar-se progressivament i a poc a poc, Però, per ser més clara: sí cal posar-se les piles”
Raquel Luquin Bergareche, catedràtica de Dret Civil de la Universitat Pública de Navarra. Investigadora principal del Projecte SALUDPYR
I, què passa en el cas de professionals sanitaris que utilitzen models comercials de IA que no estan validats per a l'ús en pacients?, ¿incorren també en mala praxi?
Monje s'ha ocupat d'atacar l'assumpte: “La realitat és que aquestes eines s'utilitzen. I aquest ús per prendre decisions podria generar responsabilitat, ja que, al final, els LLM es basen en la seva capacitat de càlcul i de càlcul de probabilitats i ens ofereixen una probabilitat, diguem, del 80 o el 90%. El problema és que aquests percentatges en Medicina no serveixen. I, a més, hi ha un afegit que pot estar succeint i de fet en sóc conscient que és així: que un professional reculli dins de l'historial mèdic del pacient que la presa de decisions ha estat en base a l'ús d'aquestes eines. Hem d'advertir els professionals que aquestes eines no són científiques”
Óscar Monje Valmaseda, catedràtic de Dret Civil de la Facultat de Dret. Universitat de Deusto
