Torres Assiego (URJC) alerta sobre el factor geopolític i la IA: “Una cosa és governar la intel·ligència artificial i una cosa és regular-la”
Una experta ha posat sobre la taula els reptes i els riscos de la governança de la IA en un marc geopolític cada cop més complex i amb més arestes. En la seva opinió, la Unió Europea hauria de ser més decidida en defensa del seu model.
Covadonga Torres Assiego és professora d'Història del Dret a la Universitat Rey Juan Carlos de Madrid i ha introduït el vector geopolític en la conversa sobre la regulació i la governança de la IA en un món cada cop més interrelacionat i amb mercats més afilats. En aquest context, i li sonarà, la Unió Europea fa mesos que discuteix sobre l'autonomia estratègica i la millor manera de fer front als reptes que la nova geopolítica planteja. La visió de Torres Assiego, que ha compartit al XXXII Congrés de Dret Sanitari, aterra tots aquests conceptes a la IA i la seva presència a la nostra sanitat.
“Estem contemplant el fenomen de la sobirania o la governança de dades. Jo sóc molt crítica amb la Unió Europea, però m'identifico com a europea, però contemplo amb tristesa la manca de sobirania, que recentment s'ha posat de manifest en aquella cimera de Ialta 2.0 entre Estats Units, Rússia i la Xina en la qual la UE no hi era present. Recordareu el presoner que accepta la realitat que relatava Viktor Frankl a L'home a la recerca de sentit. Això és el que jo recomano a Europa: la persona més poderosa, segons Frankl, és aquella que accepta la realitat. Perquè quan ho fas, actues en conseqüència. Ara mateix la Unió Europea no accepta la realitat. I em preocupa que no ho faci per coses com aquesta cimera de Ialta 2.0 en què Europa hauria d'estar present. Perquè una cosa és governar la intel·ligència artificial i una altra és regular-la. I estem perdent crec aquesta batalla. Les grans Big Tech es posicionen, que són la nord-americana i la xinesa. I al final no oblidem que fins i tot Vladímir Putin va declarar que la intel·ligència artificial seria l'escenari de la nova guerra mundial, el que ara mateix s'anomena segons Pedro Baños la guerra híbrida o la guerra cognitiva”.
Covadonga Torres, professora doctora de la Facultat de Dret a la Universitat Rey Juan Carlos de Madrid.
Per a Torres Assiego el reglament de la intel·ligència artificial és un grandíssim avanç com a eina per lluitar contra els biaixos en incorporar una visió ètica de les dades. Ha recordat un cas dels Estats Units sobre persones amb càncer de pell no diagnosticat perquè la IA de l'hospital que les atenia no era capaç d'identificar lesions en determinats tons de pell perquè el seu Big Data s'havia nodrit, essencialment, de dades de persones del nord global. “Afortunadament, la UE té clar que vol treballar contra aquests biaixos per evitar situacions així en els nostres pacients i compta amb aquest enfocament ètic”.
És precisament aquest factor ètic el que ha portat a diferents països, segons la professora, a imitar el nostre Reglament de la Intel·ligència Artificial i aquest element de supervisió humana. “Això és una cosa que a mi em preocupa molt: quants sanitaris comparteixen amb Claude, Gemini o qualsevol tipus de IA generativa dades clíniques sense saber que la versió gratuïta les dades volen i que s'utilitzen per entrenar l'algoritme ja sigui a un centre de dades vés a saber on, o que se les queda realment aquella gran Big Tech? Molta gent ho desconeix. Si és una versió gratuïta, totes aquestes dades s'utilitzen per entrenar l'algoritme. I si s'utilitzen per entrenar l'algoritme. Quants metges són conscients al nostre país actualment que han d'aplicar el reglament de la intel·ligència artificial en alt risc? Jo els recomano encoratjadament que facin un seguiment exhaustiu diari sobre l'ús de la IA per a casos i dades clíniques”.
Des de la seva perspectiva, la gran pregunta de què passa quan la IA falla, de qui és la responsabilitat?, té també una perspectiva geopolítica: “Si és un error de fàbrica, s'entén que és el proveïdor. I si és de fora? Qui paga la multa? iniciem diligències als Estats Units o la Xina? Perquè parlem de dades clíniques. On queda la identificació de les dades i on es resguarda tot aquest tipus d'identificació?, s'ha preguntat.
L'escàndol de Nvidia
La ponent ha entrellaçat també l'actualitat més rabiosa amb la geopolítica, arran de les vicissituds de Nvidia i el seu exCEO Jensen Huang: “L'escàndol és molt més greu del que sembla. En Medicina s'empren les targetes i els microprocessadors d'aquesta companyia, que està sent intervinguda pels Estats Units per una qüestió d'emergència nacional. Qui té les dades que han passat per aquí? Crec que la Unió Europea té grandíssimes i boníssimes intencions amb la seva RIA i és una estela que hem de continuar, però alhora ens hem de protegir les espatlles”.
Aquesta protecció estaria relacionada amb, per exemple, la notícia que Anthropic va desconnectar els seus models més recents (Fable 5 i Mythos 5) per complir una directiva del Govern dels EUA que en prohibia l'ús a estrangers. Per a Torres Assiego, això posaria en risc l'autonomia estratègica, ja que “en qualsevol moment podrien tallar el fil i deixar-nos sense poder utilitzar certa tecnologia. Estem davant d'una gran oportunitat perquè la Unió Europea vagi més enllà i no només reguli la intel·ligència artificial, sinó que també la creï perquè siguem sobirans i no se'ns privi de cap tipus de intel·ligència artificial”.