Suplement

L'entrevista

Ulises Cortés: “El cotxe autònom és un atemptat horrible”

Joan Garcia
16 de novembre de 2019

Cotxes que es condueixen sols, aplicacions mòbils que reconeixen qui surt a una foto i on està feta, telescopis que avisen els científics si detecten alguna cosa extraordinària o diagnòstics mèdics acurats o guiats per ordinadors. Són els beneficis d’una disciplina informàtica que revolucionarà molts procediments on abans calia que hi participés una ment humana. Perquè aquests ginys funcionin, cal que s’hagin entrenat abans amb un nombre ingent de dades. I aquest és un dels punts foscos de l’invent. Quines dades s’utilitzen per preparar els algoritmes? D’on s’aconsegueixen? En parlem amb el mexicà Ulises Cortés, responsable del grup d’Intel·ligència Artificial d’Alt Rendiment del Centre Nacional de Supercomputació de Barcelona.

No per molt òbvia, la pregunta és menys necessària. Què és la intel·ligència artificial (IA)?
És una disciplina científica que neix a cavall entre la lògica, la informàtica i l’enginyeria mecànica als anys 40, l’objectiu de la qual és entendre els mecanismes que subjauen en les formes de raonament humà i, en particular, en aquelles que donen origen a un fenomen que anomenem intel·ligència entre els animals, perquè abans només es parlava d’intel·ligència humana i aquesta visió antropocèntrica no completava la figura de la disciplina. Ens interessa ser capaços de reproduir aquests mecanismes de raonament, programar-los i fer-los funcionar a la vida real. Tant físicament com virtualment. Amb màquines que interactuen en l’entorn físic, però d’altres, moltes, que viuen a l’espai virtual.

Anys 40? Sembla que tot just faci quatre dies que se’n parla…
La disciplina, amb el nom d’intel·ligència artificial, va néixer l’any 56. Abans, des dels anys 40, se’n deia cibernètica. No és nou intentar entendre els mecanismes del raonament. Ramon Llull ja feia alguna cosa [Ars Magna, al s. XIV]. Al-Khwarazmí [s. IX] ja parlava dels algoritmes i de fet algoritme ve de la traducció llatina del seu cognom. Sempre hem tingut la necessitat d’entendre com pensem. Pascal, Descartes i molts altres van fer –fins i tot– màquines, però no és fins a la invenció del transistor i després del microxip que ho hem pogut fer a l’engròs i simular milers d’elements de càlcul que comencen a semblar el que podria ser un ésser humà.

Copiem el raonament humà perquè és el millor sistema que hi ha o perquè és el que coneixem més?
Copiar no. És entendre’l per reproduir-lo. No és mimesi en el sentit aristotèlic. Volem estudiar-lo per entendre els mecanismes subjacents i reproduir-los. Si els copiéssim, correríem el perill de no entendre què hi ha darrere i no sabríem per què pren una decisió o altra. Això passa en uns mecanismes que s’anomenen deep learning. Hi ha màquines que donen resultats que busquem, però no podem saber les causes de la seva decisió i ens deixa indiferents. En molts casos no és necessari que es doni aquesta explicació vàlida, però des del meu punt de vista, no tenir-la, d’alguna manera, no aconsegueix la finalitat de la intel·ligència artificial, tot i que des del punt de vista tècnic o comercial tingui sentit.

Però podria ser que una IA ens arribés a explicar alguns enigmes existencials que tenim com, per exemple, el que ens queda per saber de l’origen de l’univers?
No ho sé. Però quan hàgim aconseguit l’objectiu final de la IA, haurem produït una intel·ligència diferent de la nostra i llavors tindrem un diàleg fructífer. Però si una màquina ara et diu el què, però no el com, per a mi seria com no haver-ho descobert.

Hi ha moltes novel·les i pel·lícules de fa dècades, o mig segle, que ja expressaven molts dels dubtes actuals que hi ha amb la IA, com que les màquines es rebel·lin. És perquè els autors o autores eren visionaris, o perquè els científics investiguen guiats per assolir aquests conceptes de l’imaginari popular?
Sempre n’hi ha hagut, de futuristes, gent que pensa com serà el futur. En ciència-ficció aquest gènere sorgeix del what if (i si…?). Però hem de pensar que si anem enrere fins als grecs, ja hi ha un mite dels treballadors autònoms a la forja de Vulcano, uns petits éssers animats que fan coses. Ja hi ha robots en aquella època, tot i que no es poden anomenar robots perquè robota és una paraula que ve de txec. Hi ha una obra de ciència-ficció dels germans txecs Karel i Josef Čapek que parla d’un home que fa una fàbrica d’esclaus artificials (R.U.R, 1921) i de com aquests s’alliberen i es rebel·len. I encara abans d’això. És el mateix argument dels esclaus romans. Ho hem vist cent vegades a les pel·lícules: gent que treballa per l’imperi, que aprenen a fer servir les seves armes, a escriure… i es rebel·len. I molts més anys després, Blade Runner, que parla de robots que ja no són metàl·lics, sinó que tenen característiques fisiològiques humanes i fins i tot generen records propis. I això ja és una altra història més perillosa.

És important que detectem quan parlem amb una persona o amb una IA?
Això té relació amb el test de Turing, que és la prova que Alan Turing proposava per discernir si una màquina mantenia un comportament intel·ligent, i que es basava en si una persona avaluadora era capaç o no de descobrir si tenia una conversa amb una màquina o amb una altra persona. Per a mi no és important, perquè quan despenjo el telèfon tampoc sé qui hi ha a l’altre cantó. A més, avui en dia, la màquina continua sent molt idiota i no és capaç d’entendre el que dic. Però arribarà un moment en què hi hagi avatars [representacions de nosaltres] que es moguin i tinguin emocions. Jo veia una sèrie de dibuixos animats que es deia Els Jetsons. Quan es despertaven les senyores es posaven un avatar amb imatges d’elles molt ben arreglades, fins que una d’elles esternudava, marxava l’avatar i es veia com era realment. Els avatars també poden amagar-nos a nosaltres, i també a una màquina que hi pot haver al darrere.

Tot i això, vostè diu que no hem de dir que la IA és “el nou llop”, perquè si no llavors, quan vingui de veritat i calgui patir, no sabrem reaccionar. De què hem de patir?
Això té a veure amb una posició humanística de l’ús de la tecnologia. El nostre valor com a individus és la intimitat, i si hi ha algú que és capaç de minar la nostra intimitat travessant les fronteres de la privacitat, ens està anul·lant com a individus, que és el que han intentat totes les tiranies. 1984 [de George Orwell, 1949] és un exemple de com anar més enllà, de dominar la població, però també de fer-los pensar de la manera que els interessa.

Doncs el meu compte de Gmail conté més informació personal de mi que la que pugui recordar…
Hem de saber amb qui compartim les nostres dades. Per això tenim confidents i amics. I si tenim conflictes morals, fins fa pocs anys, el capellà, o als EUA amb el psiquiatre (si no, demaneu-ho a Woody Allen). Així que, en un entorn poc regulat com internet, les grans companyies ho han aprofitat per apropiar-se de les nostres dades i han canviat el sentit del seu propòsit original. L’objectiu inicial de Google era ordenar tots els continguts de la xarxa per poder trobar-los d’una manera més eficient. Tenir més informació et fa més lliure, deien. Però ara han canviat això per saber quines coses busques per indagar en la teva personalitat. Ofereixen productes gratuïts a canvi de la cessió de les teves dades.

Ja ens avisen quan ens donem d’alta, de tot això, oi?
Està clar que ningú llegeix els contractes de les apps gratis, i els que ho proven no els entenen perquè estan escrits en legal. S’ha d’entendre que els advocats han pervertit moltes vegades el seu ofici en benefici de les empreses i en contra dels ciutadans, i els governs no ho han evitat. Una de les coses que no sabem és on és el servidor on es guarden les dades. Si està a Europa, està obligat a seguir les nostres regles, però si està a 900 milles nàutiques, ja no. Hem de protegir-nos i hem d’evitar la distòpia que ens fan creure de forma contínua, que ens fa arribar a dir que com que no tenim res a amagar, no importa que sàpiguen informació nostra. Segur que no tens res a amagar, però ells no tenen dret a furgar en allò que tu tampoc vols amagar. I això no només ho fan empreses, sinó partits polítics.

Hi ha aplicacions positives?
N’hi ha moltes! Per exemple, hi ha un anunci lacrimogen d’Amazon i Alexa [el seu assistent de veu personal], d’una persona invident que es comunica amb la realitat a través d’ell. I és cert que pot ajudar a expandir les capacitats de persones amb discapacitat, sempre que hi hagi un contracte social que reguli l’intercanvi d’informació i que sigui clar. Ara ha sortit el tema de Google Suite amb les escoles. Se’m posen els pèls de punta que el facin servir.

Gràcies –o per culpa– de Google, ja no cal recordar molta informació perquè la tens tota a la butxaca, al mòbil. Fent la metàfora amb la IA, hi ha el perill de deixar de pensar perquè ja ho farà ella?
Ja està passant. La gent que va amb GPS no sap utilitzar mapa. Si ara cauen els servidors i has de conduir, com ho fas? Et tornes dependent. És la mateixa història dels cotxes autònoms. Per què els volem? Per què els necessitem? Qui en treu avantatge?

A mi m’agradaria poder aprofitar el temps dels trajectes per fer coses.

Això és absurd. Paga a un taxista. Tenir un cotxe et dona autonomia i privacitat. Jo no vull que sàpiguen on he anat, per on, a quina velocitat, qui m’acompanya… No ho vull. El cotxe autònom és un atemptat horrible. Si els governs volen reduir els accidents, que no es venguin cotxes que superin els límits de velocitat. El que sí pots implantar és un detector que no deixi arrancar si detecta que has begut. Veus, això sí que és interessant.

  • Compartir

Deixa un comentari

L'adreça electrònica no es publicarà. Els camps necessaris estan marcats amb *