1. La intel·ligència artificial: dels robots a les dades

Sobre els robots

"La intel·ligència artificial podria escombrar la humanitat quan arribi a ser massa intel·ligent, ja que els humans seran com formigues". Il·lustrat amb la fotografia d'un enorme robot al diari The Independent, aquest titular del físic Stephen Hawking va donar la volta alarmant el món. Els experts, però, no li donen massa importància. Per Héctor Geffner, professor ICREA a la Universitat Pompeu Fabra, els robots són encara maldestres i "la intel·ligència general de les màquines a un nivell humà solament existeix de moment a les pel·lícules. Són capaces de reaccionar, però tenen poca flexibilitat i no tenen vida mental".

Carme Torras, investigadora a l'Institut de Robòtica i Informàtica Industrial del CSIC, comparteix que "avui dia, els humans són més perillosos que els robots", però reivindica el seu desenvolupament actual. El seu grup treballa en robots assistencials que ajuden a vestir-se a persones dependents, i reivindica que ja existeixen robots usant-se en logística o com a recepcionistes, robots que discriminen què ha d'anar a les escombraries o a un rentavaixelles, i fins i tot apunta el fet que hi hagi robots-mascotes, dissenyats per mostrar i provocar emocions. Això últim obre tot un camp ètic que ja s'ha anomenat "roboética", i que per a Torres està motivada en part per "la humanització dels robots, la percepció que hi ha un humà a dins". Per Torres la gran pregunta és: "Com evolucionarà la naturalesa humana amb l'augment de la interacció entre humans i robots? I, per extensió: pot aquesta evolució predir-se?"

Un dels problemes per estudiar aquesta evolució és la limitació del llenguatge a l'hora de descriure el futur. En paraules de Heidegger: "És a través de la tecnologia que percebem el mar com a navegable". D'aquí que molts dels dilemes es trobin en el terreny de la ciència-ficció, un dels papers, segons Torras, és el “d’anticipar possibles escenaris”. Escenaris que es troben en llibres com els d'Asimov, Philip K. Dick o Ray Bradbury, en pel·lícules com "Eva" o en sèries com "Black Mirror". La pròpia Torras és autora del llibre de ciència-ficció "La mutació sentimental", a través del qual està desenvolupant un projecte educatiu.

Sobre les dades

L'augment en la capacitat de computació dels ordinadors i, sobretot, la instauració d'Internet i l'increment exponencial de les dades disponibles han fet que la intel·ligència artificial comenci a estar present en molts aspectes de la nostra vida. Els algoritmes estan darrere de moltes de les notícies que llegim i dels anuncis que ens arriben, però també poden estar darrere de l'anàlisi dels crèdits o les assegurances que demanem, del filtre inicial dels nostres currículums o de l'estudi d'algunes dades de la nostra salut. I no és gens desgavellat pensar que estaran també guiant els nostres propis vehicles, que en un futur passaran segurament a ser completament autònoms.

Una de les àrees més estudiades és la de les xarxes socials i l'accés a la informació, amb notables implicacions i perills. Per exemple a l'hora de condicionar eleccions, com se suggereix que va succeir en usar la intel·ligència artificial per personalitzar els missatges a la campanya de Donald Trump.

Independentment de campanyes puntuals, els algoritmes, segons Cornelius Puschmann –investigador al Hans Bredow Institute for Media Research en Hamburg– "són una forma confusa en què a vegades es parla de la intel·ligència artificial", i són els responsables de "triar" –en base al nostre perfil i anteriors preferències– quines notícies tendeixen a aparèixer en els murs de les nostres xarxes socials. Hi ha dues tendències que els algoritmes i les xarxes fan emergir, i cap està exempta de perills. La primera, com va comentar Camilo Cristancho, investigador a la Universitat Autònoma de Barcelona, ​​és la formació de "càmeres d'eco" en què els individus tendeixen a ajuntar-se amb els seus semblants. L'altra són les "bombolles de filtre": bombolles ideològiques com a conseqüència de la individualització de continguts oferts pels algoritmes en base a les preferències passades, i que amenacen de potenciar en excés les idees ja establertes, minimitzant el matís i la pluralitat.

Hauríem de preocupar-nos per les bombolles de filtre? Segons Puschmann no excessivament. "Des d'un punt de vista periodístic no és una cosa nova, portem 50 anys estudiant-ho". Per Walter Quattrociocchi, cap del Laboratori de Ciència Social Computacional a l'IMT de Lucca, a Itàlia: "encara és objecte de debat si aquestes bombolles són creades per l'algoritme o són una simple tendència de l'ésser humà".

Segons Puschmann, el que sembla més evident és que el que causa por és la sensació de pèrdua de control, el fet que alguna cosa no-humana tingui capacitat de decisió. En un experiment amb usuaris de Facebook, més de la meitat desconeixien que hi havia un algoritme darrere dels seus murs, i la primera reacció en ser informats va ser de sorpresa i ràbia. No obstant això, diversos mesos després, i després d’haver-los ensenyat el seu funcionament, la seva satisfacció era semblant a la que tenien abans d'haver-ho "descobert". I el seu ús de Facebook, més gran del que era abans.

Quattrociochi investiga fonamentalment com la informació errònia es propaga per la xarxa, fet que lliga amb la designada paraula de l'any el 2016, la post-veritat, un concepte que el seu significat "denota circumstàncies en què els fets objectius influeixen menys en la formació de l'opinió pública que les crides a l'emoció i a la creença personal". I també amb l'anomenat biaix de confirmació, "l'actitud que porta a buscar la informació que confirmi les pròpies creences". Fins i tot el Fòrum Econòmic Mundial ha assenyalat a la massiva informació errònia digital com "un dels principals riscos per a la nostra societat".

Les investigacions de Quattrociochi confirmen la clara existència de càmeres de ressò, dins de les quals les dinàmiques de reforç són semblants sigui quin sigui el motiu en comú. Potser el més preocupant és que els usuaris més actius i "compromesos" en aquestes càmeres tendeixen a ser els que defensen teories conspiradores (a l'estil dels que proclamen l'existència d'OVNIS o la relació entre les vacunes i l'autisme). I encara més preocupant és la següent paradoxa: la publicació dins d'aquestes càmeres d'informació rigorosa que busca desacreditar les seves teories no només no ho aconsegueix, sinó que és contraproduent. És a dir, els insta a reforçar la seva posició inicial.