Yuval Noah Harari, el catastrofista de la IA

Yuval Noah Harari ha explo­rat els grans temes de la història humana, des de l’evo­lució de l’Homo sapi­ens fins als des­a­fi­a­ments futurs com la bio­tec­no­lo­gia i la IA. Harari ha expres­sat repe­ti­da­ment la seva pre­o­cu­pació pels perills poten­ci­als de la IA. En una entre­vista recent, va asse­nya­lar que la IA podria amenaçar la super­vivència de la civi­lit­zació humana, no tant a través de robots assas­sins, sinó mit­jançant la seva capa­ci­tat per mani­pu­lar el llen­guatge i crear nar­ra­ti­ves pode­ro­ses. “La IA ha hacke­jat el sis­tema ope­ra­tiu de la nos­tra civi­lit­zació”, va adver­tir Harari.

Una de les tesis cen­trals de Harari és que les nar­ra­ti­ves com­par­ti­des són el que per­met la coo­pe­ració i la coor­di­nació entre grans grups humans. Aquest poder de les nar­ra­ti­ves, diu Harari, podria ser explo­tat per la IA per influir en la política, l’eco­no­mia i fins i tot la religió. “Què pas­sarà quan una intel·ligència no humana sigui millor que l’ésser humà mitjà per expli­car històries, com­pon­dre melo­dies, dibui­xar imat­ges i redac­tar lleis i escrip­tu­res?”, es pre­gunta.

Harari defensa que és essen­cial esta­blir regu­la­ci­ons estric­tes per a la IA abans que sigui massa tard. Ha com­pa­rat aquesta neces­si­tat amb la regu­lació de la tec­no­lo­gia nuclear després de la Segona Guerra Mun­dial. “Des del 1945, sabem que la tec­no­lo­gia nuclear pot gene­rar ener­gia barata per al nos­tre bene­fici, però també pot des­truir física­ment la nos­tra civi­lit­zació. Ara ens enfron­tem a una nova arma de des­trucció mas­siva que pot ani­qui­lar el nos­tre món men­tal i social”, ha afir­mat.

Harari pro­posa que qual­se­vol IA hau­ria de pas­sar per con­trols de segu­re­tat rigo­ro­sos abans d’arri­bar al públic. “Neces­si­tem un equi­va­lent a la FDA per a les noves tec­no­lo­gies”, diu amb referència a l’Admi­nis­tració d’Ali­ments i Fàrmacs dels EUA.

Harari també parla sobre els ris­cos en ter­mes de pri­va­ci­tat i mani­pu­lació social. Creu que les noves eines d’IA es podrien uti­lit­zar per crear una falsa inti­mi­tat amb les per­so­nes i influir en les seves opi­ni­ons i com­por­ta­ments d’una manera mai vista. Les pre­o­cu­pa­ci­ons són part d’un debat més ampli sobre els perills poten­ci­als i la neces­si­tat de mesu­res de segu­re­tat estric­tes.

Harari és cone­gut per la seva capa­ci­tat de comu­ni­car idees com­ple­xes de manera clara i acces­si­ble. És per això que els seus lli­bres són lle­gits per mili­ons de per­so­nes.