Yuval Noah Harari, el catastrofista de la IA
L’historiador israelià reclama una regulació estricta de la IA per protegir la humanitat
Yuval Noah Harari ha explorat els grans temes de la història humana, des de l’evolució de l’Homo sapiens fins als desafiaments futurs com la biotecnologia i la IA. Harari ha expressat repetidament la seva preocupació pels perills potencials de la IA. En una entrevista recent, va assenyalar que la IA podria amenaçar la supervivència de la civilització humana, no tant a través de robots assassins, sinó mitjançant la seva capacitat per manipular el llenguatge i crear narratives poderoses. “La IA ha hackejat el sistema operatiu de la nostra civilització”, va advertir Harari.
Una de les tesis centrals de Harari és que les narratives compartides són el que permet la cooperació i la coordinació entre grans grups humans. Aquest poder de les narratives, diu Harari, podria ser explotat per la IA per influir en la política, l’economia i fins i tot la religió. “Què passarà quan una intel·ligència no humana sigui millor que l’ésser humà mitjà per explicar històries, compondre melodies, dibuixar imatges i redactar lleis i escriptures?”, es pregunta.
Harari defensa que és essencial establir regulacions estrictes per a la IA abans que sigui massa tard. Ha comparat aquesta necessitat amb la regulació de la tecnologia nuclear després de la Segona Guerra Mundial. “Des del 1945, sabem que la tecnologia nuclear pot generar energia barata per al nostre benefici, però també pot destruir físicament la nostra civilització. Ara ens enfrontem a una nova arma de destrucció massiva que pot aniquilar el nostre món mental i social”, ha afirmat.
Harari proposa que qualsevol IA hauria de passar per controls de seguretat rigorosos abans d’arribar al públic. “Necessitem un equivalent a la FDA per a les noves tecnologies”, diu amb referència a l’Administració d’Aliments i Fàrmacs dels EUA.
Harari també parla sobre els riscos en termes de privacitat i manipulació social. Creu que les noves eines d’IA es podrien utilitzar per crear una falsa intimitat amb les persones i influir en les seves opinions i comportaments d’una manera mai vista. Les preocupacions són part d’un debat més ampli sobre els perills potencials i la necessitat de mesures de seguretat estrictes.
Harari és conegut per la seva capacitat de comunicar idees complexes de manera clara i accessible. És per això que els seus llibres són llegits per milions de persones.
