Intel·ligència artificial? No, gràcies!

El títol d’aquest arti­cle és capciós, en tant que hi ha moltíssi­mes vari­ants d’intel·ligència arti­fi­cial (IA) que són molt bene­fi­ci­o­ses per a la huma­ni­tat. Com per exem­ple els pro­gra­mes d’anàlisi d’imat­ges mèdiques, que després d’haver-se entre­nat amb quan­ti­tats ingents d’imat­ges de paci­ents reals, apre­nen a dis­tin­gir indi­cis de malal­ties que podrien pas­sar des­a­per­ce­buts i, per tant, igno­rats, a la majo­ria de met­ges no espe­ci­a­lis­tes en aque­lla malal­tia. Però la IA també pot ser extre­ma­da­ment peri­llosa. La IA es clas­si­fica en tres tipus: espe­ci­a­lit­zada, gene­ral i superin­tel·ligència. L’espe­ci­a­lit­zada (també dita estreta o feble) és aque­lla que ha sigut cre­ada i entre­nada per a dur a terme només una tasca, i és la pre­do­mi­nant en les apli­ca­ci­ons ja dis­po­ni­bles. Per exem­ple, l’anàlisi d’imat­ges mèdiques per a iden­ti­fi­car càncers; l’anàlisi de com i quan reom­plir estocs d’una fàbrica o magat­zem, en funció dels patrons de demanda; o la més quo­ti­di­ana d’ana­lit­zar les fotos dels nos­tres mòbils per a clas­si­fi­car-les segons temàtiques, sense la nos­tra inter­venció. La gene­ral (o forta) seria la que pot pen­sar i fun­ci­o­nar com els humans. Segons molts, estem encara mol lluny de crear una IA gene­ral. Però, segons d’altres, algu­nes de les IA espe­ci­a­lit­za­des ja exis­tents avui dia podrien ser pre­cur­so­res via­bles d’una IA gene­ral. I el pro­blema de la IA gene­ral és que porta a la sin­gu­la­ri­tat i la superin­tel·ligència.

MÉS QUE NOSAL­TRES. La velo­ci­tat de trans­missió d’infor­mació dels sis­te­mes informàtics és uns 10,000 cops més ràpida que la dels orga­nis­mes biològics i, així, en cas que arribéssim a gene­rar una IA gene­ral, seria capaç d’apren­dre molt més de pressa que nosal­tres. Amb la qual cosa, un cop esta­blerta, ben aviat asso­li­ria la igual­tat amb la nos­tra intel·ligència, que és el que es coneix com la sin­gu­la­ri­tat. Però és que, a par­tir d’aquí, i com ja ha que­dat demos­trat amb sis­te­mes d’IA espe­ci­a­lit­zats ja exis­tents (vegeu Una nova intel·ligència, El Punt Avui, 1-maig-2018), el nivell i capa­ci­tats de les IA gene­rals crei­xe­ran de forma expo­nen­cial, esde­ve­nint, ben ràpida­ment, infi­ni­ta­ment supe­ri­ors a la intel·ligència humana. I és en referència a aquest perill que el dar­rer 29 de març l’Elon Musk, fun­da­dor de Tesla i Spa­ceX, jun­ta­ment amb mol­tes altres llu­me­ne­res del sec­tor tec­nològic, com ara Steve Woz­niak, cofun­da­dor d’Apple, i Jaan Tallinn, cofun­da­dor de Skype, varen publi­car un mani­fest en què recla­ma­ven una moratòria de sis mesos en el desen­vo­lu­pa­ment de tots els pro­gra­mes d’IA exis­tents, per tal de per­me­tre el debat i imple­men­tació de legis­lació que ens pro­te­geixi con­tra aquest risc. El mani­fest dis­para amb bala, i inclou afir­ma­ci­ons com ara: “Hem de desen­vo­lu­par ments arti­fi­ci­als que even­tu­al­ment puguin sobre­pas­sar les nos­tres, fer-nos obso­lets, i puguin subs­ti­tuir-nos?”, o “Aquesta mena de deci­si­ons no s’han de dele­gar a uns líders tec­nològics que no ha votat ningú”. També sug­ge­reix certs prin­ci­pis, extre­ma­da­ment rao­na­bles, per a aquesta legis­lació a desen­vo­lu­par, com que les res­tric­ci­ons, con­trols i pre­cau­ci­ons han de ser pro­por­ci­o­nals al risc exis­ten­cial que plan­te­gen les IA gene­rals.

CAP MENA DE LEGIS­LACIÓ. Afor­tu­na­da­ment, men­tre als EUA no s’està plan­te­jant cap mena de legis­lació ni se l’espera, al Par­la­ment Euro­peu s’està dis­cu­tint la Euro­pean Union’s Arti­fi­cial Inte­lli­gence Act, que hau­ria d’entrar en vigor a finals del 2023. I aquesta és una àrea en què la UE pot exer­cir un lide­ratge mun­dial de facto, com recent­ment va pas­sar en l’àrea del dret a la pri­va­desa. Efec­ti­va­ment, la UE no té poder mili­tar, però sí que té poder econòmic, en tant que repre­senta un mer­cat d’uns 500 mili­ons de per­so­nes. Com que les empre­ses no poden igno­rar aquest mer­cat, han de com­plir per força les lleis impo­sa­des per la UE, i, en comp­tes de tenir graus de com­pli­ment dife­rents per a dife­rents parts del món, amb els cos­tos afe­gits que això suposa, les empre­ses pre­fe­rei­xen adhe­rir-se a un sol con­junt de nor­mes, per força el més exi­gent. Així, la legis­lació de la UE iguala per dalt l’exigència a totes les empre­ses i pro­duc­tes del món. En el dar­rer segle, la huma­ni­tat ha après que tots els països del món s’havien d’auto­li­mi­tar en l’ús d’altres tec­no­lo­gies que també repre­sen­ta­ven risc exis­ten­cial, com les armes químiques, biològiques i nucle­ars. Per tant, sabem com fer-ho. Ara també ho hem de saber fer amb les IA gene­rals. Si no en sabem i ens aca­ben esbor­rant del mapa no serà sinó la con­fir­mació cir­cu­lar que mereixíem extin­gir-nos, en ser tan babaus com per per­me­tre la pro­li­fe­ració de les eines de la nos­tra pròpia des­trucció.