“S’està desplegant sense garanties”

Jo diria que la primera tesi doctoral en IA feta aquí devia ser de fa més de 40 anys i la va fer Ramón López de Mántaras, que va ser fundador i director de l’Institut d’Investigació d’Intel·ligència Artificial del CSIC. Des de llavors, l’ecosistema ha crescut de manera estable i ha evolucionat en diverses verticals especialitzades en robòtica en visió per computador, en ètica… No hem aparegut com un bolet, fa molts anys que estem treballant en això i hem cobert tot el continu, des de la investigació bàsica fins a l’impacte econòmic i social. Potser no hem estat visualitzats fins ara, però sí que som molt potents.

El principal problema és que ChatGPT és el que en diem un model de llenguatge, que està entrenat amb no se sap quin coneixement per sintetitzar llenguatge natural. La idea és que generi un llenguatge que soni bé, però que no té perquè ser correcte.

Exacte. El problema és que és la indústria ho està testant en viu. Els mateixos desenvolupadors diuen que el sistema té errades i que el millor sistema per trobar-los és treure’l al carrer i veure què falla. És una política rara... s’imagina que els fabricants de cotxes fessin el mateix?

Quan els interessos privats es barregen amb alguna cosa emergent, que esclata d’aquesta manera, es fa una barreja que pot ser molt perillosa. La IA per si mateixa és una disciplina que pot ajudar en moltes coses i tenir un efecte molt important en la societat, però si la llancem sense control i es prioritzen els interessos comercials de les empreses tindrem un problema. I el tindrem aviat.

Ara mateix ja tenim un doble problema. El desconeixement existent sobre aquests sistemes, sobre què poden i què no poden fer, i que hi ha moltes ganes d’integrar-ho en productes reals, que tindran un efecte molt positiu per a aquestes empreses, però sense que hi hagi hagut temps per crear un context legal per regular-ho.

És clar, no ho tindrem en tres dies. Per això les iniciatives d’alguns països com Itàlia, que n’han prohibit l’ús, poden donar una mica de temps per gestionar-ho. Ara mateix s’està desplegant de manera ràpida, poc supervisada i sense garanties. S’ha llançat sense haver fet les proves necessàries ni haver explicat bé per a què serveix.