Ciència

Helen Toner, artífex de la pugna a OpenAI

Exmembre de la junta d’OpenAI, és clau en els debats regulatoris de la IA, tot i perdre contra Sam Altman

Helen Toner, experta en gover­nança de la intel·ligència arti­fi­cial (IA), va pro­ta­go­nit­zar un dels capítols més des­ta­cats de la tec­no­lo­gia el novem­bre del 2023, quan va deci­dir, jun­ta­ment amb tres mem­bres més de la junta direc­tiva d’Ope­nAI, des­ti­tuir el CEO Sam Alt­man. Aquesta decisió, moti­vada per la falta de trans­parència d’Alt­man, va des­en­ca­de­nar una crisi a la com­pa­nyia que va com­por­tar el retorn d’Alt­man al càrrec al cap de pocs dies i la dimissió de Toner i els altres mem­bres dis­si­dents.

Segons va expli­car Toner mesos després, la des­ti­tució es va basar en múlti­ples acci­ons d’Alt­man, inclo­ent-hi la falta de comu­ni­cació sobre con­flic­tes d’interes­sos rela­ci­o­nats amb fons d’inversió d’Ope­nAI i infor­mació ine­xacta sobre els pro­ces­sos de segu­re­tat de la IA. Tot i que el con­sell poste­rior d’Ope­nAI va rebut­jar les acu­sa­ci­ons, la crisi va posar de mani­fest la tensió crei­xent entre la inno­vació tec­nològica i la neces­si­tat de garan­tir una gover­nança ètica i trans­pa­rent.

Toner, que recent­ment ha estat inclosa en la llista dels 100 per­so­nat­ges més influ­ents en el món de la IA segons la revista Time, ha acon­se­guit un paper cen­tral en els debats glo­bals sobre la regu­lació. Col·labora amb legis­la­dors d’arreu del món per crear polítiques sòlides que equi­li­brin el desen­vo­lu­pa­ment amb la segu­re­tat.

Després de la seva renúncia a Ope­nAI, Toner s’ha cen­trat a aler­tar sobre els ris­cos de la IA quan és con­tro­lada única­ment per les empre­ses pri­va­des. Segons ha expres­sat en diver­sos fòrums, inclo­ent-hi una entre­vista recent amb el Finan­cial Times, con­fia que la regu­lació externa és indis­pen­sa­ble per garan­tir que la IA es desen­vo­lupi de manera segura per a la soci­e­tat. “És invi­a­ble espe­rar que l’auto­re­gu­lació fun­ci­oni a llarg ter­mini”, va afir­mar.

L’epi­sodi de la des­ti­tució d’Alt­man, tot i la seva apa­rent der­rota, va ele­var el per­fil de Toner, que s’ha con­ver­tit en una figura clau per als legis­la­dors que volen regu­lar la IA. Segons ella, “les empre­ses neces­si­ten un sis­tema de gover­nança amb super­visió externa per evi­tar que la com­petència i els incen­tius comer­ci­als por­tin a un ús irres­pon­sa­ble”.

Avui, Toner con­ti­nua ofe­rint les seves reco­ma­na­ci­ons sobre la gover­nança de la IA, amb l’objec­tiu d’evi­tar que un grup reduït de per­so­nes pren­gui deci­si­ons amb un impacte glo­bal.

Un referent de l’altruisme
Helen Toner, nascuda a Melbourne (Austràlia), és directora del Centre per la Seguretat i les Tecnologies Emergents a la Universitat de Georgetown i ha estat membre de la junta d’OpenAI fins a la crisi del novembre del 2023.
Influent a Washington
El seu focus se centra ara a educar polítics i reguladors sobre els riscos de deixar la seguretat de la IA en mans de les empreses, especialment quan tenen incentius econòmics que en poden comprometre la seguretat. Legisladors, mitjans de comunicació i podcasters sol·liciten la seva opinió últimament, motiu que explica que sortís a la portada de ‘Time’ com una de les persones més rellevants de la IA global.


Identificar-me. Si ja sou usuari verificat, us heu d'identificar. Vull ser usuari verificat. Per escriure un comentari cal ser usuari verificat.
Nota: Per aportar comentaris al web és indispensable ser usuari verificat i acceptar les Normes de Participació.