Algorismes contra la reincidència dels presos
RisCanvi, que prediu des del 2009 el risc de reincidència dels presos catalans, sota escrutini
El sistema estadístic disposa de 50.000 avaluacions i aporta objectivitat a decisions humanes
ProPublica va revelar el 2016 que Compas tenia un biaix contra els reclusos negres dels EUA
L’ús de la intel·ligència artificial (IA) en l’administració de Justícia és un tema de debat mundial. A Catalunya, l’algorisme RisCanvi, implementat el 2009, ha transformat la manera com es valoren els riscos de reincidència dels presos. Aquesta eina digital, tot i no ser una IA amb aprenentatge automàtic, aporta més objectivitat i criteris científics a la presa de decisions judicials, substituint en part la subjectivitat dels professionals.
L’algorisme RisCanvi va néixer arran de la preocupació social per la reincidència delictiva violenta i la necessitat de millorar la tecnificació dels professionals penitenciaris. Des del 2009, aquest sistema s’utilitza regularment per avaluar els riscos dels presos en els centres penitenciaris catalans. RisCanvi es basa en un model de regressió múltiple i inclou diversos factors de risc per ajudar a prendre decisions sobre la concessió de permisos i la planificació de la intervenció.
Segons el doctor de psicologia de la Universitat de Barcelona Antonio Andrés Pueyo, del Grup d’Estudis Avançats en Violència, que va participar en la creació de RisCanvi, l’algorisme s’ha revisat i calibrat quatre vegades des del seu llançament, per assegurar la seva eficàcia i precisió. El sistema ha realitzat més de 50.000 avaluacions des del 2010 i ha contribuït a mantenir una de les taxes de reincidència més baixes d’Europa: només un 21% dels presos catalans reincideixen.
RisCanvi no és pròpiament una IA, ja que no incorpora aprenentatge automàtic. És una eina digital basada en tecnologia estadística, on la informació és introduïda per humans i les decisions finals també són preses per humans, després d’una avaluació detallada per un equip multidisciplinari format per psicòlegs, metges i educadors. Això garanteix que l’algorisme només complementi la presa de decisions, aportant més objectivitat i reduint biaixos o subjectivitats humanes.
El principal avantatge de RisCanvi és la seva capacitat per homogeneïtzar les valoracions de risc entre diferents centres penitenciaris, per assegurar que es prenguin decisions basades en criteris objectius i científics. Això és especialment important en un àmbit tan delicat com la justícia, on les decisions afecten directament els drets fonamentals de les persones.
Crítiques i auditories
Tot i els beneficis, RisCanvi ha estat objecte de crítiques per la seva manca de transparència. Alguns mitjans han publicat que els resultats proporcionats per l’algorisme són “atzarosos” i han criticat la manca d’informació pública sobre el seu funcionament intern. Entitats com Eticas AI, fundada i dirigida per Gemma Galdon-Clavell, han demanat que les dades de l’algorisme es facin públiques per garantir la transparència i permetre una auditoria independent.
En resposta a aquestes crítiques, s’han realitzat diverses auditories, la més recent per part de Dribia. Aquesta auditoria va identificar possibles millores, com la sistematització de la recollida de dades i la implementació de models predictius més moderns basats en IA, com el Catboost. També es va recomanar fer públic el codi i la documentació de l’algorisme per permetre la revisió per tercers.
Catalunya no és l’únic país que utilitza algorismes per avaluar el risc de reincidència dels presos. Als Estats Units, l’algorisme Compas s’ha utilitzat des del 1998 per predir el risc de reincidència, tot i que ha estat envoltat de polèmica. El 2016, una investigació de ProPublica va revelar que Compas discriminava la població negra, una troballa confirmada posteriorment per un estudi del Massachusetts Institute of Technology (MIT). Aquest cas destaca la importància de garantir la transparència i l’auditoria independent dels algorismes per evitar biaixos discriminatoris.
A Europa, altres països també han implementat sistemes similars. Per exemple, el Regne Unit utilitza l’algorisme Oasys per avaluar els riscos dels presos. Aquest sistema ha estat elogiat per la seva capacitat de millorar la precisió de les avaluacions, tot i que també ha rebut crítiques per la seva complexitat i la necessitat de formació contínua per als professionals que l’utilitzen.
La regulació europea
L’entrada en vigor del reglament europeu d’IA, conegut com la AI Act, tindrà un impacte significatiu en l’ús d’eines com RisCanvi. Aquest reglament estableix normes estrictes per garantir que els sistemes d’IA siguin transparents, ètics i lliures de biaixos discriminatoris. Això podria requerir ajustos en el funcionament de RisCanvi per complir les noves normes i assegurar que els informes que s’eleven al jutge siguin justos i equitatius.
El debat sobre l’ús de la IA en l’exercici de la justícia, no tant en l’administració burocràtica, és un debat apassionant. El president de la Sala Segona del Tribunal Suprem, Manuel Marchena, va pronunciar al març una conferència sobre Inteligencia Artificial y responsabilidad civil por daños i va advocar perquè “la dictadura digital d’un robot no substitueixi un jutge”. “Qui respon pels danys robòtics, entenent com a tals els produïts per la IA? Demandem el propietari? Demandem el programador? Contra qui dirigim la demanda?”, es preguntava el controvertit magistrat que va sentenciar els líders independentistes catalans. Els mateixos que s’escandalitzen per possibles biaixos algorítmics adopten decisions judicials humanes més que qüestionables. O no haurien preferit els líders independentistes que els hagués jutjat una IA en lloc d’un tribunal presidit per Marchena? Que l’última paraula abans de dictar sentència o de concedir una llibertat condicional a un reclús estigui en mans d’un humà també serà qüestionat amb els anys a mesura que avanci la IA.
Al marge d’aquest debat, el Departament de Justícia va presentar l’Estratègia Justícia Digital 2030, amb l’objectiu de transformar l’administració de justícia en un servei completament digitalitzat. Aquest pla inclou la implementació de sistemes automatitzats per a tasques burocràtiques i administratives, així com la millora de la transparència i l’accessibilitat als serveis judicials.
Fetcher.ai: Capta talent amb una automatització
Fetcher usa IA per automatitzar les tasques tedioses de la captació de talent. En lloc de buscar manualment a LinkedIn i bases de dades, Fetcher retorna una llista de candidats basant-se en els criteris dels professionals de RH. Genera i envia correus personalitzats, cosa que facilita programar les campanyes.
Leena: Optimitza i automatitza per a recursos humans
Leena AI és un model de llenguatge avançat que ajuda els departaments de recursos humans (RH) a automatitzar i optimitzar la gestió de serveis i planificació. Amb un bot de conversa integrat, allibera els professionals de RH de tasques rutinàries. També gestiona peticions de temps lliure i fa de taula de suport.
NICE CXone: Atenció al client intel·ligent
NICE CXone SmartAssist, impulsat per Amelia, ofereix bots de conversa que interactuen amb clients via text o veu. Integrat amb la base de coneixements de l’empresa, els clients poden triar entre text o veu segons la preferència, fet que millora la resolució ràpida i la satisfacció. Detecta el sentiment del client.
Fireflies: Optimització de reunions amb IA
Fireflies és una eina d’optimització per transcriure, resumir i analitzar converses de veu. Integrada amb plataformes de videoconferència i emmagatzematge al núvol, genera transcripcions de reunions. Els usuaris busquen per paraules clau, temes o sentiment de la conversa, i això facilita la revisió de notes.
Diccionari
Iterar
Iterar significa repetir un procés amb l’objectiu d’aproximar-se cada vegada més a un resultat desitjat. En el context de la programació i l’aprenentatge automàtic, iterar implica actualitzar els paràmetres del model en múltiples passos fins a aconseguir la millor solució. La iteració és essencial per a tècniques com el descens del gradient.
Internet de les coses (IdC)
L’internet de les coses (IdC, o IoT segons la sigla en anglès) es refereix a la xarxa d’objectes físics connectats a internet que poden recopilar i intercanviar dades. Els dispositius inclouen electrodomèstics, vehicles, sensors i altres objectes quotidians. L’IdC permet automatitzar processos, millorar l’eficiència i proporcionar dades valuoses per a la presa de decisions en temps real.
Cadena de blocs
La cadena de blocs (blockchain) és una tecnologia de registre distribuït que permet emmagatzemar dades de manera segura, transparent i immutable. Cada bloc de dades està enllaçat al bloc anterior, formant una cadena. Aquesta tecnologia s’utilitza principalment en criptomonedes com el Bitcoin, però també té aplicacions en la traçabilitat de subministraments, contractes intel·ligents i altres sectors.
Codi obert
El codi obert (open source) es refereix a programaris que tenen el codi font accessible per a qualsevol persona. Això permet als desenvolupadors estudiar, modificar i millorar el programari de manera col·laborativa. El codi obert fomenta la innovació i la transparència, i en són exemples populars Linux, Apache i TensorFlow.
