La IA sacseja la campanya presidencial
Kamala Harris i Donald Trump, objectius d’atacs amb hipertrucatge en una cursa electoral ajustada
La IA desafia la verificació de fets i complica el control d’una desinformació desbocada
“Kamala Harris va celebrar l’anunci de Biden de retirar-se de la cursa presidencial”, deia un àudio que es va fer viral a les xarxes socials fa unes setmanes. Tot i que la notícia era falsa i es va desmentir ràpidament, l’àudio, generat amb intel·ligència artificial (IA), va fer la seva funció: difondre informació incorrecta sobre la candidata demòcrata. L’expresident Donald Trump també ha estat víctima d’hipertrucatge (deepfake), com un altre àudio en què s’imitava la seva veu insultant els espectadors de Fox News. Aquesta és la nova realitat de la campanya presidencial dels EUA del 2024.
Les eleccions, que es disputen entre la vicepresidenta Kamala Harris i Donald Trump, s’estan veient afectades per la proliferació de continguts generats amb IA, especialment en forma d’hipertrucatge. Aquesta tecnologia permet crear vídeos, àudios i imatges falses amb una precisió alarmant, i la seva expansió està sacsejant el debat públic i les enquestes, que mostren una cursa electoral molt ajustada. Els experts adverteixen que qualsevol interferència pot fer decantar la balança.
Segons The Washington Post, l’ús d’hipertrucatge per manipular àudios ha augmentat de manera exponencial des de principis del 2023. “La IA ha fet increïblement fàcil copiar la veu d’algú”, explica un article del diari, que destaca la creixent dificultat per detectar falsificacions. Això afecta especialment els candidats presidencials, amb milers d’hores de discursos i entrevistes disponibles en línia que esdevenen objectius fàcils per a la manipulació.
L’hipertrucatge és una falsificació d’àudio o de vídeo creada amb IA que permet simular que algú ha dit o ha fet alguna cosa que mai va passar. En l’àmbit polític, són utilitzats per crear notícies falses amb l’objectiu de desprestigiar candidats o manipular la percepció pública. Aquesta tecnologia no és nova, però en els últims anys, gràcies als avenços de la IA, s’ha fet més accessible i difícil de detectar.
Donald Trump ha estat objecte de diversos hipertrucatges. Un dels més recents el mostrava donant suport a teories conspiratòries sobre el frau electoral, mentre que un altre el va fer aparèixer insultant votants d’un dels seus propis mítings. Aquests vídeos, compartits massivament a les xarxes socials, han generat confusió entre els seus seguidors i han desencadenat una resposta furiosa de la seva campanya. Segons Associated Press, els mems i vídeos falsos no només provenen dels detractors de Trump, ja que els seus seguidors fan servir IA per generar continguts virals en què se’l mostra com un heroi patriòtic.
Harris tampoc ha estat immune a aquesta nova eina de desinformació. A més de l’àudio fals en què celebrava la retirada de Biden, Harris ha estat protagonista d’hipertrucatges que la caricaturitzen com una política radical o que la sexualitzen per deslegitimar-la. Aquestes representacions desinformen i alimenten narratives tòxiques en un moment polític polaritzat.
Els mitjans contraataquen
Arran d’aquest fenomen creixent, els mitjans de comunicació han hagut de prendre mesures per intentar contrarestar el poder de la IA en la desinformació electoral. Diaris com The New York Times i The Washington Post han dedicat recursos a la detecció d’hipertrucatges i han establert equips especialitzats en verificació de fets que utilitzen tècniques avançades per identificar continguts manipulats. El repte és enorme.
Un dels principals problemes amb l’hipertrucatge és que els algorismes que analitzen els patrons de veu i vídeo s’han tornat tan sofisticats que sovint és difícil distingir el fals de l’autèntic. “És més el que passa al voltant de la veu el que ho delata”, explicava Sarah Barrington, investigadora de la Universitat de Califòrnia en un article a The Washington Post. Pauses anormals, falta de variació en el to i absència de detalls subtils en les pauses poden ser indicis d’hipertrucatge. A la velocitat amb què millora la tecnologia, fins i tot aquests indicadors són cada cop més difícils de detectar.
Les xarxes socials, com TikTok i Instagram, intenten identificar i marcar contingut fals, però sovint fallen en l’intent. Els detectors d’hipertrucatge que utilitzen algunes plataformes no són infal·libles, i, fins i tot quan es detecta material manipulat, arriba a grans audiències abans de ser retirat. La lluita contra la desinformació és una cursa desigual. El problema de la desinformació impulsada per IA no es limita als EUA. Segons The New York Times, el 2024 haurà estat un any crític a escala global, amb eleccions en més de 83 països, incloent-hi grans potències com la Unió Europea, l’Índia i Mèxic. Les campanyes electorals d’arreu del món s’han vist afectades per la propagació de notícies falses i hipertrucatges. Rússia i la Xina utilitzen IA per disseminar narratives falses que erosionen la credibilitat dels seus oponents. Les tècniques de manipulació creuen fronteres i la desinformació circula a través de xarxes internacionals.
Segons el Brennan Center for Justice, un dels riscos més grans és que l’hipertrucatge per si mateix ja provoca una pèrdua de confiança en la informació electoral. La simple possibilitat que qualsevol peça de contingut pugui ser falsa fa que la ciutadania tingui més dificultats per creure en la veracitat de qualsevol notícia, fins i tot les reals.
Les campanyes de Harris i Trump són conscients del poder de la IA. Mentre que l’equip de Harris evita l’ús d’hipertrucatge i la manipulació del discurs públic, la campanya de Trump és més permeable a aquestes eines. L’ús de mems creats per IA per part dels seus seguidors, que el volen fer aparèixer com un defensor de les llibertats i un líder heroic, forma part d’una estratègia que barreja entreteniment i manipulació política.
Segons el Pew Research Center, un 57% dels nord-americans expressen una gran preocupació pel paper de la IA en la desinformació electoral. Plataformes digitals com X (antigament, Twitter), propietat d’Elon Musk, han estat acusades de no fer prou per controlar aquests continguts. Algunes de les imatges i vídeos més impactants de la campanya, com un hipertrucatge de Harris vestida de comunista, han estat compartits directament pel mateix Musk.
Ministraux pot transformar sectors com la robòtica
Mistral AI ha llançat “”, dues noves IA franceses dissenyades per funcionar localment en mòbils i portàtils. Els models, Ministral 3B i 8B, ofereixen una gran eficiència i rendiment, amb menys de 10.000 milions de paràmetres, permetent operacions sense connexió a servidors remots. Això obre oportunitats per a aplicacions que requereixen baixa latència i alta privacitat, com ara assistents virtuals i robots autònoms. Amb un disseny adaptat per a contextos complexos, podrien transformar sectors com la robòtica, gràcies a la seva alta eficiència computacional i rapidesa en la presa de decisions.
Música personalitzada a partir de vídeos i fotos
ha presentat Suno Scenes, una eina innovadora d’IA que genera música personalitzada a partir de vídeos i fotografies. Dirigida a usuaris sense coneixements musicals, l’eina ja permet crear bandes sonores per a records personals o projectes creatius. L’aplicació analitza imatges i vídeos per generar una banda sonora única, i es pot utilitzar en dispositius iOS als Estats Units, amb plans d’expansió a altres països. Suno treballa en noves funcionalitats, com ara la creació d’efectes sonors basats en imatges. Amb aquesta innovació, volen democratitzar la creació musical i oferir més opcions per personalitzar cançons.
Breus
Galtea, ‘spin-off’ del BSC per a IA generativa
El Barcelona Supercomputing Center ha llançat Galtea, una empresa emergent centrada en la implementació segura de la IA generativa per a empreses. Ofereix eines tecnològiques que garanteixen precisió, seguretat i compliment de les normatives europees, ajudant les empreses a adoptar aquesta tecnologia de manera responsable. Col·labora amb diversos sectors industrials per millorar la productivitat i la innovació de manera segura.
Meta preveu més acomiadaments i centrar-se en IA
Meta ha anunciat una altra tongada d’acomiadaments, que afecta departaments clau com ara Instagram i Reality Labs. Els ajustos arriben després d’un dels grans acomiadaments l’any passat. L’estratègia respon a la necessitat de redistribuir recursos cap a la IA i altres àrees de creixement, tot i que pot afectar la moral dels empleats que queden.
Repsol millora la productivitat amb IA generativa
Repsol ha aconseguit un estalvi mitjà de dues hores setmanals per empleat gràcies a l’ús de Copilot per a Microsoft 365, segons un estudi. Aquesta eina d’IA generativa ha demostrat un augment de l’eficiència i la qualitat del treball, especialment en àrees com ara operacions i producció, impulsant la seva adopció. A més, els treballadors han destacat una millora en la seva capacitat per resoldre tasques complexes i repetitives amb més rapidesa.
Èxit a Girona de la 17a edició de la Catosfera
La Catosfera, celebrada a Girona, ha conclòs amb més de 700 assistents. En aquesta edició, el debat sobre els riscos de la IA ha estat un dels temes centrals. L’organització ha destacat l’interès creixent pel futur digital i la participació activa del públic en els debats.
