La IA, cap a l’oligopoli cultural?

Un model d’IA no té intenció ni consciència, té l’habilitat de produir un output, que és resultat del contingut que ha consumit per entrenar-se. Això provoca que alguns large language models (LLM) entrenats principalment en textos d’una cultura concreta, generin respostes ofensives o inadequades per als usuaris de cultures diferents. Molts dels LLM més coneguts com Llama 3.3, GPT-4 o DeepSeek-R1, tenen biaixos racials significatius. Molts dels models no absorbeixen una quantitat proporcional d’informació de les diferents cultures del món, cada una amb maneres de pensar i comunicar-se pròpies. A més, molts dels moderadors d’aquests models, individus amb creences pròpies, no són estrictament objectius a l’hora de corregir i entrenar la IA i sovint les transmeten al model de llenguatge en entrenament. El resultat d’aquestes males pràctiques és un LLM, que en més del 45% dels casos, a més de generar respostes ajustades a una realitat concreta en el món i perpetuar-ne els seus biaixos i estereotips, malinterpreta i infravalora altres visions del món. La IA avança a un pas accelerat i està a l’abast de cada cop més persones. Si els governs no en regulen l’evolució amb noves legislacions, podríem entrar en una era de desintegració de cultures minoritàries o pròpies de països en vies de desenvolupament. Moltes de les cultures diverses d’arreu del món estan en risc de dissipar-se i ser reemplaçades per un oligopoli cultural controlat per les potències mundials que dominaran la IA universalment en un futur.