La intel·ligència artificial pot crear una major desigualtat social i econòmica

La intel·ligència artificial no és un ésser humà i com a tal s'equivoca. Els humans també ho fem, però nosaltres desconfiem de nosaltres mateixos, de la IA no ho fem! Creiem que un sistema d'intel·ligència d'aquesta magnitud té poques probabilitats d'equivocar-se i més si s'utilitzen per fer gestions administratives i governamentals. Doncs aquí està un dels errors més grans. El 2021, el govern dels Països Baixos va haver de dimitir perquè una investigació va destapar que, durant 10 anys, l'algoritme que utilitzava l'Agència Tributària per detectar fraus en termes d'ajudes socials, havia acusat erròniament 26.000 persones. Aquesta injustícia va provocar el caos nacional: provocant divorcis, desocupacions i la ruïna en la majoria dels casos. Unes 10.000 famílies van haver de retornar desenes de milers d'euros que els havien concedit amb anterioritat. El primer ministre Mark Rutte es va haver de disculpar, tot i que, el mal ja estava fet. Així doncs, què pot arribar a provocar la IA? 

Aquesta "violació dels drets fonamentals", com la va descriure la comissió parlamentària que va analitzar el cas, va plantejar una qüestió tant fonamental com vigent: amenaça la intel·ligència artificial (IA) amb accelerar i amplificar la desigualtat ja present a les nostres societats? Aquesta va ser la clau del debat celebrat a CaixaForum Macaya de Barcelona, l'últim d'un cicle centrat en la convivència entre aquesta emergent tecnologia i la democràcia.

Automatització esbiaixada

Tot i l'avís per a navegants neerlandesos, cada cop més països (també Espanya) adopten models algorítmics que automatitzen tota mena de processos, des de la concessió d'ajudes públiques a avaluar la possibilitat de reincidència dels presos. Les autoritats van a la IA amb la intenció d'optimitzar aquestes tasques. Tot i això, les respostes que genera no són pures i inqüestionables, sinó que són determinades per les dades amb les quals han estat entrenades, dades que reflecteixen els patrons de la nostra societat. "La IA no creix del terra com un bolet, no és una alteritat, sinó que està lligada al nostre sistema i a la nostra concepció del món", explica Núria Vallès, experta de l'Institut de Recerca a IA del Consell Superior d'Investigacions Científiques (CSIC).

La IA no creix del terra com un bolet, sinó que està lligada al nostre sistema i a la nostra concepció del món

Núria Vallès - Investigadora de l'Institut de Recerca a IA del CSIC

«Platja d’Aro tindrà un sistema de videovigilància amb intel·ligència artificial»

Aquest lligam inseparable entre la IA i una societat marcada per les divisions és el que intensifica el risc de discriminació. Per exemple, si la màquina conclou que estadísticament les comunitats vulnerables tenen més taxa de delinqüència serà més procliu a acusar-les, també injustament, sense tenir en compte el context. Com va documentar Virgina Eubanks, professora associada de Ciència Política de la Universitat d'Albany, al llibre 'L'automatització de la desigualtat', l'expansió d'aquests sistemes accentua l'exclusió dels més pobres.

A més, aquesta lògica condemna les seves víctimes, ja que prendre decisions vitals sobre la base de patrons passats nega a les persones la possibilitat de canvi i progrés, de lliure albir. "Si només se centra en el que ja existeix, la IA està apagant el futur", remarca Ana Valdivia, investigadora i professora a IA, Governança i Política a l'Oxford Internet Institute.

Desigualtat salarial

L'impacte social de la IA no es pot entendre sense la seva integració al mercat laboral. Des del seu desplegament, fa dècades, a indústries que van de la moda a l'automoció, aquesta tecnologia s'ha presentat com una oportunitat per millorar l'eficiència i la productivitat econòmica, dos elements considerats essencials per combatre la manca d'igualtats. Aquesta promesa es repeteix ara amb la febre comercial de la IA generativa iniciada amb el llançament de ChatGPT, el novembre del 2022, i protagonitzada per gegants com ara Microsoft o Google.

Tot i això, reputats acadèmics adverteixen que no ha estat així. Segons un estudi de Daron Acemoglu, economista del MIT, entre el 50% i el 70% del creixement de la desigualtat salarial als EUA entre el 1980 i el 2016 es va deure a l'automatització, la robòtica i els algorismes que reemplacen tasques dutes a terme per humans. En les darreres dècades s'ha debatut molt sobre si els salaris s'han desvinculat de la productivitat i si això és degut a la tecnologia o a la manca d'una distribució justa.

Rics més rics, pobres més pobres

Altres apunten que la digitalització laboral contribueix a fer que els rics siguin més rics i els pobres, encara més pobres. En un article publicat el 2022, l'economista Erik Brynjolfsson, director del Laboratori d'Economia Digital de Stanford, va assegurar que l'ús de la IA pot reduir els salaris de la majoria de gent "fins i tot quan amplifica el poder de mercat d'uns quants", bàsicament dels qui la controlen. Vallès coincideix a assenyalar que els més beneficiats per aquest procés "no voldran adoptar mesures" que alleugereixin la càrrega als que més pateixen, aquells col·lectius "més allunyats de la capacitat de definir l'agenda Politico-tecnològica".

L'economista i premi Nobel Joseph Stiglitz també ha posat èmfasi en el fet que la IA amenaça debilitar el poder de la classe treballadora. "Hem creat un sistema en què els treballadors no tenen gaire poder de negociació. En aquest tipus de món, la IA pot ser un aliat de l'empresari i debilitar encara més els treballadors, cosa que podria augmentar encara més la desigualtat", ha advertit l'expert a la disparitat de renda.

"La IA pot ser un aliat de l'empresari i debilitar el poder de negociació dels treballadors, cosa que podria augmentar encara més la desigualtat"

Joseph Stiglitz — Economista i premi Nobel

És per això que Valvidia crida a visibilitzar els obrers de la digitalització, llocs de treball crucials com els moderadors de ChatGPT que solen externalitzar-se a països pobres.

Anirà a més?

El boom de la IA generativa podria avivar encara més les disparitats socials. Així ho ha indicat el Fons Monetari Internacional (FMI), que assenyala que aquest augment de la polarització per ingressos i riquesa perjudicaria més els treballadors de més edat. Una recent anàlisi de la consultora McKinsey & Company calcula que aquesta tecnologia podria automatitzar gairebé el 10% dels llocs de treball als Estats Units i estima que els llocs de treball pitjor remunerats seran els més afectats. El 2014, molt abans de promoure els productes que comercialitza amb OpenAI, el seu actual director executiu, Sam Altman, va assegurar en una publicació al seu bloc que "sense intervenció, és probable que la tecnologia condueixi a una disparitat insostenible".

Valdivia remarca que, fins i tot, abans d'aplicar-se, la IA evidencia una divisió social flagrant. "Estem assistint a l'anunci d'inversions milionàries en centres de dades que consumiran moltíssima aigua i energia mentre hi continua havent gent sense accés a aquests recursos bàsics", lamenta. És per això que, ambdues expertes remarquen que les desigualtats estructurals de la societat no són la culpa de la IA ni se solucionaran només amb el seu ús, sinó que requereixen una veritable acció política que tingui a tothom en compte: "No hi ha solució simple per a problemes tan complexos".

Consulta aquí totes les notícies de Diari de Girona