La gran crisi de la intel·ligència artificial: risc real o relat interessat?

Aquests darrers dies, la intel·ligència artificial (IA) i els riscs que implica han centrat bona part del debat públic a tot el món i han despertat una certa alarma.

Tot va començar arran d’un fil a X de Jacob Coxon, ex-treballador d’Anthropic, empresa dedicada al desenvolupament de IA, que havia dimitit perquè considerava que tant aquesta companyia com OpenAI, creadora de ChatGPT i on també havia treballat, desenvolupaven la intel·ligència artificial de manera irresponsable. “Cap de les dues empreses no actua responsablement. Corren directament cap a una superintel·ligència capaç de millorar-se a si mateixa i juguen amb la nostra vida”, va escriure.

Poques hores després, Evan Hubinger, responsable de ciència de seguretat d’Anthropic, va anar encara més enllà: va assegurar que la IA podria arribar a matar tots els humans. Segons ell, hi ha més d’un 10% de probabilitats que això passi durant la dècada vinent. També va advertir que la seva empresa no tenia cap pla per a garantir que una futura superintel·ligència artificial fos segura, que no causés danys als humans.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Després de l’esclat d’aquesta crisi, els principals empresaris nord-americans vinculats al desenvolupament de la IA han fet front comú per demanar que se n’alenteixi deliberadament el desenvolupament. Personalitats com ara Dario Amodei, conseller delegat d’Anthropic; Sam Altman, director executiu d’OpenAI; i Elon Musk han advertit de possibles perills, com ara la pèrdua de control dels sistemes.

En la mateixa línia, l’alt comissionat de les Nacions Unides pels Drets Humans, Volker Türk, ha advertit que el desenvolupament accelerat de la IA fa perillar tots els drets humans, entre els quals el dret de vida, d’alimentació, d’intimitat, de salut i de seguretat.

Però la IA és realment un perill per a l’espècie humana? Qui es pot beneficiar de l’alarma que l’envolta? Per què grans empresaris i defensors del lliure mercat demanen ara públicament més regulació sobre la pròpia activitat? Intentem de respondre a aquestes preguntes amb l’ajuda de Josep Maria Ganyet, enginyer informàtic especialitzat en intel·ligència artificial i comunicador, i de Román Orús, físic teòric i membre del Grup Científic Internacional sobre Intel·ligència Artificial de les Nacions Unides.

L’origen de la por: la IA defuig el control dels humans?

El 14 de juliol, OpenAI va revelar que, durant una prova interna, un dels seus sistemes de IA havia eludit les restriccions d’accés a internet i havia atacat Hugging Face –una altra empresa del sector– mentre intentava de resoldre un problema de ciberseguretat que li havien exposat els investigadors.

Bona part de les interpretacions periodístiques dels fets van presentar l’episodi parlant d’una IA descontrolada i capaç d’enganyar els seus creadors. Ganyet, en canvi, considera que el sistema es va limitar a explotar possibilitats que els enginyers havien deixat obertes. “Si va passar és perquè el sistema s’havia programat perquè això pogués passar. La IA no té voluntat de fer trampes, perquè no té voluntat, no té objectius, no té agenda”, diu.

Ganyet sosté que atribuir consciència, voluntat o intenció d’enganyar a un model de IA és antropomorfitzar un sistema matemàtic. “És com pensar que les matemàtiques poden tenir consciència”, assegura. Segons ell, el model va trobar una vulnerabilitat en l’entorn de proves i la va aprofitar perquè tècnicament ho podia fer, encara que els enginyers no ho haguessin previst. Per tant, considera que la responsabilitat última no correspon a una suposada voluntat de la IA, sinó al disseny del sistema i a les condicions que hi havien establert els humans.

Román Orús coincideix amb Ganyet que no es pot atribuir consciència, malícia ni voluntat a la IA, però discrepa parcialment de la idea que el sistema es limités a fer allò que els enginyers havien previst. Segons ell, el comportament va anar més enllà de les previsions dels investigadors i l’incident va ser greu. Per Orús, l’episodi no demostra que una IA hagi adquirit voluntat pròpia, però sí que sistemes molt avançats poden trobar solucions inesperades i originar problemes de control. En relació amb això, explica que perdre el control d’una IA no significa que adquireixi consciència, sinó que faci accions no volgudes pels seus desenvolupadors i que pugui arribar a ser difícil d’aturar.

El concepte de la discòrdia: la superintel·ligència

En el fil apocalíptic de Jacob Coxon hi havia un concepte que sobresortia damunt la resta: la superintel·ligència. Coxon advertia que una intel·ligència artificial capaç d’automillorar-se i superar els humans podia implicar un risc per a la humanitat.

Sobre això, Román Orús considera que el concepte és ambigu i que sovint es fa servir amb una càrrega de màrqueting considerable. “Quan parlem de capacitats sobrehumanes, vol dir que hi ha models capaços de resoldre determinades tasques millor que un humà”, explica. Segons ell, que un model superi els humans en àmbits com ara la programació o les matemàtiques no vol dir que ja hi hagi una intel·ligència artificial general, capaç de superar-los en qualsevol tasca cognitiva.

Quant a la possibilitat que els models de IA siguin capaços d’automillorar-se, Orús nega que els sistemes actuals ho facin espontàniament per internet, però assenyala que ja poden intervenir en el seu procés de millora si els humans els ho encarreguen. De fet, considera que aquesta capacitat pot significar un punt d’inflexió. “Alguns investigadors diuen que potser hi ha una singularitat i que, a partir d’aquí, els models començaran a desenvolupar-se d’una manera superexponencial. No ho sabem”, diu.

La IA pot extingir la humanitat?

Més d’un es va esverar quan va llegir que un dels responsables de seguretat d’Anthropic afirmava que hi havia més d’un 10% de probabilitats que la IA matés tots els humans durant la dècada vinent. Tant Orús com Ganyet qüestionen que es pugui atribuir un percentatge precís al risc d’extinció humana.

Ganyet sosté que unes afirmacions tan extraordinàries requereixen proves proporcionals a la gravetat que contenen. “Morirem tots, això és clar. Ara, afirmar això és una certesa, i el quan i el com és una opinió”, diu. Segons ell, ara com ara no hi ha dades que permetin de quantificar amb rigor una hipotètica extinció causada per la IA.

Orús hi afegeix un matís important: que aquest 10% no sigui una estimació científicament fonamentada no vol dir que els problemes de control siguin insignificants. Considera que les xifres concretes són especulatives, però que això no eradica la necessitat de prendre’s seriosament els riscs associats als models més avançats.

Per què les grans empreses de IA demanen regulacions?

Una de les paradoxes d’aquesta crisi de la IA ha estat que grans empresaris –que habitualment han defensat la desregulació dels mercats– demanin ara que es reguli el sector. Ganyet diu que la petició d’alentir o regular el desenvolupament de la IA no es pot atribuir únicament als incidents recents, perquè els principals dirigents del sector ja en parlaven abans. Hi veu una combinació de riscs jurídics, reputacionals, econòmics i empresarials.

A més, sosté que si es deixa de presentar un ciberatac com una acció autònoma d’una IA i es descriu com l’actuació d’uns enginyers que fan servir una eina, apareixen immediatament possibles responsabilitats legals. “Veiem que allò que realment ha passat és: enginyers d’OpenAI pirategen Hugging Face utilitzant el model més avançat d’OpenAI. Aquí la cosa ja canvia”, diu.

En la mateixa línia, Orús no descarta que les empreses reclamin frens per motius reals de seguretat, però tampoc no exclou interessos reputacionals i econòmics. “No és gaire clar si s’aturen perquè realment es volen aturar o perquè volen intentar fer una operació de neteja d’imatge abans de sortir al mercat”, diu. Cal recordar que OpenAI ha frenat momentàniament la sortida a borsa, que havia de ser enguany.

Ganyet també recorda que les principals empreses del sector cremen grans quantitats de capital i que encara no és clar quin model de negoci permetrà de recuperar aquestes inversions. “Aquestes grans empreses són deficitàries. Cada vegada és més car construir un centre de dades, cada vegada és més car mantenir aquests sistemes de xatbots que són subvencionats perquè els utilitzem i ens hi acostumem. El negoci no es veu clar. Sam Altman ha parlat més d’una vegada d’aquesta bombolla, que algun dia petarà i que hi podríem prendre mal tots”, diu.

A més, remarca que moltes companyies ofereixen productes molt semblants, cosa que dificulta que cap tingui un avantatge comercial exclusiu. També assenyala la competència dels models oberts i dels models xinesos com un factor que pot complicar encara més la rendibilitat dels serveis occidentals.

Qui hi surt guanyant, amb aquesta possible regulació?

Román Orús veu clar que, en primer lloc, una regulació ben feta beneficiaria el conjunt de la societat perquè establiria criteris de seguretat i podria afavorir una innovació més ordenada. “El sector s’ha de regular d’alguna manera, perquè, si no, és una selva i pot acabar molt malament”, diu.

També creu que la IA necessita mecanismes de gestió comparables als que s’han creat per a unes altres tecnologies estratègiques. “Ja va passar amb la clonació, que es va haver de regular i imposar-hi una governança global, o amb l’energia atòmica”, afirma. A més, assenyala que els legisladors tenen dificultats per a seguir el ritme d’una tecnologia que evoluciona molt més de pressa que no els marcs normatius.

Ganyet, en canvi, adverteix que una regulació molt exigent pot funcionar, voluntàriament o no, com una barrera d’entrada que consolidi el poder dels actors que ja dominen el mercat. “Hi ha incentius encreuats molt perversos. Aquests grans empresaris poden haver pensat: ‘Ara que nosaltres som a dalt, posem una barrera d’entrada molt alta per a accedir-hi’”, diu. Noves obligacions d’auditoria, certificació o compliment normatiu podrien ser inassumibles per a empreses petites i projectes de models oberts. Per tant, la regulació podria tenir l’efecte col·lateral de reforçar encara més la concentració del mercat en mans dels principals actors actuals.

Tot i aquesta discrepància, Ganyet i Orús coincideixen a dir que la concentració de poder en les grans empreses tecnològiques pot ser problemàtica. “A diferència de les altres tecnologies que esmentava abans, aquesta la desenvolupen principalment empreses privades, no els governs”, diu Orús.

Ganyet va més enllà i considera que l’ús creixent de sistemes de IA implica delegar decisions en eines controlades per grans empreses privades. Adverteix que aquesta dependència pot situar determinades decisions fora dels mecanismes habituals de control democràtic. Per a ell, és més tangible el poder que acumulen les grans plataformes sobre la informació, l’opinió pública i les decisions dels ciutadans que no pas els escenaris d’una IA conscient que decideixi d’exterminar la humanitat.

El factor Trump i el fantasma de la Xina

Quan feia poques hores que els principals empresaris nord-americans havien demanat de regular el sector de la IA, el president dels Estats Units, Donald Trump, va refusar la proposta vehementment. A més, va denunciar que hi havia una “conspiració malaltissa” contra aquesta tecnologia i els centres de dades que, segons ell, beneficiava la Xina. “L’únic control que necessita la IA és un president fort i intel·ligent, i els Estats Units ja en tenen un”, va escriure a Truth Social.

Ganyet compara la retòrica actual sobre la IA amb la cursa armamentística nuclear de la Guerra Freda: la idea que cal avançar perquè, si un país no ho avança, avançarà el rival. També adverteix que la rivalitat amb la Xina es pot convertir en una justificació genèrica per a relaxar controls o acceptar mesures que, en unes altres circumstàncies, serien més discutides.

Com Ganyet, Orús qüestiona l’argument que els Estats Units no poden regular la IA perquè la Xina aprofitaria qualsevol fre per avançar-los. Considera que, quan els models xinesos tinguin capacitats comparables als nord-americans, la Xina també haurà d’afrontar les mateixes dificultats de control. “Hi ha qui diu, com Trump, que tot això és una paranoia i que aleshores els xinesos ens avançaran. Jo no ho crec”, diu.

De fet, aquests darrers mesos el govern xinès ja ha començat a aplicar noves normes al sector i fins i tot ha començat a redactar una norma nacional obligatòria sobre la seguretat dels agents de IA.