El cap d’Anthropic demana d’alentir el desenvolupament de la IA per no “perdre’n el control”

El director general d’Anthropic, Dario Amodei, ha demanat de “frenar el ritme” de desenvolupament de la intel·ligència artificial. Ha avisat que es corre el risc de “perdre’n el control” i que això pot comportar “atacs informàtics”, “bioterrorisme” o “greus problemes econòmics”. “Hem d’alentir la millora de les capacitats dels models d’IA. Els avenços continuarien essent ràpids i aprofitaríem amb seny el temps que guanyaríem”, ha dit Amodei en un text publicat al seu blog.

Amodei, responsable de l’empresa creadora de Claude, destaca dos motius principals per a aquesta crida a la prudència. El primer és l’“automillora recursiva” de la IA. És a dir, la capacitat per a desenvolupar-se a si mateixa, que ha permès “avanços dràstics” durant l’estiu. Segons ell, si no es controla, “podria ultrapassar la nostra capacitat de comprendre i controlar aquests sistemes”.

El segon motiu és un fet recent, l’anomenat “incident de Hugging Face d’OpenAI”, en què un conjunt de sistemes d’IA van dur a terme atacs informàtics coordinats sense petició inicial, sacrificant-se “pel bé del grup” segons Amodei. Diu que aquests sistemes “podrien haver causat un dany catastròfic”. També alerta que han passat incidents semblants en altres empreses, entre les quals Anthropic.

Amodei insisteix que, més enllà d’aquests atacs informàtics, el desenvolupament imprudent de la IA podria facilitar el bioterrorisme o causar problemes greus en l’economia. Per això proposa reforçar les mesures de seguretat i la normativa, sense renunciar a l’“èxit comercial”. “Cal donar prioritat a la cautela per sobre de la velocitat, i a la prudència per damunt del benefici”, ha remarcat.

Propostes per garantir la seguretat

Entre les mesures concretes, planteja una “avaluació incorporada” a càrrec d’actors independents, la “coordinació democràtica” amb les institucions públiques i la “coordinació global” que sumi els esforços tant de països democràtics com d’autoritaris.

“Les mesures que proposo per fer avançar la frontera a un ritme segur no seran fàcils, però crec que ho devem a la humanitat”, ha afegit. Segons que ha explicat, Amodei ha rebut crítiques i l’han acusat d’alarmisme arran de les seves advertències prèvies sobre el desenvolupament de la IA i els perills associats.