Anthropic: “Bloccati tentativi di uso dell’AI per possibili ricerche su armi biologiche”

L'azienda di intelligenza artificiale Anthropic ha dichiarato di aver bloccato, negli ultimi mesi, diversi tentativi da parte di ricercatori scientifici di utilizzare versioni del suo software Claude in relazione al possibile sviluppo di armi biologiche.

La società, concorrente di OpenAI (sviluppatrice di ChatGPT), ha tuttavia avvertito che è difficile stabilire le intenzioni alla base di tali richieste, poiché la stessa ricerca può servire sia a scopi medici che militari. 

Anthropic ha affermato che i casi in questione dimostrano comunque come scienziati provenienti da regioni con accesso limitato - inclusi alcuni legati a enti governativi locali - abbiano cercato di accedere segretamente a sistemi di AI sviluppati da aziende statunitensi. Non sono stati menzionati né gli istituti di ricerca coinvolti né i paesi in cui hanno sede. 

In un rapporto dettagliato sui tentativi di uso improprio dei suoi modelli di AI, Anthropic ha elencato cinque casi collegati a possibili ricerche su armi biologiche. Secondo l'azienda, i ricercatori non chiedevano assistenza scientifica specifica, bensì supporto organizzativo, come aiuto nella stesura di documenti. 

I modelli di AI sono generalmente progettati per rifiutare assistenza nello sviluppo di armi biologiche. Tuttavia, Anthropic ha osservato che, quando una ricerca può avere finalità sia mediche che militari, a volte risulta difficile tracciare una linea netta tra intenzioni innocue e malevole. 

In un caso bloccato dall'azienda, un ricercatore ha tentato di utilizzare Claude per la stesura di una richiesta di finanziamento per una ricerca su un virus. Il progetto prevedeva la cosiddetta ricerca di "acquisizione di funzione" (gain-of-function), che mira ad aumentare la trasmissibilità di un agente patogeno. Questo approccio è comunemente utilizzato nei laboratori per sviluppare contromisure, ma può anche essere impiegato per lo sviluppo di armi biologiche.