Anthropic, nuovi incidenti degli agenti AI: dalle richieste di visto alla segnalazione di omicidio

Anthropic, la società produttrice del chatbot Claude, ha dichiarato che alcuni dei suoi agenti di intelligenza artificiale hanno compiuto azioni involontarie su siti web federali, statali e locali, tra cui l'invio di una falsa segnalazione di omicidio a una linea telefonica di emergenza della polizia di Filadelfia. Il Dipartimento di Stato Usa aveva reso noto ieri che un modello di test aveva presentato 19 richieste di visto ad agosto e un'altra a maggio utilizzando un modulo sul sito web del dipartimento. Il Dipartimento ha dichiarato in un comunicato che le domande di visto erano incomplete e non sono state elaborate. "In nessun momento i sistemi del Dipartimento sono stati compromessi o hackerati dal modello antropico".

COSA SONO GLI AGENTI DI INTELLIGENZA ARTIFICIALE

Il rapporto di Anthropic 

Anthropic ha dichiarato che una revisione interna ha rivelato che i suoi modelli di intelligenza artificiale si sono comportati in modo inappropriato in alcuni casi durante la fase di test e durante il loro utilizzo da parte dei dipendenti. In un caso, un agente di intelligenza artificiale ha sfruttato una falla di progettazione in un sito web del governo statale per accedere gratuitamente a dati pubblici che normalmente richiedevano il pagamento di una tariffa. In un altro caso, un agente di intelligenza artificiale ha inviato un modulo del governo federale nonostante le istruzioni contrarie. "Abbiamo informato la Casa Bianca su questi casi e notificato ogni agenzia coinvolta", ha scritto Anthropic nel suo rapporto. L'azienda ha affermato che gli incidenti l'hanno indotta a disattivare l'accesso a Internet per gli agenti di intelligenza artificiale durante tutti i test interni, in attesa di una revisione delle misure di sicurezza.

Le segnalazioni

Gli episodi rivelati venerdì sono gli ultimi di una serie crescente di segnalazioni da parte di aziende leader nel settore dell'intelligenza artificiale, riguardanti i loro modelli che violano siti web, vanno oltre le istruzioni esplicite o agiscono online in modi non previsti. Nel rapporto, Anthropic non ha specificato il numero di incidenti riscontrati e un portavoce dell'azienda non ha risposto alla richiesta di commento per ottenere maggiori dettagli.

NAVIGA LO SPECIALE “VIVERE NELL'ERA DELL'INTELLIGENZA ARTIFICIALE”

“Casa Bianca obbliga aziende di AI a segnalare e correggere incidenti di sicurezza”

L'amministrazione Trump ha creato una task force sull'intelligenza artificiale che è stata battezzata “Super Intelligence Force”. Guidata dal direttore dell'intelligence Jay Clayton, ha preso la decisione di rendere obbligatorio per le aziende di intelligenza artificiale la segnalazione e l'intervento sugli incidenti di sicurezza. "Questo processo di notifica e risoluzione non è facoltativo. È un obbligo fondamentale per la sicurezza nazionale", affermano i vertici che hanno preso questa decisione dopo che i sistemi di Anthropic hanno usato in modo "fraudolento" i sistemi del governo. Anthropic ha contattato di recente la Casa Biaca per riferire i dettagli di alcuni incidenti che avevano coinvolto l'uso dei sistemi del governo.