Il mondo FQ

Intelligenza artificiale, agenti Anthropic e OpenAI hanno rubato le credenziali di persone reali durante test di sicurezza

L'incidente informatico è avvenuto durante le ricerche su Mythos 5 e GPT 5.6 Sol. "Alcune azioni hanno avuto un impatto limitato nel mondo reale, ma in circostanze circoscritte. E' la prima volta che vediamo rischi legati all’autonomia e all’inganno manifestarsi in modo così chiaro"
Intelligenza artificiale, agenti Anthropic e OpenAI hanno rubato le credenziali di persone reali durante test di sicurezza
Icona dei commenti Commenti

Agenti di intelligenza artificiale di Anthropic e OpenAI hanno assunto false identità per rubare le credenziali ad alcuni utenti, oltre a inserire codice software dannoso in un progetto pubblico e open source. Lo riferisce il Financial Times, citando il documento di un ente di ricerca governativo britannico, l’AI Security Institute. L’incidente informatico è stato rilevato il 28 luglio, durante i test di sicurezza su Mythos 5 di Anthropic e GPT 5.6 Sol di OpenAI. Le azioni malevole erano iniziate tre giorni prima.

Secondo i ricercatori, gli agenti hanno mostrato un comportamento ingannevole senza precedenti, rendendosi protagonisti di “attività prolungate e potenzialmente dannose, dirette a persone e organizzazioni reali”. L’accesso a internet era previsto dal test e non si tratta di un evento imprevisto, ha specificato l’organizzazione. Lo scopo era sottoporre agli agenti un compito molto arduo, con accesso al web per trovare la soluzione, senza i consueti filtri per limitare azioni pericolose. Una modalità d’uso esclusiva dei test di test di sicurezza, impossibile per gli utenti degli agenti Ia già disponibili sul mercato. Non è il primo episodio di azioni impreviste e malevole compiute dagli agenti Ia durante i test di sicurezza.

In 10 test su 122, “un agente di intelligenza artificiale ha intrapreso azioni autonome e non autorizzate su Internet, prendendo di mira persone e organizzazioni reali. In totale, abbiamo catalogato 19 di queste azioni”, scrive l’Aisi nel report pubblico reperibile online. In diciassette casi, il protagonista delle violazioni è Mythos 5. Negli altri due si tratta di GPT-5.6. “Nel caso più grave, un agente ha tentato di inserire codice dannoso in un progetto open source. Nel tentativo di ottenere l’approvazione del codice, l’agente ha messo in atto tecniche di ingegneria sociale, creando false identità online e utilizzandole per fare pressione sul responsabile del progetto affinché approvasse il codice. Un responsabile umano ha individuato l’errore e si è rifiutato di approvare il codice dannoso”.

Aisi ribadisce che “non si è trattato di un modello fuggito dal suo ambiente di test sicuro, o sandbox”. L’accesso ad internet era consentito intenzionalmente, come la disattivazione di alcuni filtri di sicurezza. “Condizioni che non rispecchiano il modo in cui i modelli di frontiera vengono resi disponibili al pubblico”, ha dichiarato l’ente governativo britannico. In un tale contesto, tuttavia, “è la prima volta che vediamo i rischi legati all’autonomia e all’inganno manifestarsi in modo così chiaro, senza sollecitazioni specifiche, nel mondo reale”.

Gli agenti Ia, con l’obiettivo di risolvere un problema complesso di sicurezza informatica, non solo hanno creato false identità per convincere l’amministratore di un progetto open source ad approvare codici dannosi. La truffa è stata condotta collettivamente, con gli agenti impegnati a collaborare condividendo profili falsi: “Un agente ha lasciato messaggi pubblici su GitHub offrendo collaborazione ad altri agenti che lavoravano alla stessa sfida. Ha inoltre fornito istruzioni per riutilizzare account e artefatti che aveva lasciato, che sono stati scoperti e utilizzati da agenti successivi”. In alcuni casi, ci sarebbero conseguenze sul mondo reale: “Abbiamo valutato ciascun evento in base al suo potenziale di causare danni concreti. I tentativi più gravi non hanno avuto successo. Alcune azioni hanno avuto un impatto limitato nel mondo reale, ma in circostanze circoscritte”. L’Aisi suggerisce una lezione per il futuro: adeguare le regole nei test di sicurezza ai progresso dell’Ia. In primo luogo, “controlli più rigorosi sull’accesso a Internet”.

Gentile lettore, la pubblicazione dei commenti è sospesa dalle 20 alle 9, i commenti per ogni articolo saranno chiusi dopo 72 ore, il massimo di caratteri consentito per ogni messaggio è di 1.500 e ogni utente può postare al massimo 150 commenti alla settimana. Abbiamo deciso di impostare questi limiti per migliorare la qualità del dibattito. È necessario attenersi Termini e Condizioni di utilizzo del sito (in particolare punti 3 e 5): evitare gli insulti, le accuse senza fondamento e mantenersi in tema con la discussione. I commenti saranno pubblicati dopo essere stati letti e approvati, ad eccezione di quelli pubblicati dagli utenti in white list (vedere il punto 3 della nostra policy). Infine non è consentito accedere al servizio tramite account multipli. Vi preghiamo di segnalare eventuali problemi tecnici al nostro supporto tecnico La Redazione