Anthropic blocca i suoi nuovi modelli Ai su ordine del governo Usa: continua lo scontro tra Trump e Amodei

Fable 5 e Mythos 5 sono i due modelli più avanzati della startup: erano stati presentati il 9 giugno. La diatriba con la Casa Bianca prosegue da mesi ed era culminata a marzo quando la società aveva fatto causa al Pentagono

Questo articolo è gratis.

Per leggerne altri, ricevere le newsletter e avere libero accesso ai contenuti scelti dalla redazione

Registrati

Dopo la causa contro il Pentagono, continua lo scontro tra il governo degli Stati Uniti e Anthropic, la startup di intelligenza artificiale guidata dall’italoamericano Dario Amodei. La Casa Bianca ha infatti ordinato all’azienda leader del settore di vietare l’accesso ai propri modelli Fable 5 e Mythos 5 a tutti i cittadini e organizzazioni straniere. Anthropic per conformarsi alla direttiva ha così disabilitato d’urgenza i due sistemi per tutti gli utenti a livello globale, avendo difficoltà a filtrare gli utenti in base alla nazionalità. Tutti gli altri modelli Ai invece, come Claude, sono rimasti accessibili senza interruzioni. La società si è scusata con i clienti e ha annunciato di essere in contatto con le autorità per sistemare il “malinteso” e ripristinare i sistemi il prima possibile.

Fable 5 e Mythos 5 sono i modelli più potenti della startup ed erano stati presentati il 9 giugno: hanno dunque avuto, per ora, vita breve. La direttiva, stando a quanto riferito dall’azienda, non fornisce dettagli tecnici approfonditi ma si fonda sulla presunta scoperta da parte di Washington di un metodo per aggirare le protezione dei modelli per ottenere capacità in ambito cyber, il cosiddetto jailbreaking. L’azienda statunitense ha confermato di aver analizzato un report che ritiene essere alla base dell’ordine, non indicato dall’amministrazione Usa, ma ne ha ridimensionato la gravità. “Come detto pubblicamente, riteniamo che il governo debba avere la facoltà di bloccare le applicazioni non sicure, nell’ambito di un processo normativo trasparente, equo, chiaro e basato su dati tecnici concreti”, ha detto in una nota l’azienda, specificando però che “questa azione non rispetta tali principi”.

Anthropic ha ribadito di aver adottato una rigorosa strategia di “difesa di profondità“, tra l’altro testata per migliaia di ore in collaborazione con il governo Usa e anche con quello del Regno Unito. Comunicando la chiusura dei due sistemi, la startup ha ricordato che non esiste una resistenza “perfetta e universale” e che solo immaginarlo è impossibile per ogni azienda. “Dissentiamo dal fatto che la scoperta di un potenziale jailbreak di portata limitata debba essere motivo di richiamo per un modello commerciale distribuito a centinaia di milioni di persone – si legge nella nota -. Se questo standard venisse applicato all’intero settore, riteniamo che paralizzerebbe di fatto il rilascio di nuovi modelli per tutti i fornitori di Ai di frontiera“.

Se la direttiva rimanesse in vigore sarebbe un grave danno per la startup considerando che entrambi i modelli sono considerati all’avanguardia. Fable 5, in particolare, ha segnato la prima volta in cui Anthropic ha reso pubblica un’offerta così avanzata, grazie a nuove misure di sicurezza che bloccano le risposte in specifiche aree ad alto rischio. I modelli si basavano sul rilascio di Claude Mythos Preview, che ad aprile aveva colpito Wall Street e i funzionari governativi grazie alle avanzate capacità di sicurezza informatica. L’azienda, nell’occasione, aveva dichiarato di non voler rendere il modello disponibile al grande pubblico, limitandone il lancio a un primo gruppo selezionato di aziende nell’ambito di un’iniziativa di sicurezza informatica denominata Project Glasswing.

A marzo l’azienda di Amodei aveva fatto causa al Dipartimento della Difesa Usa perché il Pentagono l’aveva etichettata come “rischio per la catena di approvvigionamento” americana, di fatto limitandone l’uso nelle agenzie federali. Il governo ha di fatto ritenuto l’azienda una minaccia per la sicurezza nazionale: una definizione riservata ad avversari stranieri e che impone agli appaltatori della difesa di certificare che non useranno i modelli Claude di Anthropic nelle attività svolte per le forze armate. Un’azione che la società ritiene illegale in quanto violazione della libertà di parola e una punizione per motivi ideologici.