OpenAI e Anthropic all’Onu: “Regole globali, ora rallentare”. Ma lanciano nuovi modelli in vista della Borsa
CommentiAl Consiglio di sicurezza delle Nazioni Unite i colossi dell’Intelligenza artificiale tornano ad invocare il freno a mano, per rallentare lo sviluppo dell’Ia, mentre Donald Trump oppone il suo rifiuto. La Casa Bianca ha ribadito di voler correre, quindi nessuna regola. Alla riunione pubblica dell’organo esecutivo delle Nazioni Unite, convocata dagli Usa in concomitanza con la settimana dell’Assemblea Generale, hanno partecipato i Ceo di Anthropic, OpenAI e Hugging Face: ovvero Dario Amodei e Sam Altman, con il manager di Clément Delangue
Anthropic e OpenIA: “Coalizione globale dei governi per l regole di sicurezza”
Il Ceo di Anthropic Dario Amodei ha ricordato i pericoli. “Il primo è l’uso improprio per la creazione di armi biologiche da parte di terroristi, la seconda è la perdita di controllo”. La soluzione? “Una collaborazione tra i governi di tutto il mondo”, ha proposto il manager in video collegamento, suggerendo la creazione di standard universali e sistemi di sicurezza globali. “Nessun leader, nessun’azienda e nessun Paese possono affrontare questa sfida da soli”, ha aggiunto. Amodei si è detto disponibile a rallentare unilateralmente, qualorase gli altri colossi, come OpenAI, dovessero rifiutare.
Sam Altman ha partecipato di persona, invocando “estrema cautela”. “L’industria non deve assumersi rischi tecnologici eccessivi solo perché i benefici sono troppo grandi e importanti per rallentare”, ha dichiarato all’organo delle Nazioni Unite. “Man mano che il processo di sviluppo dell’Ia diventa sempre più automatizzato”, ha aggiunto, “il ritmo di miglioramento dell’ia potrebbe accelerare rapidamente”. Sui ritmi di svuluppo, il Ceo ha annunciato l’intenzione di seguire una “via di mezzo”: regole sì, senza fermare l’innovazione. Nei giorni scorsi anche Altman (come Amodei) ha esortato gli Usa a prendere le redini di una coalizione di governi per definire gli standard. Oggi ha sottolineato la necessità di “responsabilizzare le persone a livello individuale”.
L’allarme sull’apocalisse: ma non Trump vuole correre contro la Cina
Dall’inizio dell’estate, OpenAI e Anthropic hanno segnalato diversi incidenti informatici, durante le simulazioni di sicurezza, causati dai loro agenti più avanzati. Ad esempio il furto di credenziali e accessi abusivi a informazioni sensibili di organizzazioni e aziende reali, non fittizie, come previsto in fase di test. L’ultimo episodio è stato denunciato oggi dall’Australia a margine dell’assemblea Onu: un sito governativo hackerato da sistema OpenAI, a luglio. Il colosso guidato da Sam Altman, insieme ad Anthropic, ha rilanciato gli allarmi su una minaccia globale per la sicurezza, con il rischio che le intelligenza artificiali evolvano autonomamente, fino a sfuggire al controllo umano. Dipendenti dei colossi, come Jacob Coxon, hanno diffuso stime via social sul pericolo di estinzione umana nel prossimo decennio.
Intanto, Donald Trump ha chiuso ad ogni regola per rallentare lo sviluppo tecnologico, battezzando l’Ia come una “superintelligenza”. Gli Usa possiedono il diritto di veto, nel consesso dei 15 al Consiglio di Sicurezza delle Nazioni Unite. “Chi vince sull’IA”, ha ammonito il tycoon nei giorni scorsi, “vince tutto”, evocando la competizione geopolitico con la Cina.
I colossi dicono di rallentare e chiedono regole, ma lanciano nuovi modelli in vista della quotazione
Dunque non sarà dispiaciuto all’inquilino della Casa Bianca, il lancio dei nuovi modelli di Anthropic e OpenAI, il 23 settembre, mentre i colossi invocavano a gran voce di rallentare. Anthropic ha presentato Opus 5.5, vantando il costo del 20% in meno rispetto a Fable. Poche ore dopo OpenAI ha risposto con GPT-6 Sol e GPT-6 Luna, sottolineando l’abbattimento dei costi fino al 50%. Informazioni rilevanti in vista delle quotazioni in borsa, mentre la Bce ha rilanciato gli allarmi sul deterioramento della fiducia dei mercati, con la richiesta da parte degli investitori di maggiori guadagni. Secondo Reuters, Anthropic dovrebbe iniziare a presentare l’offerta agli investitori da metà ottobre. OpenAI, con perdite salite a 12,3 miliardi nell’ultimo trimestre, ha rinviato la quotazione al 2027.
Quattrociocchi: “Allarmi apocalittici? Giova ai colossi e al mercato”
Più di un esperto ha interpretato il comportamento dei colossi, giudicato ambiguo, come una mossa di marketing. “Non occorre immaginare complotti o malafede: basta guardare gli incentivi. La narrazione dell’eccezionalità produce attenzione, centralità, potere regolatorio e risorse”, dice a ilfattotuodiano.it Walter Qiattrociocchi, docente di Data Science all’Università La Sapienza di Roma. “Le stesse aziende che stanno correndo per costruire sistemi sempre più potenti spiegano che la situazione è così grave da richiedere coordinamento mondiale, organismi internazionali, nuovi standard, enormi investimenti nella safety e, inevitabilmente, un ruolo centrale proprio per chi quei sistemi li costruisce”, prosegue l’esperto.
Il professore vede un filo rosso nei comunicati dei colossi che rilanciano gli allarmi per la sicurezza: “Un mix di antropomorfismo e ignoranza tecnica. Il sistema compie una sequenza autonoma di azioni e diventa “l’AI che pensa da sola”. Così una questione seria di cybersecurity e progettazione dei sistemi viene trasfigurata in una storia sulla volontà delle macchine”. Quattrociocchi, in vista dello sbarco in borsa dei colossi, trova significativa la narrazione dell’accesso abusivo ai dati del governo australiano, da parte di agenti di OpenAI, denunciato da Melbourne: “Adesso che emergono limiti tecnici, costi giganteschi, problemi di sicurezza e domande sulla sostenibilità economica, il racconto non scompare: cambia segno. Dall’onnipotenza promessa all’onnipotenza temuta”.
