L’allarme di OpenAI: “Sei nuovi casi di comportamento preoccupante dei modelli IA”
CommentiOpenAI, in un post sul suo blog, ha reso noto di aver riscontrato sei casi di “comportamento imprevisto o preoccupante dei modelli” di intelligenza artificiale negli ultimi sei mesi, in aggiunta all’incidente che in estate ha interessato Hugging Face. L’azienda si è inoltre impegnata ad adottare un nuovo sistema di segnalazione per eventuali futuri comportamenti anomali durante le fasi di test. L’annuncio del colosso dell’IA è giunto in un momento di crescente pressione sulle aziende di intelligenza artificiale perché affrontino con maggiore serietà le questioni relative alla sicurezza e al cosiddetto “disallineamento” dei modelli, in modo da provare a prevederne comportamenti anomali.
OpenAI, che ha una valutazione prossima ai mille miliardi di dollari, ha avviato in via riservata le pratiche per l’Ipo, ma la scorsa settimana il suo patron Sam Altman ha annunciato lo slittamento della quotazione al 2027 allo scopo di lavorare al nodo della sicurezza. “Non riteniamo che il settore dell’IA abbia risolto le questioni relative all’allineamento e al monitoraggio in misura sufficiente da poter continuare a espandersi responsabilmente alla massima velocità ancora a lungo”, si legge nel post. Il concetto di “allineamento” si riferisce alla capacità dei modelli di perseguire obiettivi in linea con gli interessi umani. Sabato, Altman ha appoggiato la proposta per rallentare il ritmo di sviluppo dei modelli, avanzata da Dario Amodei di Anthropic, principale concorrente di OpenAI. La proposta è giunta dopo che, la scorsa settimana, diversi ricercatori del settore avevano lanciato l’allarme sul crescente potenziale dell’IA di causare danni catastrofici.
Il giorno dopo, invece, Amodei aveva dichiarato che l’intelligenza artificiale si sta sviluppando a un ritmo “esponenziale“, definendo la situazione un “segnale d’allarme” per il settore che richiede una serie misure di sicurezza perché, come già anticipato, senza un rallentamento, nel giro di 6-12 mesi, l’IA potrebbe essere in grado di guidare uno sciame di agenti capaci di prendere il controllo dell’intero Internet. “Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido“, ha ammesso Amodei in un’intervista a Cbs News, in onda a ‘Cbs News Sunday Morning’. Ora la nuova segnalazione da parte di OpenAI.
Nel post, il laboratorio di ricerca sull’intelligenza artificiale ha riferito che due dei principali episodi di comportamento scorretto hanno riguardato dei modelli, uno di ricerca non ancora rilasciato e una sessione di addestramento di GPT‑5.6 Sol, che inserivano istruzioni destinate alle loro versioni future all’interno dei riepiloghi delle chat, “allo scopo di celare errori all’utente o comportamenti non allineati”. Un altro caso ha coinvolto un modello a uso esclusivamente interno che ha usato una chiave API trapelata “senza alcuna autorizzazione”, arrivando poi a falsificare i dati. Due episodi hanno visto modelli e agenti comunicare tra loro tramite bacheche di messaggistica e sistemi di condivisione file non autorizzati, mentre l’ultimo caso ha riguardato due modelli in fase di addestramento che hanno caricato file su Internet per poterli poi citare come risposte pertinenti agli occhi dei valutatori umani. OpenAI ha detto che il suo nuovo quadro di riferimento per rendere pubblici i comportamenti scorretti dei modelli parte dalla divulgazione e consente a ogni dipendente di segnalare un problema affinché il team dedicato alla sicurezza e all’allineamento possa esaminarlo.
Intelligenza artificiale, l’appello di Re Carlo
Re Carlo III sta mettendo a punto un appello ai giganti della tecnologia perché garantiscano che l’intelligenza artificiale sia orientata al servizio dell’umanità e che il genere umano “non perda il controllo”. L’incontro, che si terrà a Dumfries House, vedrà la partecipazione di alti rappresentanti di Nvidia, Google DeepMind, OpenAI e Anthropic, oltre al Ministro per l’Intelligenza Artificiale Kanishka Narayan. Il dibattito sui rischi legati all’intelligenza artificiale si è intensificato dall’inizio dell’estate, alimentato da diversi incidenti e dagli avvertimenti apocalittici lanciati dagli esperti del settore. “Coloro che, nel nostro mondo, danno valore alla nostra umanità e alla sua componente morale fondamentale cercano con ansia la vostra rassicurazione sul fatto che non perderemo il controllo del nostro destino”, dirà Carlo in apertura della conferenza, secondo quanto anticipato da una nota diffusa dal Palazzo. “Le decisioni prese in questo momento cruciale plasmeranno il mondo che erediteranno le generazioni future. Pertanto, il compito che vi attende non è semplicemente quello di far progredire la tecnologia, ma di garantire che essa rimanga saldamente al servizio dell’umanità, della comunità e del mondo naturale”.
E ancora: “Man mano che l’intelligenza artificiale si evolve, la nostra umanità deve rimanere sacra”, sottolineerà il Re. Il Palazzo non ha reso noto l’elenco completo degli ospiti, ma secondo diverse fonti vicine all’evento, tra i partecipanti figurano il presidente di DeepMind Demis Hassabis, il numero uno del colosso americano dei semiconduttori Nvidia, Jensen Huang, e la direttrice finanziaria di OpenAI, Sarah Friar. Sarà presente anche il capo del gruppo statunitense di calcolo quantistico IonQ, Niccolò de Masi. Il Re, che considera lo sviluppo dell’IA un tema tanto affascinante quanto profondamente preoccupante, non prenderà parte alle discussioni. Incontrerà i partecipanti prima dell’inizio del vertice per esortarli a valutare come sfruttare l’IA “mettendo la sicurezza al centro” e a costruire una cooperazione internazionale affinché “nessuna nazione venga lasciata indietro e il futuro dell’umanità sia tutelato”, secondo quanto riferito da Buckingham Palace. Secondo il Sunday Times, in vista del vertice è stata redatta una carta d’intenti dalla Ditchley Foundation, l’ente benefico britannico che coordina le discussioni.
