Le rivoluzioni tecnologiche spesso non inventano nulla: si assembla ciò che già c’è in modo inedito
Commentidi Fabrizio Marozzo*
Ci sono momenti, nella storia della tecnologia, in cui sembra che manchi soltanto un pezzo. È come in una partita a Tetris: quasi tutte le righe sono complete, ma resta un vuoto. Poi arriva il pezzo giusto, si incastra nel punto esatto e, improvvisamente, tutto si completa.
Le rivoluzioni tecnologiche funzionano spesso così. Raramente nascono da una singola invenzione arrivata dal nulla. Più spesso, molti degli elementi necessari esistono già: tecnologie mature, infrastrutture, capacità di calcolo, conoscenze scientifiche e domanda di mercato. Serve però la combinazione giusta.
È successo con l’iPhone nel 2007. Touchscreen, fotocamera, connessioni mobili e molte delle tecnologie che lo componevano esistevano già. Il merito di Apple non fu inventarle tutte, ma combinarle in modo diverso: eliminò la tastiera fisica, mise al centro un grande schermo touch e costruì attorno ad esso un ecosistema di software e servizi semplice da usare. Quella combinazione trasformò il telefono in qualcosa di nuovo e cambiò il mercato.
Qualcosa di simile è accaduto con ChatGPT. Quando apparve alla fine del 2022, poteva sembrare che una nuova tecnologia fosse comparsa improvvisamente. In realtà, quasi tutti i pezzi necessari si stavano sviluppando da anni.
Il primo era rappresentato dai dati: pagine web, libri digitalizzati, documenti e grandi archivi di testo avevano creato una riserva di linguaggio senza precedenti, sufficiente ad addestrare modelli sempre più grandi.
Poi c’era la potenza di calcolo. Le GPU, i processori utilizzati per elaborare la grafica dei videogiochi, si erano rivelate particolarmente adatte all’addestramento delle reti neurali. Il cloud e i grandi data center avevano inoltre reso possibile coordinare enormi quantità di risorse di calcolo.
Un altro pezzo arrivava dalla ricerca scientifica. Le reti neurali esistevano da decenni, ma con l’aumento dei dati e della potenza di calcolo divenne possibile addestrare reti neurali profonde, capaci di apprendere rappresentazioni molto più complesse.
Nel linguaggio, gli embedding permisero di trasformare parole e concetti in strutture manipolabili dai computer, mentre nel 2017 l’architettura Transformer introdusse un modo molto più efficace di modellare le relazioni all’interno del testo. Pochi anni dopo, GPT-3, con 175 miliardi di parametri, aveva già mostrato notevoli capacità linguistiche.
Nel frattempo erano pronti anche gli utenti. Milioni di persone avevano già sperimentato assistenti vocali e chatbot, ma l’esperienza era spesso frustrante: conversazioni rigide, risposte prevedibili e scarsa capacità di adattarsi alle richieste. Le persone erano ormai abituate a parlare alle macchine; mancavano macchine capaci di rispondere davvero a ciò che veniva chiesto.
Dati, calcolo, infrastrutture, modelli e domanda erano quindi già presenti. Quasi tutte le righe erano complete. Mancava ancora qualcosa che trasformasse tutto questo in uno strumento realmente utilizzabile da chiunque. GPT-3 era straordinariamente capace, ma il suo meccanismo fondamentale rimaneva quello della previsione del testo: ricevere una sequenza e produrre una continuazione plausibile.
Se scriviamo “Spiegami la teoria della relatività” o “Scrivi una mail di ringraziamento”, per noi sono chiaramente istruzioni; per un modello linguistico di base sono, prima di tutto, sequenze di parole da continuare.
Uno degli ultimi tasselli decisivi fu il lavoro che portò a InstructGPT. L’idea era semplice: non bastava che il modello generasse bene il linguaggio; bisognava insegnargli a seguire ciò che le persone chiedevano. I ricercatori gli mostrarono esempi di come rispondere alle richieste degli utenti e usarono poi valutazioni umane per migliorare progressivamente le sue risposte. Questo approccio, noto come Reinforcement Learning from Human Feedback, contribuì a rendere il modello molto più capace di seguire le intenzioni dell’utente.
Ed è lì che le righe del Tetris cominciarono finalmente a completarsi. Quando ChatGPT fu presentato il 30 novembre 2022, gran parte della tecnologia sottostante non era nuova. Nuova era la combinazione: un modello linguistico molto potente, reso accessibile attraverso l’interfaccia più semplice possibile, una chat.
In poche settimane milioni di persone capirono cosa potevano farci: scrivere, riassumere, programmare, tradurre e studiare, semplicemente dando istruzioni in linguaggio naturale.
Da lì l’esplosione: il linguaggio naturale divenne l’interfaccia non solo per generare testo, ma anche immagini, audio, video e musica.
A posteriori, le rivoluzioni tecnologiche sembrano improvvise perché vediamo il momento in cui diventano visibili, non gli anni di sviluppo che le hanno rese possibili. Vediamo l’iPhone, non l’evoluzione di batterie, display, processori, reti mobili e software che negli anni ne hanno reso possibile la nascita. Vediamo ChatGPT, non i decenni di ricerca sull’intelligenza artificiale, la crescita dei dati, delle GPU, del cloud e dei modelli linguistici.
Ciò che chiamiamo rivoluzione è spesso il momento in cui pezzi maturati separatamente trovano finalmente il loro incastro. Noi vediamo soltanto quando l’ultimo pezzo va al suo posto.
* professore associato di Ingegneria informatica presso l’Università della Calabria
