Sappiamo che può essere psicopatica, sappiamo anche che può essere un medico, è stato già dimostrato che può essere aggressiva o cooperare. E tanto altro. Ma fino ad ora non sapevamo che poteva essere disorientata e diventare preda di un hacker come oguno di noi, ognuna delle nostre macchine. Ora sappiamo anche che l’intelligenza artificiale può essere disorientata con poco, può diventare una preda di una nuova generazione di hacker. Almeno è quello che ha dimostrato un test: l’intelligenza aveva sotto gli occhi l’immagine di una tartaruga ma era “convinta” che fosse un fucile, una tazzina di caffè espresso è stata interpretata come una palla da baseball stampata in 3D. A lanciare l’allarme, riferisce la rivista Science sul suo sito, è la conferenza internazionale sull’apprendimento automatico, Icml (International Conference on Machine Learning).

È emerso, ad esempio, che è sufficiente alterare leggermente un’immagine, un oggetto o un suono per prendersi gioco del più sofisticato dei sistemi di AI. I rischi per la sicurezza non sono difficili da immaginare, considerando che ai sistemi di apprendimento automatico cominciano a essere affidati compiti delicati, che prevedono un’interazione diretta con l’uomo, come guidare un’auto autonoma.

Fra i primi gruppi di ricerca che si sono attivati per mettere a punto delle contromisure c’è quello del Massachusetts Institute of Technology (Mit) coordinato da Anish Athalye. “Abbiamo bisogno di ripensare completamente la nostra concezione di apprendimento automatico per renderlo più sicuro”, ha rilevato, Aleksander Madry, del Mit. Gli attacchi sono certamente una minaccia, ma costituscono anche un campanello d’allarme prezioso per i ricercatori perché possono rivelare nuovi meccanismi d’azione delle reti neurali. Gli attacchi possono essere considerati “una lente d’ingrandimento attraverso la quale capire che cosa sappiamo dell’apprendimento automatico”, ha detto Dawn Song, dell’Università della California a Berkeley.

L’articolo su Science

close

Prima di continuare

Se sei qui è evidente che apprezzi il nostro giornalismo. Come sai un numero sempre più grande di persone legge Ilfattoquotidiano.it senza dover pagare nulla. L’abbiamo deciso perché siamo convinti che tutti i cittadini debbano poter ricevere un’informazione libera ed indipendente.

Purtroppo il tipo di giornalismo che cerchiamo di offrirti richiede tempo e molto denaro. I ricavi della pubblicità ci aiutano a pagare tutti i collaboratori necessari per garantire sempre lo standard di informazione che amiamo, ma non sono sufficienti per coprire i costi de ilfattoquotidiano.it.

Se ci leggi e ti piace quello che leggi puoi aiutarci a continuare il nostro lavoro per il prezzo di un cappuccino alla settimana.

Grazie,
Peter Gomez

Articolo Precedente

Nissan Juke, un restyling (leggero) a ritmo di musica – FOTO

prev
Articolo Successivo

Risolto il cold case della galassia perduta: così la sorella della Via Lattea è sparita

next