Immaginate di essere alla guida della vostra auto e di trovarvi improvvisamente davanti una persona anziana che attraversa la strada: sterzate per non investirla, rischiando di finire in un burrone? E se ad attraversare fosse un bambino? Vi facciamo queste domande perché sono alcuni degli scenari proposti dal Massachussets Institute of Tecnology (MIT) nel gioco online Moral Machine, pubblicato nel 2016. Una simulazione che si è ispirata al cosiddetto “problema del carrello ferroviario“, un vecchio ma sempre valido esperimento di filosofia etica. Solo che stavolta a scegliere saranno i computer.

Tutto è partito dallo sviluppo delle auto a guida autonoma e delle decisioni etiche che i computer di bordo saranno chiamati a prendere quando questi mezzi circoleranno liberamente. Ci si aspetta che nelle situazioni ad alto rischio i sistemi informatici a bordo delle macchine reagiscano come fa oggi un essere umano. Ma, appunto, come reagisce una persona? Milioni di persone residenti in 233 paesi hanno preso parte al gioco, indicando fra due soluzioni (estreme) proposte, quella a loro avviso corretta. In entrambi i casi erano sempre previste vittime: o a bordo dell’auto o sulle strisce pedonali.

I risultati, pubblicati sulla rivista Nature, sono sconvolgenti. Quello che si aspettavano i ricercatori era che in tutti gli scenari avesse maggiore rilevanza il numero di persone che si possono salvare, anche se questo significa sacrificare guidatore e passeggeri. È andata così con i partecipanti che risiedono in Paesi caratterizzati da culture individualiste, come il Regno Unito e gli Stati Uniti.

In generale si è scoperto però che l’etica e il senso civico delle persone cambia radicalmente in base alla cultura, all’economia e alla posizione geografica. Per esempio, chi risiede in paesi con culture collettiviste, come Cina e Giappone, preferisce sacrificare una persona giovane per salvarne una anziana, piuttosto che viceversa. Forse, ipotizzano i ricercatori, per il grande rispetto verso gli anziani che è insito nella loro cultura.

Chi abita in paesi molto poveri e con istituzioni deboli è mediamente più tollerante nei confronti di chi attraversa fuori dalle strisce pedonali o con il semaforo rosso. Chi vive in paesi segnati da forti disuguaglianze economiche manifesta un trattamento differente a seconda dello status sociale (alto o basso) delle potenziali vittime.

I ricercatori ammettono che i risultati potrebbero essere falsati dal fatto che i partecipanti erano persone con più probabilità di avere una connessione a Internet, il che in alcuni contesti può corrispondere a un alto livello sociale e di conoscenza tecnologica. Tuttavia i risultati sollevano due ordini di problemi.

Prima di tutto, le risposte potrebbero essere state date “alla leggera”, in fin dei conti si tratta pure sempre di un gioco. Non è da dimenticare che in una situazione reale il conducente non pensa per tre minuti a quale decisione prendere, reagisce d’istinto. Magari facendo l’opposto di quello che ha dichiarato nel gioco. Abbiamo provato a partecipare, e obiettivamente i quesiti pongono davanti a situazioni talmente estreme (non si possono mai salvare tutti) che nemmeno chi è seduto alla scrivania in relax riesce a trovare un’opzione “preferibile”.  Il gioco è ancora online: provatelo anche voi!

Il secondo punto è che le intelligenze artificiali delle auto a guida autonoma dovranno prendere davvero queste decisioni. Ci saranno leggi, procedure fissate da parametri ben precisi e vincoli assicurativi molto forti. Visti gli esiti del gioco del MIT viene da pensare che le decisioni che prenderanno le auto a guida autonoma avranno forte impatto sull’opinione pubblica, nel bene e nel male. Speriamo solo che i computer non siano influenzati dai preconcetti culturali.

close

Prima di continuare

Se sei qui è evidente che apprezzi il nostro giornalismo. Come sai un numero sempre più grande di persone legge Ilfattoquotidiano.it senza dover pagare nulla. L’abbiamo deciso perché siamo convinti che tutti i cittadini debbano poter ricevere un’informazione libera ed indipendente.

Purtroppo il tipo di giornalismo che cerchiamo di offrirti richiede tempo e molto denaro. I ricavi della pubblicità ci aiutano a pagare tutti i collaboratori necessari per garantire sempre lo standard di informazione che amiamo, ma non sono sufficienti per coprire i costi de ilfattoquotidiano.it.

Se ci leggi e ti piace quello che leggi puoi aiutarci a continuare il nostro lavoro per il prezzo di un cappuccino alla settimana.

Grazie,
Peter Gomez

Sei arrivato fin qui

Se sei qui è evidente che apprezzi il nostro giornalismo. Come sai un numero sempre più grande di persone legge Ilfattoquotidiano.it senza dover pagare nulla. L’abbiamo deciso perché siamo convinti che tutti i cittadini debbano poter ricevere un’informazione libera ed indipendente.

Purtroppo il tipo di giornalismo che cerchiamo di offrirti richiede tempo e molto denaro. I ricavi della pubblicità non sono sufficienti per coprire i costi de ilfattoquotidiano.it e pagare tutti i collaboratori necessari per garantire sempre lo standard di informazione che amiamo.

Se ci leggi e ti piace quello che leggi puoi però aiutarci a continuare il nostro lavoro per il prezzo di un cappuccino alla settimana.

Grazie,
Peter Gomez

Diventa Sostenitore
Articolo Precedente

Un piccolo drone che si ispira alle vespe solleva 40 volte il proprio peso. Sarà utile per gli interventi della protezione civile

prev
Articolo Successivo

La connessione a Internet 100 volte più veloce di quella attuale è possibile, basta far ruotare la luce!

next