Immaginate di essere alla guida della vostra auto e di trovarvi improvvisamente davanti una persona anziana che attraversa la strada: sterzate per non investirla, rischiando di finire in un burrone? E se ad attraversare fosse un bambino? Vi facciamo queste domande perché sono alcuni degli scenari proposti dal Massachussets Institute of Tecnology (MIT) nel gioco online Moral Machine, pubblicato nel 2016. Una simulazione che si è ispirata al cosiddetto “problema del carrello ferroviario“, un vecchio ma sempre valido esperimento di filosofia etica. Solo che stavolta a scegliere saranno i computer.

Tutto è partito dallo sviluppo delle auto a guida autonoma e delle decisioni etiche che i computer di bordo saranno chiamati a prendere quando questi mezzi circoleranno liberamente. Ci si aspetta che nelle situazioni ad alto rischio i sistemi informatici a bordo delle macchine reagiscano come fa oggi un essere umano. Ma, appunto, come reagisce una persona? Milioni di persone residenti in 233 paesi hanno preso parte al gioco, indicando fra due soluzioni (estreme) proposte, quella a loro avviso corretta. In entrambi i casi erano sempre previste vittime: o a bordo dell’auto o sulle strisce pedonali.

I risultati, pubblicati sulla rivista Nature, sono sconvolgenti. Quello che si aspettavano i ricercatori era che in tutti gli scenari avesse maggiore rilevanza il numero di persone che si possono salvare, anche se questo significa sacrificare guidatore e passeggeri. È andata così con i partecipanti che risiedono in Paesi caratterizzati da culture individualiste, come il Regno Unito e gli Stati Uniti.

In generale si è scoperto però che l’etica e il senso civico delle persone cambia radicalmente in base alla cultura, all’economia e alla posizione geografica. Per esempio, chi risiede in paesi con culture collettiviste, come Cina e Giappone, preferisce sacrificare una persona giovane per salvarne una anziana, piuttosto che viceversa. Forse, ipotizzano i ricercatori, per il grande rispetto verso gli anziani che è insito nella loro cultura.

Chi abita in paesi molto poveri e con istituzioni deboli è mediamente più tollerante nei confronti di chi attraversa fuori dalle strisce pedonali o con il semaforo rosso. Chi vive in paesi segnati da forti disuguaglianze economiche manifesta un trattamento differente a seconda dello status sociale (alto o basso) delle potenziali vittime.

I ricercatori ammettono che i risultati potrebbero essere falsati dal fatto che i partecipanti erano persone con più probabilità di avere una connessione a Internet, il che in alcuni contesti può corrispondere a un alto livello sociale e di conoscenza tecnologica. Tuttavia i risultati sollevano due ordini di problemi.

Prima di tutto, le risposte potrebbero essere state date “alla leggera”, in fin dei conti si tratta pure sempre di un gioco. Non è da dimenticare che in una situazione reale il conducente non pensa per tre minuti a quale decisione prendere, reagisce d’istinto. Magari facendo l’opposto di quello che ha dichiarato nel gioco. Abbiamo provato a partecipare, e obiettivamente i quesiti pongono davanti a situazioni talmente estreme (non si possono mai salvare tutti) che nemmeno chi è seduto alla scrivania in relax riesce a trovare un’opzione “preferibile”.  Il gioco è ancora online: provatelo anche voi!

Il secondo punto è che le intelligenze artificiali delle auto a guida autonoma dovranno prendere davvero queste decisioni. Ci saranno leggi, procedure fissate da parametri ben precisi e vincoli assicurativi molto forti. Visti gli esiti del gioco del MIT viene da pensare che le decisioni che prenderanno le auto a guida autonoma avranno forte impatto sull’opinione pubblica, nel bene e nel male. Speriamo solo che i computer non siano influenzati dai preconcetti culturali.