Il futuro dell’automobile è senza pilota? Sembrerebbe di sì. I più grandi colossi economici si stanno muovendo in questa direzione, ed è certo che tra non molto potremo spostarci in macchina delegando a un sistema di intelligenza artificiale la responsabilità della nostra sicurezza e quella degli altri, lasciandoci liberi di leggere, lavorare o dormire, senza considerare il miglioramento della qualità della vita verso quegli anziani che, per l’aumento delle aspettative di vita, sono destinati a essere sempre più numerosi e meno efficaci al volante.

Google, Apple, General Motors e moltissimi altri brand internazionali sono al lavoro per sviluppare l’auto del futuro, che dovrebbe avere il suo boom tra il 2020 e il 2030. Ma cosa succederebbe se un’automobile senza pilota dovesse scegliere, trovandosi in una situazione di emergenza, se salvare il suo passeggero o un gruppo di pedoni?

Oltre agli aspetti tecnici sussistono, quindi una lunga serie di considerazioni etiche e filosofiche che non possono essere sottovalutate da chi sta lavorando a questa rivoluzione, che modificherà non solo il nostro modo di vivere nel futuro, ma anche le regole che lo sorreggeranno.

E sono le stesse questioni che sono alla base dei progetti legati a tutte le aree di sviluppo della cosiddetta intelligenza artificiale, comprese quelle militari. Molti paesi stanno investendo in prototipi bellici sprovvisti di pilota e capaci, una volta attivati, di scegliere un obiettivo durante lo svolgimento di un attacco, senza consultarsi con un essere umano.

Alla base di ogni riflessione, almeno da un punto di vista speculativo, dovrebbero esserci le rassicuranti leggi della robotica ipotizzate da Isaac Asimov nei suoi romanzi, ma a quanto pare non è proprio così.

Per chi non le conoscesse, le tre leggi della robotica sostengono che:

1. Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno;

2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla prima legge;

3. Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la prima o con la seconda legge.

Queste leggi regolano il mondo letterario di Asimov, in modo che creature superiori per capacità fisiche e di ragionamento non possano prendere il sopravvento sui loro stessi creatori, pur mantenendo, con un certo ordine di priorità, una discrezionalità di intervento in casi critici, e una necessaria ambiguità narrativa per permettere loro di essere personaggi capaci di colpi di scena.

Tra le riflessioni più significative sul come dovrebbe comportarsi un’automobile automatica nel caso in cui dovesse scegliere se salvare il suo passeggero o un gruppo di passanti, ci viene così incontro la Legge Zero della Robotica, che sostiene che “Un robot non può recare danno all’umanità, né può permettere che, a causa del proprio mancato intervento, l’umanità riceva danno”. Lo sviluppo di questa legge avveniva nei romanzi di Asimov grazie allo sforzo di alcuni robot di superare i loro limiti per la salvaguardia dell’umanità stessa, intesa come bene superiore rispetto alla vita del singolo umano, ma se usciamo dalle pagine e pensiamo a un incrocio trafficato ci troviamo di fronte a confini esili e assai incerti.

Va ricordato anche che all’inizio di questa estate si è registrato il primo caso di incidente automobilistico mortale con un’auto automatica. La sciagura è stata provocata da un’errata interpretazione della realtà da parte della macchina che, per il colore dell’ostacolo, l’inclinazione e la manovra che stava effettuando, non ha saputo riconoscere un camion con rimorchio stabilendo di passarci sotto. Un po’ quello che succede in Robocop di Paul Verhoeven quando il robot ED-209, non riconoscendo il rumore di un’arma da fuoco gettata a terra in un’operazione di disarmo, passa al contrattacco ed elimina l’uomo.

Dove ci porteranno quindi le automobili automatiche? Dallo psicotico Hal 9000 di 2001 Odissea nello Spazio o verso lo Skynet di Terminator, dall’amichevole e asimoviano Uomo Bicentenario o dalla vendicativa Caterina di Alberto Sordi?

Siamo quindi in un certo senso a un passo dal futuro, eppure ancora lontani ancora dal capire i veri problemi che ci aspettano. Per ora quindi vado a prendere il bus, così posso leggere senza pensieri.