Il 1984 di Orwell diventerà reale nel 2024? Potrebbe succedere per l’abuso dei sistemi di riconoscimento facciale

L'uso indiscriminato del riconoscimento facciale da parte dei governi è una seria minaccia alle libertà civili fondamentali, e il preludio alla sorveglianza di massa. Secondo il numero uno di Microsoft, o lo limitiamo, o nel 2024 ci ritroveremo in una società distopica come quella descritta nel romanzo 1984 di George Orwell.

Segnatevi il 2024: potrebbe essere l’anno in cui diventerà spaventosamente reale il mondo distopico descritto nel romanzo 1984 di George Orwell. Accadrà se i governi non affronteranno e regolamenteranno l’uso pubblico dei sistemi di riconoscimento facciale. Non è l’ennesima profezia di Nostradamus, ma un monito lanciato da Brad Smith, presidente di Microsoft, nel corso del suo intervento al WebSummit in corso a Barcellona.

Il rischio è che ci ritroviamo a vivere sotto il costante controllo di telecamere, in una capillare azione di sorveglianza di massa, che impedirebbe non solo la privacy, ma anche l’opposizione politica e le proteste sociali. Non solo, affidando solo ai computer il raffronto fra i dati delle telecamere e i documenti d’identità, persone innocenti potrebbero essere arrestate “solo” per un riscontro errato.

Andando per ordine, oggi il riconoscimento facciale è una tecnologia acerba e apparentemente innocua. Si usa per “taggare le foto” sui social, per sbloccare lo smartphone o il PC senza digitare una password. Facebook, Google, Amazon e molte altre aziende minori stanno implementando software di riconoscimento facciale per semplificare la vita agli utenti. Ringraziamo, ma non abbassiamo la guardia.

Non è una novità che tecnologie analoghe siano in corso di sperimentazione per il controllo passeggeri negli aeroporti o per motivi di sicurezza alle Olimpiadi di Tokio del 2020. Le stesse applicazioni potrebbero essere usate nei negozi per tenere traccia di ogni mossa dei clienti all’interno del negozio. Sarebbe una buona arma contro i furti, intanto però i commercianti saprebbero davanti a quali articoli vi siete soffermati, e la frequenza con cui andate al punto vendita. Una violazione della privacy se non avete dato il vostro assenso, ma c’è di peggio.

Le agenzie governative infatti potrebbero, con la stessa tecnologia, seguire chiunque e ovunque. Potrebbero sapere in qualsiasi momento dove state andando, dove siete stati e dov’eravate. È qui che si arriva allo scenario distopico di Orwell: sarebbero sovvertite libertà civili fondamentali su cui si basano le società democratiche. Non si potrebbe partecipare anonimamente a una manifestazione di piazza, non si potrebbe protestare contro il governo senza essere identificati come oppositori. Le proprie idee politiche, sociali e abitudini sarebbero tracciate e documentate minuto per minuto.

Il motivo che spingerebbe i governi a seguire questa strada è fin troppo semplice: contrastare il crimine, il terrorismo in primo luogo, e anche i reati d’identità. Non servirebbero più alibi o testimoni: le telecamere sarebbero sufficienti da sole per sapere se eravate sul luogo di un delitto, in quale posizione e a fare cosa. Qualcuno potrebbe pensare: “bene, avremo città più sicure e i criminali non avrebbero più scampo”. Può darsi. Peccato ad essere costantemente sorvegliati sarebbero tutti i cittadini, non solo i sospetti criminali.

Peccato poi che il riconoscimento facciale non sia infallibile, almeno non al momento. Per esempio, la tecnologia sperimentata della polizia di Londra si è dimostrata a dir poco imperfetta, e questo apre problemi enormi. Pensate a un innocente che viene identificato come un criminale armato e pericoloso per una corrispondenza errata commessa dal software di riconoscimento facciale.

Della questione poco tempo fa si era occupato anche il quotidiano britannico The Guardian, che spiegava come può avvenire l’associazione dei dati. Da una parte si raccolgono tutte le immagini facciali provenienti dai documenti: patente di guida, passaporto, carta d’identità, eventuali visti, eccetera. Dall’altra si predispone un controllo incrociato in tempo reale con le immagini delle telecamere di sicurezza. Risultato: l’identità di ciascun volto presente nelle immagini.

Capite come sarebbe facile conoscere le generalità complete di ciascun partecipante a una manifestazione di piazza o a un concerto. Una concreta minaccia all’anonimato, e una grande incognita perché non è nemmeno chiaro chi e come potrebbe avere accesso ai dati.

Da qui viene l’appello del presidente di Microsoft: è necessario che i governi regolamentino l’uso della tecnologia di riconoscimento facciale in modo che i diritti dei cittadini non siano costantemente violati. Ci vorrebbero regole precise e limiti stretti all’impiego di questa tecnologia, che precisino le situazioni in cui si può applicare, chi se ne può servire, con quali finalità e modalità. Anche perché, se lasciassimo solo ai computer il compito di identificare i criminali, trovare un errore poi diventerebbe molto difficile.

I cittadini comuni, da parte loro, possono fare qualcosa. Non prendere il riconoscimento facciale come un gioco, non abusarne, valutare con attenzione le richieste di condivisione dei propri dati, e rifiutare quelle che non sono strettamente necessarie. Pensiamo per esempio all’iniziativa #Selfie4science intrapresa dalla University of New South Wales (Australia) in collaborazione con l’Australian Passport Office. Offre a chiunque si presti volontario di inviare un proprio selfie, nome completo, data di nascita e numero del passaporto. L’obiettivo è testare la precisione del software di riconoscimento facciale. Perché regalare tutte queste informazioni personali, quando per un test si potrebbero usare i database delle forze dell’ordine, zeppi di dati? Perché fra i partecipanti sarà estratto a sorte un iPhone XS in omaggio? La vostra privacy vale molto più!