La dottrina di Papa Leone XIV sull’Intelligenza artificiale: “Disarmare l’IA significa sottrarla alla logica della competizione militare, economia e cognitiva”
Commenti
Papa Leone XIV ha presentato la sua prima Enciclica, Magnifica Humanitas, dedicata alla “custodia della persona umana nel tempo dell’intelligenza artificiale”. E si tratta di un’operazione culturale e pastorale che si colloca al livello di quella a cui si è palesemente ispirato, la Rerum Novarum scritta dal suo predecessore, lontano nel tempo, ma vicino nel nome, Leone XIII, nel 1891. Papa Robert Prevost riesce infatti a compiere tre mosse, tutte di rilevanza storica e politica, con il suo articolato documento: mettere al centro della riflessione della Chiesa, e del mondo, la questione dell’Intelligenza artificiale; ridare smalto e importanza alla “Dottrina sociale della Chiesa” che proprio da quell’enciclica di fine ‘800 aveva preso le mosse; ribadire la centralità dell’opposizione alla guerra, al riarmo e in particolare a un’Intelligenza artificiale prestata al riarmo e alla funzione militare. Un documento dunque che apre una fase di discussione tale da collocare in forma più comprensibile il nuovo papato.
Quando Leone XIII parlava di «nuove questioni» ( rerum novarum), scrive Leone XIV, “oggi non possiamo semplicemente ripetere i suoi preziosi insegnamenti, ma dobbiamo chiedere a Dio la saggezza per interpretare le grandi tendenze del nostro tempo, in particolare i progressi della tecnica”. É chiaro come IA, robotica e trasformazioni tecnologiche stiano trasformando il nostro mondo e ben sapendo che “la tecnica non va considerata, in se stessa, come forza antagonista rispetto alla persona” occorre allo stesso tempo più che regolarla darle un orizzonte, renderla coerente con dei principi etici e renderla, così, non antagonista alla realtà umana. Per stagliare la sostanza del messaggio, il Papa sceglie come immagini da fissare due narrazioni bibliche, la torre di Babele e la ricostruzione del tempio di Gerusalemme. “Evitiamo, dice Leone XIV, la ‘sindrome di Babele‘: l’idolatria del profitto che sacrifica i deboli, l’uniformità che appiattisce le differenze, la pretesa di un linguaggio unico – anche digitale” e “scegliamo, invece, la ‘via di Neemia’, che mette in risalto il valore del lavoro condiviso per rendere sicura la città di Dio per gli esuli ritornati”
Questo è il messaggio di fondo del Pontefice, un lavoro comune, inteso anche come bene comune e basato su principi e valori fondati sulla dignità umana, contrapposto a una gestione verticale che esalta lo strapotere della tecnica e che sta alla base del nuovo sviluppo digitale. Prima di arrivarci, però, sceglie di fare un lungo excursus sulla storia della Dottrina sociale della Chiesa e sulla sua attuale vitalità
La Dottrina sociale
L’espressione “Dottrina sociale della Chiesa” fu impiegata per la prima volta da Pio XII nel 1950, ma nei contenuti questa deriva proprio dalla Rerum Novarum di Leone XIII. “Di fronte alle ‘cose nuove’ del suo tempo – il conflitto tra capitale e lavoro, la questione operaia, le trasformazioni economiche e sociali – Leone XIII non si limitò a registrare il disagio, ma assunse quelle situazioni come luogo della missione pastorale della Chiesa”. Per questo quella enciclica è una “pietra miliare nell’evoluzione del Magistero sociale”, basata sulla “dignità del lavoro e del lavoratore”, “il diritto a un salario giusto per sé e per la propria famiglia”, il valore delle persone come “prioritario rispetto al capitale e al profitto” e allo stesso tempo la difesa della “proprietà privata insieme alla sua imprescindibile funzione sociale”. Il Vaticano allora, di fronte a un nascente conflitto sociale si premuniva nel predicare una forma di coesione sociale e di collaborazione, basata anche sulla centralità delle associazioni di lavoratori, “in alternativa alla logica della ‘lotta di classe'” precisa Prevost. Che di quella enciclica sottolinea due requisiti imprenscindibili: “Il primato del lavoro umano su ogni logica puramente produttiva o finanziaria” e “il nesso inscindibile tra annuncio evangelico e ricerca di un ordine sociale più giusto”.
Da quella Enciclica la Santa Sede si è tenuta lungo un solco di attenzione alla persona, ai principi di uguaglianza e giustizia sociale pur riequilibrandoli a seconda del papato in corso. Pio XI, ad esempio, con la sua Qaudrigesimo anno, del 1931, nel 40° anniversario della Rerum novarum, ribadisce la distanza dai totalitarismi, in particolare sovietico, la funzione sociale della proprietà, intoccabile, e “formula in modo sistematico il principio di sussidiarietà, destinato a diventare uno dei riferimenti stabili della Dottrina sociale”. Con la Pacem in terris, GiovanniXIII apre la dimensione internazionale per un ordine della convivenza “fondato su verità, giustizia, amore e libertà”. Paolo VI approfondisce la visione dell’ordine internazionale, in cui la pace non deve ridursi all’assenza di guerra ma deve assorbire “uno sviluppo umano integrale” “In Populorum progressio egli descrive lo sviluppo come passaggio da condizioni di vita meno umane a condizioni più umane e lo intende come processo che riguarda ogni uomo e tutto l’uomo”. Giovanni Paolo II, con Centesimus annus, si sofferma sul crollo del sistema sovietico e sul valore della democrazia e del libero mercato di cui “riconosce il potenziale positivo” solo se il mercato e l’iniziativa privata “restano subordinati alla legge morale e orientati dal principio di solidarietà, senza sacrificare i più deboli alla logica del profitto”.
Benedetto XVI pone la carità come “la via maestra della dottrina sociale della Chiesa» mentre infine papa Francesco ritorna alle radici più egualitarie, sociali e, con una grande innovazione, ecologiche della Dottrina sociale con Laudato si’ in cui mostra che la crisi ambientale “non è una questione settoriale, ma l’aspetto ecologico della crisi socio-economica contemporanea”. E quindi, tornano in primo piano “la destinazione universale dei beni, la critica a un paradigma tecnocratico che pretende di ridurre tutto a oggetto di dominio, la difesa del lavoro umano minacciato dalla logica dello scarto, l’esigenza di una giustizia tra le generazioni e il richiamo a un dialogo vero tra politica ed economia, perché nessuna delle due si chiuda nella propria autoreferenzialità”. Dentro gli scritti di Francesco si ritrovano la critica alla “guerra mondiale a pezzi”, alla “cultura dello scarto” e quindi si ribadisce come la Dottrina sociale sia un corpus unitario, un percorso comune della Chiesa basato sulla “dignità della persona, il valore del lavoro, la destinazione universale dei beni, la solidarietà e la sussidiarietà, la cura del creato, la centralità della pace e della fraternità. I principi di questa Dottrina vengono ben elencati da Prevost a partire dal principio-base, “il suo volto più concreto” che “contempliamo in Gesù Cristo Verbo incarnato”. E poi , “l’uguale dignità di tutti gli esseri umani”; il principio “del bene comune” che “vale anche per la politica internazionale”, il principio “della destinazione universale dei beni” – suolo, acqua, aria, risorse naturali – donati a tutti gli esseri umani; il “principio di sussidiarietà”: quello di “solidarietà”; il “principio di giustizia sociale”, contro gli “scarti” e di cui un banco di prova essenziale è quello dei migranti.
Ecco la lente con cui leggere le “cose nuove” portate dall’Intelligenza artificiale che, dice il Papa, può essere “un aiuto prezioso” ma, allo stesso tempo, richiede “un approccio sobrio e vigile“. “L’uso dell’IA non è mai un fatto puramente tecnico: quando entra in processi che incidono sulla vita delle persone, essa tocca diritti, opportunità, reputazione, libertà. Possono esserci usi evidentemente antiumani, come la manipolazione dell’informazione o la violazione della privacy, ma può anche esserci un’insidia meno palese, quando i sistemi di IA, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati”.
Ecco, non esiste scienza, tencologia, innovazione che sia neutra. Dipende da chi e da come esercita il controllo e soprattutto dai fini, dagli obiettivi che vengono iscritti nell’innovazione tecnologica. Leone XIV propone infatti che siano chiare le responsabilità in tutti i passaggi del processo: “da chi progetta e addestra i sistemi fino a chi li utilizza e a chi decide di affidare ad essi le scelte concrete”. E non basta “allineare” la macchina IA ai valori umani, serve un’altra, decisiva condizione: “La possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa”. Questo codice etico, per il Vaticano, deriva ovviamente da quei principi della Dottrina sociale della Chiesa, cioè dal versante in cui il corpus teologico e di fede fa i conti con la storia umana e non se ne astrae: “Parlare di destinazione universale dei beni significa trovare modi per assicurare l’accesso universale alle tecnologie e alla formazione. Parlare di sussidiarietà chiede di proteggere la capacità delle comunità di scegliere e correggere. Parlare di solidarietà obbliga a riconoscere il lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici. Parlare di giustizia impone di interrogare le geografie del potere che definiscono chi può addestrare i modelli e chi è solo oggetto di addestramento”. Il quadro è chiaro, si tratta delle parole forse più esplicite e chiare rivolte al processo di trasformazione in corso che interroga i più accorti e modifica in ogni caso la vita die più.
Una IA disarmata
E in questo approccio che mira a svelare il nodo di monopolio economico e tecnologico, orientato al profitto, una questione cara al Pontefice è la parola “disarmare”: “Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare”. “L’Ia chiama in discussione la “Casa comune” e già “ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale”.
Leone XIV mette in guardia da un transumanesimo che “immagina un potenziamento dell’essere umano attraverso le tecnologie” e da un “postumanesimo” che addirittura a volte si spinge oltre: “Critica l’antropocentrismo e prospetta una forma di ibridazione tra essere umano, macchina e ambiente, fino a immaginare un passaggio di soglia in cui l’umanità supererà se stessa entrando in un nuovo stadio evolutivo”. Due grandi rischi, a suo avviso, che depotenziano e minacciano il “vero esser umani”, la capacità di relazione che deriva dall’amore. Ma “ciò che salva l’umano non è l’autosufficienza potenziata, ma una relazione che libera, una comunione che trasforma Per un algoritmo, l’errore è qualcosa da correggere; per una persona, può essere l’inizio di un cambiamento profondo. Il futuro di una persona non è calcolabile, ma è affidato alla sua libertà, elevata dall’inesauribile grazia divina e ai legami che coltiva”. Per questa via si salvaguardano anche le differenze, o le imperfezioni, che una destinazione transumana o postumana potrebbe dover cancellare per uniformare gli essere umani a un ideale tecnologico precostruito.
L’IA deve farsi carico di tutto questo e anche di altro. Ad esempio di “un’ecologia della comunicazione” che implica, sul versante pubblico, “norme che rendano più trasparenti le logiche con cui i contenuti vengono selezionati e amplificati e che tutelino i dati personali” e sul versante sociale e culturale, “il rafforzamento dei corpi intermedi, un giornalismo serio e luoghi di confronto in cui contino l’argomentazione e la verifica più che la reazione immediata. Ma conta anche il “valore del lavoro” messo in discussione dall’intereccio tra robotica e IA in cui i “nuovi modi” di lavorare non sono necessariamente migliori, perché «mentre l’IA promette di dare impulso alla produttività facendosi carico delle mansioni ordinarie, i lavoratori sono spesso costretti ad adattarsi alla velocità e alle richieste delle macchine, piuttosto che siano queste ultime a essere progettate per aiutare chi lavora”. Occorre farsi carico dei rischi di “disoccupazione” fissando “criteri sociali per l’innovazione: ogni introduzione di automazione e di IA dovrebbe essere accompagnata da scelte verificabili di tutela dell’occupazione, di riqualificazione e di partecipazione dei lavoratori”. Occorre tenere cura della libertà cioè “dell’effetto della rivoluzione digitale sulla libertà umana” non sottovalutando “le forme più sottili di dipendenza legate all’economia digitale dell’attenzione, dove piattaforme e servizi sono progettati per catturare il tempo e lo sguardo degli utenti, sfruttandone le fragilità e indebolendo la libertà interiore”. Tutti fattori che portano a “diverse forme di asservimento legate direttamente all’economia digitale” come ad esempio “il lavoro silenzioso di milioni di esseri umani, impiegati in attività poco visibili ma essenziali: etichettatura dei dati, moderazione dei contenuti – spesso pessimi –, addestramento dei modelli”. A questa fatica invisibile si aggiunge quella, “ancora più brutale, dell’estrazione delle risorse necessarie alla produzione dei dispositivi e dei microprocessori su cui poggia l’IA”.
Leone XIV descrive così un “colonialismo” dal “volto inedito”: “Non domina solo i corpi, ma si appropria dei dati, trasformando le vite personali in informazioni sfruttabili. Interi territori, soprattutto quelli con minore rilevanza geopolitica e maggiore fragilità strutturale, vengono al presente attraversati da una nuova logica di estrazione: quella di flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici. Sono queste le nuove “terre rare” del potere: informazioni vitali che, una volta correlate, possono essere usate per addestrare modelli predittivi, guidare strategie di investimento, anticipare le crisi e soprattutto selezionare chi e che cosa conta”. É questa dinamica che Leone XIV definisce come “moderna Babele” non solo come “paradigma tecnocratico globalizzato”, ma anche come “scontro a distanza tra imperialismi contrapposti, tra potenze che vogliono conservare il proprio primato e potenze che aspirano a conquistarlo”. Eppure, “gran parte dell’umanità cerca di rimanere umana e di adoperarsi per costruire la città della convivenza e della pace”. il tempio di Gerusalemme, la concordia: un orizzonte di impegno, un cantiere di speranza, a cui “diamo il nome di “civiltà dell’amore”. Sono quindi ancora attuali le parole del Concilio Vaticano II sull’interdipendenza crescente tra i popoli: “il bene comune assume sempre più una dimensione universale, con diritti e doveri che riguardano l’intera famiglia umana”. E questo si contrappone alla “cultura della potenza” nella quale i messi e le capacità di dominare “dettano l’agenda e i criteri della decisione”. Una cultura che cerca di normalizzare la guerra “inseguendo una potenza militare sempre maggiore, approfittando della crisi del multilateralismo e alimentando un falso realismo che ripete che alternative non esistono”. di questa cultura, un elemento decisivo “è la crescita dell’industria bellica, divenuta settore chiave nell’economia di alcuni Paesi. “Gli arsenali militari godono di nuova attenzione” e la stessa logica “si riscontra nei conflitti convenzionali: la forza militare, la debolezza delle iniziative diplomatiche e la complessità degli interessi in gioco favoriscono conflitti che tendono a cronicizzarsi, con un costo umano e ambientale altissimo”. L’IA gioca un ruolo decisivo in particolare per il suo collegamento alle armi: “La Santa Sede ha recentemente osservato che la crescente facilità con cui sistemi d’arma ad autonomia operativa possono essere impiegati rende la guerra più “praticabile” e meno soggetta al controllo umano”. Per questo “lo sviluppo e l’uso dell’IA in campo bellico devono essere sottoposti ai più rigorosi vincoli etici, nel rispetto della dignità umana e della sacralità della vita, evitando una corsa agli armamenti”. Ecco perché non basta “invocare genericamente l’etica”: occorre indicare puntuali criteri di discernimento. “Anzitutto, per ogni sistema impiegato in ambito bellico devono essere garantite tracciabilità e possibilità di ricostruire le decisioni, così che responsabilità ed eventuali colpe non si dissolvano “nella macchina”. In secondo luogo, la scelta di impiegare la forza letale non può essere delegata a processi opachi o automatizzati, ma deve restare sotto un controllo umano effettivo, consapevole e responsabile. Infine, è necessario stabilire regole condivise, anche a livello internazionale, che frenino la corsa agli armamenti tecnologici e assicurino una tutela particolare ai civili e alle infrastrutture essenziali alla loro sopravvivenza”.
La cultura della potenza
Logica conseguenza è la rivalutazione del multilateralismo la cui crisi alimenta la cultura della potenza. “Dopo il 1989, al crollo in Europa dei regimi comunisti si è accompagnata una globalizzazione prevalentemente economica, priva di un’adeguata architettura politica capace di sostenere il dialogo e la pace. Si è affidata quasi ciecamente ai mercati la capacità di produrre benessere, democrazia e stabilità, mentre in realtà la globalizzazione non ha generato automaticamente unità e pace, ma ha suscitato reazioni fondamentaliste, identitarie e nazionalistiche. Il risultato è lontano da un autentico multilateralismo: appare piuttosto come un multipolarismo disordinato e conflittuale, dove prevale la diffidenza verso l’altro”. La costruzione della pace è quindi passata “in secondo piano” e si è affermato un “falso pragmatismo” che fa oblio della memoria del passato come se le tragedie del XX secolo non potessero ripetersi. Un “falso realismo” fondato non solo “sull’invalsa logica della forza, ma anche su una convinzione culturale e antropologica, come se la guerra fosse inevitabilmente parte della natura umana”.
Questo è terreno fertile per nuove guerre, forse ancor più pericolose di quelle passate perché tendono a smarrire ogni limite etico. “Questo modo di descrivere la realtà che viviamo può apparire cupo o pessimista, ma ritengo che sia una denuncia necessaria” conclude il Papa che rilancia la “prospettiva cristiana” che non si esaurisce “nel denunciare il male”. “Anche nelle notti più buie, il Signore suscita uomini e donne capaci di non rassegnarsi e di perseverare nel bene: persone che proteggono i fragili e aprono varchi di riconciliazione”. Tutti possiamo fare la nostra parte e citando John Ronald Reuel Tolkien, descrive così la nostra responsabilità: «Non tocca a noi dominare tutte le maree del mondo; il nostro compito è di fare il possibile per la salvezza degli anni nei quali viviamo, sradicando il male dai campi che conosciamo, al fine di lasciare a coloro che verranno dopo terra sana e pulita da coltivare». Si tratta quindi di “disarmare le parole” perché “la pace comincia da ognuno di noi”; di “Costruire la pace nella giustizia”; “assumere lo sguardo delle vittime”, ad esempio “quando siamo davanti a bombardamenti su civili, ad attacchi contro ospedali, scuole o infrastrutture vitali, a violenze che colpiscono bambini, ci troviamo davanti a scandali che feriscono l’umanità stessa”; “coltivare un sano realismo” evitando sia l’idealismo politico che il cinismo; e così “rilanciar eil dialogo” e passare dalla “cultura della potenza” alla “cultura del negoziato” basata sul dialogo e sulle relazioni diplomatiche, “come auspicava Giorgio La Pira”. Infine, la “necessità della diplomazia e del multilateralismo”, con il ruolo delle organizzazioni internazionali e con una diplomazia capace di operare nel nuovo ambiente”.
Quella di Leone XIV è una Enciclica di grande spessore, molto politica perché orientata all’azione e a fornire linee guida per orientarsi in un presente avvolto dalla cupezza della guerra e da uno sviluppo tecnologico che sembra alieno a ognuno, ognuna di noi. Una enciclica che ripristina il filo rosso della Dottrina sociale della Chiesa, in cui ancora una volta si afferma il valore del lavoro e della dignità umana, collegato in modo indissolubile alla necessità, tutta attuale, di fare i conti con la guerra, con la cultura della potenza e quindi con una possibile catastrofe umana. La voce di Prevost si frappone a questo esito. L’anomalia è che a livello mondiale sia davvero l’unica voce.
