“L’AI non sta risolvendo l’infodemia, la sta industrializzando”: la sanità globale tra allucinazioni digitali e rivoluzione scientifica
CommentiL’Intelligenza Artificiale sta sommergendo la sanità pubblica globale di informazioni prive di fonti, proprio mentre le istituzioni perdono personale e finanziamenti. È il grido d’allarme lanciato su PLOS Global Public Health da Kent Buse e Sarah Hawkes: in un’epoca in cui produrre un’ipotesi dall’aspetto autorevole costa zero, “distinguere le prove misurate dalle affermazioni non supportate è diventata una responsabilità fondamentale”. Il lavoro per verificare la verità scientifica rischia così di diventare un lusso impoverito dai tagli. Eppure, la stessa tecnologia che rischia di paralizzare le politiche sanitarie con testi inaffidabili sta contemporaneamente rivoluzionando la medicina diagnostica e la ricerca di laboratorio grazie alla sua straordinaria capacità di analizzare enormi quantità di dati.
Per comprendere la gravità del problema istituzionale, secondo i ricercatori, basta guardare al recente taglio dei fondi statunitensi al programma Demographic and Health Surveys (DHS). Per quasi quattro decenni, questo progetto da 47 milioni di dollari all’anno – meno dello 0,1% del budget USAID – ha fornito dati essenziali su mortalità infantile, nutrizione e vaccinazioni a oltre novanta Paesi. Lo stop improvviso ha lasciato ventitré Paesi a metà delle rilevazioni, esponendo “la fragilità dell’infrastruttura delle prove quando le istituzioni pubbliche dipendono da un singolo donatore”.
In questo vuoto di dati primari e con istituzioni come l’Organizzazione Mondiale della Sanità (OMS) colpite da ristrutturazioni e licenziamenti, si sono inseriti i modelli linguistici generativi. L’AI generativa agisce come una cassa di risonanza priva di discernimento: genera “abbondanza senza discernimento”, ponendo sullo stesso piano uno studio peer-reviewed e un’allucinazione di sistema, fabbricando citazioni bibliografiche inventate e amplificando i pregiudizi esistenti attingendo a dati prodotti in gran parte nel Nord del mondo. Quando gli stessi autori dell’articolo hanno cercato informazioni sullo stato del programma DHS durante la stesura, la prima risposta ottenuta è stata una sintesi generata dall’AI “sicura di sé e solo parzialmente fondata su fonti”. Come intuì Herbert Simon nel 1971, una ricchezza di informazioni crea una povertà di attenzione. L’AI non sta risolvendo l’infodemia, la sta industrializzando.
Sarebbe tuttavia un errore condannare la tecnologia in modo indistinto. La distinzione fondamentale risiede nella differenza tra l’AI usata come generatore di testo e l’AI impiegata come analizzatore di dati complessi. Se nel campo della politica sanitaria l’AI generativa rischia di oscurare le fonti, nell’ambito della medicina clinica, della genomica e della diagnostica sta guidando una vera e propria rinascita scientifica. Quando si tratta di elaborare moli titaniche di dati biologici, l’Intelligenza Artificiale raggiunge traguardi straordinari. Nella diagnostica per immagini, gli algoritmi di deep learning analizzano milioni di radiografie, risonanze e TAC in pochi secondi, individuando microlesioni tumorali o patologie retiniche con un’accuratezza talvolta superiore a quella dell’occhio umano.
Nel campo del ripiegamento proteico e della ricerca farmaceutica, strumenti come AlphaFold hanno risolto la struttura tridimensionale di centinaia di milioni di proteine, accelerando in modo esponenziale la scoperta di nuovi farmaci e vaccini. Nella medicina di precisione e nella genomica, l’AI sviscera il sequenziamento genetico di intere popolazioni incrociandolo con le cartelle cliniche digitali per identificare marcatori rari e suggerire terapie personalizzate. Un conto è chiedere a un chatbot di riassumere la politica vaccinale di un Paese, rischiando l’invenzione di sana pianta, un altro è utilizzare reti neurali per individuare pattern matematici ed evidenze biochimiche sommerse in terabyte di dati scientifici.
La sfida per il futuro della salute globale non è quindi fermare l’Intelligenza Artificiale, ma ridefinirne i confini di utilizzo e rafforzare gli arbitri del sistema. Buse e Hawkes invocano l’adozione di standard di provenienza chiari, affinché ogni dato o stima usata in ambito sanitario specifichi se sia stato misurato, modellato o generato, indicando sempre il margine di incertezza. Inoltre, sottolineano la necessità di difendere l’indipendenza delle istituzioni pubbliche, poiché “i modelli vendono fluidità piuttosto che verifica” e l’esternalizzazione della verità rischia di distruggere la legittimità della scienza.
L’Intelligenza Artificiale rappresenta uno dei più potenti microscopi che l’umanità abbia mai inventato per decifrare la complessità della biologia. Tuttavia, quando si tratta di decidere le politiche sanitarie che guidano la vita di milioni di persone, nessun algoritmo potrà mai sostituire il rigore dell’evidenza empirica e la responsabilità delle istituzioni pubbliche.
Valentina Arcovio
