Il mondo FQ

Perché l’intelligenza artificiale è la nuova maestra delle discriminazioni di genere

L’AI non sa che il mondo è cambiato. Non si guarda intorno, non vede le donne cazzute. Anzi, tutto il suo materiale è pieno zeppo di discriminazioni di genere
Perché l’intelligenza artificiale è la nuova maestra delle discriminazioni di genere
Icona dei commenti Commenti

È una donna ma non aiuta le donne. È il futuro ma usa gli stereotipi del passato. È la regina indiscussa della modernità ma attinge informazioni dai secoli scorsi.

L’intelligenza artificiale è la nuova maestra delle discriminazioni di genere, addestrata con tutto il materiale presente sul web. E il materiale non è solo quello inserito dal 1991, quando Tim Berners-Lee pubblicò il primo sito web in quel del Cern di Ginevra. Da allora, ne è passata di acqua sotto i ponti e di manoscritti digitalizzati. Esatto. Il web è ricco di materiali antiquati, anacronistici (eufemismo), dove la figura della donna non era esattamente ‘emancipata’.

Senza scomodare la Bibbia digitalizzata: “Allo stesso modo voi, mogli, siate sottomesse ai vostri mariti”, l’AI si ciba di libri come il Malleus Maleficarum (1486). È il più famoso manuale sulla caccia alle streghe. Scrollando col mouse, leggiamo frasi quanto meno discutibili secondo cui la donna è, per natura, più incline alla lussuria e al patto col demonio. Magari, mi viene da dire.

Anche andando avanti, negli ultimi decenni, la figura femminile resta relegata a oggetto di contorno. Vi dico: ‘ragazze fast food’, vallette della trasmissione cult degli anni Ottanta ‘Drive in’. Abiti provocanti. Sul nome, che ricordava il panino di McDonald’s, glissiamo. L’empowerment femminile non si sapeva neanche cosa fosse. L’unica donna di potere, Margaret Thatcher, è apprezzata dall’Intelligenza artificiale non tanto come Iron Lady per il suo carattere risoluto, ma perché “all’inizio si è affermata come madre e casalinga della classe media che sa come far quadrare i conti domestici”. Fatta questa lunga (e spero apprezzata) premessa, veniamo ai fatti.

L’AI non sa che il mondo è cambiato. Non si guarda intorno, non vede le donne cazzute. Anzi, tutto il suo materiale è pieno zeppo di discriminazioni di genere. In gergo, vengono chiamati gender bias. E lo ammette, candidamente, lei stessa: “I dati storici, usati per addestrare gli algoritmi, sono storicamente viziati da bias patriarcali e discriminazioni di genere”. Non troverete mai (fino a comandi contrari), ruoli di potere declinati al femminile: la manager è qualcosa di alieno; l’infermiera, invece, è una certezza. Ci sono, poi, le cosiddette micro-aggressioni: sono impercettibili ma si insinuano nel pensiero comune. L’intelligenza artificiale fatica a riconoscere le forme sottili di discriminazione, come il body shaming o l’ipersessualizzazione. Così, vi genera frasi che copiano i più stereotipati slogan pubblicitari come ‘ritrova la tua forma migliore’ o ‘accendi il desiderio’.

Sui social, si comporta come un Tribunale dell’Inquisizione 3.0. Secondo uno studio della ricercatrice e attivista Carolina Are, pubblicato sulla rivista Feminist Media Studies (2020), l’algoritmo di Instagram penalizza contenuti legati al femminismo, all’attivismo politico femminista e perfino a tematiche fisiologiche (come il ciclo o i peli corporei). Un bel bicipite, invece, non si nega a nessuno. Infine, non può mancare lo stereotipo della donna emotiva e dell’uomo implacabile. Se lei ha le ‘sue cose’, poi, non c’è storia. Il gentil sesso (altra discriminazione) è empatica, sensibile, dolce. Lui è pragmatico, logico, analitico. Al repertorio manca solo “l’omm addà puzzà” e li abbiamo collezionati tutti.

Se avete dubbi sulla veridicità di quanto ho scritto, andate su ChatGpt, scrivete questa frase e ditemi cosa esce fuori: “”Un nuovo Amministratore Delegato e la sua assistente esecutiva entrano nella sala riunioni per una trattativa decisiva. Descrivi l’ingresso, l’abbigliamento, il tono di voce e l’atteggiamento dei due personaggi nel prendere il controllo della situazione.” Troverete delle discriminazioni di genere.
Scommettiamo?

Gentile lettore, la pubblicazione dei commenti è sospesa dalle 20 alle 9, i commenti per ogni articolo saranno chiusi dopo 72 ore, il massimo di caratteri consentito per ogni messaggio è di 1.500 e ogni utente può postare al massimo 150 commenti alla settimana. Abbiamo deciso di impostare questi limiti per migliorare la qualità del dibattito. È necessario attenersi Termini e Condizioni di utilizzo del sito (in particolare punti 3 e 5): evitare gli insulti, le accuse senza fondamento e mantenersi in tema con la discussione. I commenti saranno pubblicati dopo essere stati letti e approvati, ad eccezione di quelli pubblicati dagli utenti in white list (vedere il punto 3 della nostra policy). Infine non è consentito accedere al servizio tramite account multipli. Vi preghiamo di segnalare eventuali problemi tecnici al nostro supporto tecnico La Redazione