Creare avatar artistici virtuali. È questa la nuova moda del web, che sta spopolando nelle ultime settimane. Un’onda di immagini ritoccate si è riversata sui social network grazie a Lensa AI, un’applicazione sviluppata da Prisma Labs capace di correggere le “imperfezioni” dei selfie. Un successo improvviso e planetario (dato che l’app è stata inaugurata nel 2018), dovuto alla nuova funzione virale degli “avatar magici”, lanciata a fine novembre. Secondo le stime preliminari di Sensor Tower, solo lo scorso mese sono stati registrati 1,6 milioni di download, con un aumento del 631% rispetto a ottobre 2022. Più di quattro milioni di persone in tutto il mondo, poi, hanno scaricato l’app nei primi cinque giorni di dicembre, spendendo in totale più di otto milioni di dollari.
Una app a pagamento – Numeri da capogiro, di cui non c’è da meravigliarsi. Appena scaricata, infatti, Lensa AI invita a una prova gratuita di sette giorni. Una settimana durante la quale si può disporre degli strumenti di editing in maniera illimitata e al termine della quale, se ci si dimentica di annullare il periodo di prova, ci si vedrà addebitare 39,99 dollari per un abbonamento annuale. La versione gratuita non dà accesso, però, alla funzione “avatar magico”, vero motivo di successo dell’app, per il quale il costo minimo è di 3,99 dollari. Una svolta epocale se si considera che, per la prima volta, numerosi utenti pagano per interagire con un’intelligenza artificiale.
Luci e ombre – L’apparenza inganna e, si sa, non è sempre oro tutto ciò che luccica. Oltre al trovarsi di fronte canoni di bellezza nocivi e inverosimili, spesso il fotoritocco virale è veicolo per la diffusione di malware e numerosi utenti si sono preoccupati del trattamento delle loro foto. Prisma Labs, però, ha rassicurato tutti e dichiarato che le immagini vengono eliminate subito dopo la scansione per la costruzione dell’avatar. L’aspetto più inquietante del fenomeno riguarda la tendenza algoritmica a sessualizzare i soggetti. Nonostante i termini di servizio di Lensa AI vietino la pubblicazione di contenuti inappropriati, nudi e foto che ritraggono bambini, rimane sempre chi trasgredisce le regole. E viene anche “aiutato”. È stato notato, infatti, come l’app abbia la tendenza a restituire ritratti con pose provocanti e rendere i seni più prosperosi. E, anche quando le immagini non sono esplicite, a generare opere in cui si mette in risalto la nudità.
Razzismo e pregiudizi – Al peggio non c’è mai fine. Alcune donne di colore, infatti, hanno rivelato che Lensa avrebbe sbiancato la loro pelle e modificato i loro lineamenti. Un inammissibile limite che, secondo gli studiosi Ruha Benjamin e Safiya Noble, ricalca i pregiudizi culturali di chi ha codificato gli algoritmi, costruiti secondo canoni estetici occidentali. Lo stesso Noble, nel suo libro “Algorithms of Oppression”, aveva provato come, digitando la parola “bella” su Google Images, il motore di ricerca mostrasse immagini sessualizzate di donne bianche.
Immagini di minori: il rischio è dilagante – Lensa AI vieta severamente anche di diffondere rappresentazioni di minori, almeno sulla carta. Numerosi utenti, però, hanno testimoniato che, provando a caricare foto della loro infanzia, non hanno mai trovato ostacoli. E ancor più allarmante è che alcune immagini di bambini di sei anni siano state trasformate in scatti con soggetti, pose e attributi diversi. “Negli ultimi 30 anni, gli sforzi per frenare gli abusi sui minori e il traffico di esseri umani si sono sviluppati insieme a Internet. Ma i generatori di arte AI eludono completamente la moderazione dei contenuti”, ha commentato Olivia Snow sull’edizione statunitense del magazine Wired. E senza controlli, né alcun tipo di supervisione, la situazione potrebbe diventare davvero terribile. Snow, inoltre, ha sottolineato come Lensa AI non abbia nessuna politica che vieti di pubblicare immagini altrui. Le uniche condizioni rilevanti? La stessa persona su tutte le foto e nessun altro in sua compagnia.
