Questo sistema di falsificazione attraverso l’IA avrebbe trovato terreno particolarmente fertile in Cina, dove, secondo il New York Times, sarebbero sorte numerose aziende che la vedono come una pratica facile e veloce per raggiungere il mercato americano. “Come facciamo a far sembrare i nostri contenuti più autentici? Guardiamo serie TV e film americani”, spiega Vivi Yi, amministratrice delegata di un’azienda di marketing cinese, che al quotidiano statunitense ha raccontato il funzionamento di questo meccanismo. La sua compagnia, infatti, avrebbe prodotto circa 1200 video, tutti sfruttando l’IA, per un costo di circa dieci dollari ciascuno: “Costano un decimo dei video girati normalmente e assicurano efficienza e rapidità”, sottolinea ancora Yi.

Ma è la stessa dirigente ad invitare alla cautela quando si guarda un video su Instagram o TikTok, specie se riguarda la salute: “All’inizio non capivamo benissimo le linee guida delle piattaforme su che cosa superasse la linea; con il tempo abbiamo acquisito esperienza. Adesso sappiamo che non possiamo dire ‘perdita di peso’, ma ‘gestione del peso’”, aggiunge la manager.

Nonostante le piattaforme come TikTok, Facebook e Instagram stiano cercando di contrastare il fenomeno, video di questo tipo circolano sui social con frequenza sempre maggiore. Le vittime sono principalmente persone anziane o con gravi patologie, che faticano a distinguere ciò che è reale da ciò che è creato artificialmente con l’IA. E nel frattempo vengono convinte ad acquistare integratori presentati come “miracolosi”, ma che invece possono celare pericoli reali per la salute.