La storia di J., influencer minorenne: "Le mie foto trasformate in nudi, ho perso fiducia nelle persone"
C'è una fabbrica di immagini pornografiche non consensuali dove le donne vengono spogliate con un click. Vengono prodotte in serie fotografie di ragazze nude realizzate con la tecnologia deepfake, sono false ma sembrano vere. L'ultima vittima è J., influencer italiana minorenne. "Chiunque tu sia, è disgustoso e dannoso quello che hai fatto. Trasformare la mia foto che ho postato su Instagram in una foto che… non è quello che ho pubblicato!", ha scritto sul suo profilo. La foto in questione è un deepfake, chi l'ha creata è partito da uno scatto in bikini che aveva pubblicato sul suo profilo e l'ha trasformato in un'immagine di nudo. "Quel briciolo di fiducia che avevo nelle persone se ne è andato completamente", ha commentato l'influencer.
Il fenomeno deepfake ha radici profonde, nell'ultimo periodo, con gli sviluppi dell'intelligenza artificiale, è diventato ancora più semplice da utilizzare. E infatti, la tecnologia in grado di creare immagini false ma realistiche, è diventata lo strumento perfetto per creare sul web materiale pornografico. Non solo, è quasi impossibile garantire una rimozione completa una volta che le immagini sono state pubblicate. Immagini che segnano un prima e un dopo nella vita di una donna.
Un vuoto normativo per i casi di deepfake
Al momento manca un quadro normativo in grado di arginare un fenomeno in crescita. Eppure secondo un report del gruppo informatico Home Security Heroes la produzione di deepfake porno tra il 2022 e il 2023 è aumentata del 464%. Gli Stati Uniti hanno provato a creare una task force federale per esaminare la tecnologia deepfake, ma poi è stata bloccata. Yvette D. Clarke, politica statunitense, aveva proposto già nel 2019 un disegno di legge, e poi di nuovo nel 2021, ora ha detto al New York Times che sta pianificato di reintrodurre il disegno di legge quest'anno.
I gruppi per i diritti digitali come la Electronic Frontier Foundation stanno spingendo i legislatori a utilizzare un quadro giuridico esistente per affrontare i casi di frode, violazione del copyright, oscenità e diffamazione. C'è pero un problema: è molto difficile riconoscere un video deepfake ben fatto. Lo ha dimostrato la RAND Corporation con un esperimento su 3000 video. Il gruppo ha sbagliato più di un terzo delle volte. "C'è una corsa agli armamenti tecnologici tra i creatori di deepfake e i rilevatori di deepfake", ha spiegato Jared Mondschein, scienziato fisico presso RAND al New York Times. "Fino a quando non inizieremo a trovare modi per rilevare meglio i deepfake, sarà davvero difficile portare avanti un quadro normativo."
La tecnologia per distruggere le donne
J. non è la prima, e non sarà nemmeno l'ultima. A fine gennaio le immagini porno di Taylor Swift generate con l'intelligenza artificiale (IA) sono diventate virali sui social, una di queste è stata vista 47 milioni di volte su X (fu Twitter), prima che l'account venisse sospeso. Non solo, sono state create immagini porno di Giorgia Meloni, Michelle Obama, Scarlett Johansson, ed Emma Watson. Sono diventate vittime del deepfake anche le ragazze minorenni di una scuola italiana, i compagni di classe le hanno spogliate con l'app Bikini Off.
Come aveva spiegato a Fanpage.it Yu Chunju, artista cinese della provincia del Guandong che attraverso le sue opere analizza la disparità di genere innescata dalla tecnologia deepfake: "Il deepfake è diventata una tecnologia per distruggere le donne, soprattutto nel porno. Ci sono moltissimi siti che sostituiscono i volti delle persone sui corpi di pornostar, è umiliante e mortificante." Non solo. "È ancora tutto molto vago, non ci sono leggi per proteggere le persone, e l'impatto negativo sulla società è enorme. Perché se non sei famoso vieni psicologicamente distrutto, succede anche se sei una celebrità, ma con un aggravante. I personaggi pubblici hanno una forte influenza rappresentativa sul pubblico, quindi incidono sul modo in cui viene percepita la femminilità e la donna stessa. E anche qui si riduce a desiderio sessuale di un uomo".