La star della Teen Marvel Xochitl Gomez è l'ultima vittima del porno deepfake. Tuttavia, dopo aver scoperto i deepfake sessualmente espliciti non consensuali che circolavano su X, ex Twitter, è rimasta confusa quando la piattaforma non è riuscita ad agire e a rimuoverli.
Molti problemi sono sorti con l’ascesa dell’intelligenza artificiale, ma il deepfake porno è uno dei più preoccupanti. Sebbene i deepfake esistano da un po’ di tempo, i progressi tecnologici li hanno resi più accessibili e convincenti. Di conseguenza, molte persone, soprattutto donne, hanno scoperto che le loro sembianze sono state prese o ricreate senza il loro consenso e utilizzate in contenuti pornografici. È diventato un grosso problema per le celebrità femminili, ma anche per le donne comuni che hanno sperimentato l'utilizzo delle loro sembianze in contenuti sessualmente espliciti per porno di vendetta, molestie e bullismo. C’è anche una grande preoccupazione per i deepfake utilizzati per rappresentare abusi sui minori.
Sfortunatamente, al momento non esistono leggi federali contro il deepfake porno non consensuale e solo pochi stati hanno una legislazione che protegge i cittadini da esso. Molte donne vittime della pornografia deepfake si sono trovate senza opzioni per combatterla a causa della mancanza di regolamentazione e dell’illegalità di Internet. La maggior parte non ha le risorse finanziarie per intraprendere azioni legali. Anche celebrità come Scarlett Johansson hanno dichiarato che è inutile cercare di combattere i deepfake.
Un piccolo livello di protezione delle donne proviene dalle piattaforme di social media che hanno vietato il deepfake e il porno generato dall’intelligenza artificiale. Se questi siti applicassero tali divieti, la circolazione di questi contenuti dannosi sarebbe più difficile. Tuttavia, l’esperienza di Gomez dimostra che i social media non fanno rispettare le proprie regole.
Xochitl Gomez racconta la sua esperienza con il porno deepfake
(Axelle/Bauer-Griffin/Getty)
Mentre appariva nel podcast di Taylor Lautner e di sua moglie, La stretta , Xochitl Gomez (alias America Chavez) ha parlato delle sue esperienze come vittima della pornografia deepfake. La diciassettenne ha rivelato di aver trovato del materiale sessualmente esplicito che circolava su X, ex Twitter, ma di avere difficoltà a rimuoverlo. X ha vietato il porno generato dall'intelligenza artificiale nel 2018 e ha adottato politiche contro immagini e video deepfake sessualmente espliciti, nonché media fuorvianti e nudità non consensuale. Considerando che le immagini di Gomez violano chiaramente le regole di X e che questo contenuto presentava un minore, si sarebbe potuto pensare che la piattaforma sarebbe intervenuta immediatamente.
Tuttavia, Gomez è rimasta scioccata quando ha scoperto che il suo team aveva già tentato di agire contro il contenuto senza alcun risultato. Notizie della NBC riportato che fino al 19 gennaio 2024 le foto potevano ancora essere trovate su X, che non rispondeva alle richieste di commento. Gomez ha spiegato che il contenuto la lasciava stranita e desiderava disperatamente che venisse rimosso perché non era un bell'aspetto per lei. Si è chiesta: perché è così difficile da smontare? Il mio unico pensiero al riguardo era: 'Perché è permesso?'
Alla fine, però, si è rassegnata ad accettare che il contenuto semplicemente non potesse essere rimosso, rivelando che cerca semplicemente di non pensarci e mette via il telefono per affrontare il problema. Tuttavia, le domande che ha posto rimangono molto rilevanti. Perché è così difficile rimuovere questo contenuto? È moralmente riprovevole e disgustoso che il porno deepfake sia composto da individui non consenzienti. È davvero orribile quando si tratta di un minore. Su X circola effettivamente della pornografia infantile e la piattaforma, stranamente, non fa nulla al riguardo, anche se questa dovrebbe essere la questione più urgente da affrontare.
Non sembra una situazione complessa se un individuo segnala materiale sessualmente esplicito e notifica alla piattaforma di non aver acconsentito. Il materiale va contro più regole sul sito web. Cos'altro c'è da rivedere o determinare? È già abbastanza traumatizzante per un individuo trovare questo tipo di contenuti sui social media; il minimo che queste piattaforme potrebbero fare è aderire alle loro richieste di rimozione. Nessun individuo, soprattutto non un minore, dovrebbe semplicemente accettare che il contenuto sia lì perché X e altre piattaforme di social media si rifiutano persistentemente e in modo sconcertante di proteggere i propri utenti.
(immagine in primo piano: Axelle/Bauer-Griffin/FilmMagic / Getty)
