Scorri il feed, vedi un volto conosciuto e ti sembra tutto normale. Poi capisci: non è reale, è un corpo cucito dall’algoritmo. È qui che il patto di fiducia tra persone e piattaforme si spezza — ed è qui che Meta è chiamata a scegliere da che parte stare.
Ci sono immagini che non dovremmo mai normalizzare. I deepfake sessuali trasformano corpi e volti in materiale di consumo senza consenso. Fanno leva su curiosità e voyeurismo, ma producono danni veri: ansia, isolamento, ricatto.
Non è un fenomeno di nicchia. Negli ultimi anni, strumenti gratuiti per creare video generati dall’AI hanno abbassato la soglia d’ingresso. Bastano poche foto pubbliche. E la vergogna, spesso, fa più rumore della verità.
Un episodio ha acceso i riflettori anche fuori dalla bolla tech: le immagini false e sessualizzate di una popstar, circolate a gennaio 2024 su un altro social, hanno mostrato quanto sia facile travolgere una persona in poche ore. Se succede a chi ha squadre legali e media a disposizione, immaginate a una studentessa, a un’insegnante, a una professionista con un profilo pubblico.
Ricercatori indipendenti già nel 2019 stimavano che oltre il 95% dei deepfake online avesse natura pornografica e fosse rivolto contro le donne. Da allora gli strumenti sono diventati più potenti, più veloci, più accessibili.
Perché è un problema urgente
Qui non parliamo di satira o parodia. Parliamo di contenuti intimi non consensuali. E di una zona grigia che alcune piattaforme hanno tollerato troppo a lungo, coprendosi dietro a etichette e avvisi.
La novità è che, secondo una recente decisione del Board di Supervisione di Meta, Instagram deve rimuovere i deepfake espliciti che raffigurano persone reali e aggiornare le regole sullo sfruttamento sessuale degli adulti. Il punto chiave è semplice: trattare questi contenuti come violenza, non come “contenuto adulto”. Dunque, rimozione, sanzioni chiare per chi pubblica e zero eccezioni per personaggi pubblici o “contenuti virali”.
Non basta apporre un bollino. Le etichette “Made with AI”, che Meta ha iniziato a usare nel 2024, informano ma non proteggono. La tutela passa da policy inequivocabili, tempi rapidi di intervento e strumenti che diano potere a chi subisce l’abuso.
Cosa deve cambiare (subito) su Instagram
Regole chiare, scritte in modo comprensibile: i deepfake sessuali sono contenuti intimi non consensuali. Si rimuovono sempre, senza eccezioni creative.
Moderazione più rapida e coerente: priorità ai casi con persone identificabili e diffusione accelerata (es. Reels, Esplora, DM di gruppo).
Strumenti efficaci per le vittime: estendere e promuovere soluzioni di “hashing” preventivo come StopNCII.org, già sostenuta dall’ecosistema Meta, per bloccare la ricarica delle stesse immagini o video.
Trasparenza: report pubblici su tempi medi di rimozione, numero di ricorrenze bloccate, esiti dei ricorsi.
Educazione dell’utenza: spiegare come riconoscere e segnalare i contenuti manipolati, e perché condividerli fa male anche se “è solo per ridere”.
Se ti capita di imbatterti in un contenuto del genere su Instagram, non interagire e non ricondividere. Tocca i tre puntini > Segnala > Nudità o atti sessuali > sfruttamento/non consensuale. Se qualcuno ha usato il tuo volto, raccogli prove (URL, screenshot), segnala subito e valuta l’uso di strumenti di blocco proattivo. Ricorda: la responsabilità è di chi pubblica e della piattaforma, non tua.
La tecnologia promette immagini perfette. Ma la fiducia nasce dall’imperfezione riconosciuta: da regole chiare, da gesti netti. Se un’immagine sembra vera ma è costruita per ferire, che comunità vogliamo essere: quella che applaude o quella che spegne la luce?