DeepFake è una parola coniata nel 2017 da un utente di Reddit, nata dalla fusione di due termini “Fake” (falso) e “Deep learning” (una particolare tecnologia AI) e si riferisce ad una tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale, che viene usata per combinare/sovrapporre immagini/video già esistenti con altri immagini/video originali. Questa tecnologia in passato è stata spesso utilizzata nel mondo cinematografico come ausilio per gli effetti speciali, ma attualmente, grazie al diffondersi di applicazioni e software accessibili a tutti è possibile realizzare DeepFake anche con un semplice smartphone.

Negli ultimi anni abbiamo potuto notare una vera esplosione di applicazioni che partendo da una base  reale permettevano di modificare, invecchiare, ringiovanire o aggiungere particolari caratteristiche nuove. Il risultato è la creazione di foto/video in cui i visi ed i movimenti delle persone vengono interamente simulati al computer, creando contenuti estremamente realistici, rendendo cosi difficile la distinzione.

Il Revenge Porn è un termine che nasce dalla fusione tra le parole “Porn” (porno) e “Revenge” (vendetta), si tratta della  trasmissione di immagini o video sessualmente espliciti senza il consenso della persona. In Italia il Revenge Porn è stato dichiarato reato dalle legge n.69 del 2019 nota come “Codice Rosso”.

Cosa accade se il revenge porn incontra il deepfake? 

Immaginiamo un malintenzionato che non possieda sul proprio dispositivo dei contenuti sessualmente espliciti della vittima designata per commettere un atto di Revenge Porn. Utilizzando il DeepFake e prendendo una qualsiasi foto/video su un social network della vittima, può facilmente ricreare un contenuto sessualmente esplicito estremamente realistico e diffonderlo.

I termini coniati per questo tipo di contenuti sono “Deepnude” e “Porno DeepFake” e si basano semplicemente sul creare finti contenuti pornografici utilizzando il DeepFake, ovvero sovrapponendo l’immagine di una persona su un’immagine/video pornografico.

I porno DeepFake vengono spesso utilizzati anche per alimentare la pornografia illegale e la pedopornografia.

Una ricerca condotta da Sensity (ex Deeptrace) ha messo in evidenza la capacità di diffusione del fenomeno, soltanto nel mese di Luglio 2020 nelle chat di messaggistica di Telegram sono state spogliate “virtualmente” con l’uso dell’intelligenza artificiale, le immagini di ben 104.852 donne, per poi essere condivise.

Quali sono le conseguenze psicologiche?

Uno studio del 2016 di Samantha Bates (in cui si analizzavano le ripercussioni psicologiche in un campione di donne vittime di Revenge Porn), mostra come le vittime sviluppino: perdita della fiducia nelle relazioni, depressione, ansia, disturbo da stress post traumatico (PTDS), comportamenti disfunzionali (abuso di alcool e autolesionismo) e nei casi più gravi ideazione suicidaria. Inoltre nei risultati emersi, si evidenziavano notevoli somiglianze con le conseguenze psicologiche della violenza sessuale.

Deepfake: come prevenire?

Di seguito, ecco alcuni suggerimenti indicati dall’Autorità Garante all’interno del vademecum (2020):

• Evitare la diffusione di immagini personali o dei propri cari sui social network.
• Conoscere e riconoscere gli elementi che possono far presumere di trovarsi in presenza di un DeepFake:  immagine pixellata, movimenti innaturali, anomalie nelle luci e ombre del video, deformazione della bocca del soggetto che parla.
• Segnalare il presunto DeepFake alla piattaforma ed evitare di condividerlo.
• Segnalare alle autorità  competenti (Polizia Postale e Garante per la protezione dei dati personali), in caso si ritenga che il DeepFake sia stato utilizzato in modo tale da configurare un reato o una violazione della privacy.

Per concludere è importante sottolineare come per prevenire sia importante soprattutto educare. Il progredire della tecnologia e dei mezzi di comunicazione ci permettono di fare cose eccezionali, di poter condividere storie, immagini e notizie … allo stesso tempo se mal utilizzati possono diventare estremamente pericolosi. Fornire gli strumenti necessari per un corretto utilizzo dei mezzi di comunicazione e della tecnologia, sensibilizzare e promuovere una cultura digitale basata sul rispetto, l’empatia ed il consenso, sono l’unico modo per prevenire in maniera efficace il diffondersi di condotte come il Revenge Porn.

• Garante per la Protezione dei Dati Personali, GPDP (Dicembre 2020). Deepfake. Il falso che ruba la faccia (e la privacy). Ricavato il 7 marzo 2020
• Bates, S. (2016), Revenge Porn and Mental Health: A Qualitative Analysis of the Mental Health Effects of Revenge Porn on Female Survivors, in Feminist Criminology1,22–42.
• Il report, dal titolo “Automating Image Abuse, Deepfakes Bots on Telegram” è consultabile al link  https://www.medianama.com/wp-content/uploads/Sensity-AutomatingImageAbuse.pdf.