Deepfake: da Phica.eu al caso Barra e Social Media Girls

I deepfake, ovvero contenuti digitali creati con l’intelligenza artificiale per generare immagini o video falsi ma sorprendentemente realistici, sono ormai molto più di un semplice prodotto dell’innovazione digitale; oggi, rappresentano una minaccia concreta alla libertà e alla dignità delle persone. L’uso di IA per manipolare volti e corpi apre scenari sempre più inquietanti, in cui questo strumento non serve più a stupire o divertire, ma diventa un mezzo per ingannare, umiliare e colpire chi ne è vittima. Il recente caso che ha coinvolto la giornalista Francesca Barra ha riportato con forza il tema al centro del dibattito pubblico.

Emerge un interrogativo urgente: come può la società difendersi da una tecnologia che riscrive il reale? Il deepfake, nelle sue forme più estreme e pericolose, non solo attacca l’immagine personale di una persona ma ne mina la fiducia e la reputazione collettiva. La rete diviene così contesto in cui tutto può essere costruito, falsificato e diffuso senza consenso e, purtroppo, senza conseguenze immediate. Da qui, il caso Barra: non solo una vicenda isolata, ma il simbolo del nuovo volto della violenza online che rende chiaro come la tecnologia corra più veloce di etica e leggi.

Il caso Barra: nuovi scenari preoccupanti

“Un furto dell’immagine, del corpo, della libertà di essere viste come si è — non come un algoritmo o una mente malintenzionata decide di rappresentarci. Le tecnologie dovrebbero essere strumenti di progresso, non di sopraffazione”.  È con queste parole che la giornalista e conduttrice Francesca Barra, in un lungo post instagram, si esprime sull’episodio che l’ha vista vittima di un abuso digitale di deepfake; false immagini di nudo generate con l’IA che la ritraggono sono apparse su un sito per adulti. Nel suo lungo post Barra precisa: “Il punto non è sapere che non sono io, ma difendere un principio: nessuno può usare o manipolare la tua immagine senza consenso”. La giornalista, così facendo, sposta l’attenzione da un fatto strettamente personale ad un nodo culturale: non si tratta di moralismi, giudizi sul corpo, sessualizzazione e nudità, ma di assenza di consenso, quella linea sottile, ma imprescindibile, che separa la libertà dalla violenza. Barra invita a rompere il silenzio “perché il silenzio non protegge, protegge chi abusa”. 

Ma il caso Barra non è, purtroppo, un caso isolato. Il quadro è molto più ampio, complesso e preoccupante. Dopo i casi del gruppo “Mia Moglie” e della piattaforma “Phica.eu”, lo scenario di violenza digitale non si è fermato qui. Il caso della giornalista ha comportato delle indagini che hanno portato alla scoperta di un nuovo sito sessista: “Social Media Girls”. Il sito in questione si apre ad uno scenario ancora più preoccupante; ad essere pubblicate sulla piattaforma sono tutte immagini generate con gli algoritmi di intelligenza artificiale per ricreare  deepfake di donne famose. Tra le sezioni del portale, ora sotto indagine della polizia Polizia Postale, compaiono “AI undress anybody” o “Italian nude vips”; a figurarmi i volti di famosi: da Chiara Ferragni a Benedetta Parodi, Michelle Hunziker, Maria Elena Boschi, Diletta Leotta, Sophia Loren, Cristina D’avena e tante altre.

Il sito di deepfake in questione conta milioni di utenti da tutto il mondo e non prevede alcun controllo. Quello che basta per iscriversi? Dichiararsi maggiorenni e scegliere persino di mantenere l’anonimato, creando nickname per il proprio profilo. Scoperte così catene di commenti, condivisioni, tutto impunito.

Le reazioni politiche e le questioni legislative sul deepfake

La vice presidente del Senato Licia Ronzulli di Forza Italia ha definito il sito Social Media Girls “un altro, disgustoso e agghiacciante sito che usa la tecnologia per violentare le donne”. Sulla medesima linea si esprimono le Senatrici Raffaella Paita e Daniela Sbrollini di Italia Viva sottolineando che si tratta di una “violenza inaccettabile e aberrante […] Chi violenta con un clic è un criminale, non hacker”.  Martina Semenzo, presidente della Commissione parlamentare di inchiesta sul femminicidio, ha sottolineato che il Parlamento sta completando una relazione sulla violenza digitale di genere alla luce della nuova legge sull’intelligenza artificiale. Prosegue rendendo chiaro quanto sia  fondamentale individuare rapidamente gli autori e prevedere sanzioni adeguate per le piattaforme che non rimuovono i contenuti.

La legge italiana riconosce già in parte la violenza del deepfake con l’introduzione dell’articolo 612-quater del codice penale previsto dalla legge 132/2025. Nello specifico, l’articolo, istituisce come reato “l’illecita diffusione di contenuti generati o alterati con sistemi di intelligenza artificiale”. La semplice creazione di deepfake non costituisce di per sé reato, ma la diffusione di contenuti senza consenso, soprattutto se a fini di umiliazione o danno, è punibile con pena fino a cinque anni di carcere. Tuttavia, nella maggior parte dei casi, è necessaria una querela della vittima per avviare il procedimento. Chi subisce manipolazione di questo tipo può e deve agire, come rimarca Barra. C’è la possibilità di segnalare immediatamente i contenuti alla Polizia Postale, consegnando prove come screenshot o i link diretti alle pagine che ospitano il materiale lesivo. Successivamente, è consigliabile rivolgersi ad un avvocato per presentare denuncia formale e chiedere la rimozione del materiale. 

Tuttavia, dobbiamo anche far presente che difendersi dal deepfake non è così semplice. Molte piattaforme operano fuori dal controllo delle autorità italiane o europee. Inoltre, chiunque può accedere a delle immagini pubbliche e manipolare; limitare la visibilità dei propri contenuti, potrebbe mitigare un po’ i rischi, ma non risolve comunque la questione soprattutto per le personalità pubbliche che non hanno questa tutela dell’anonimato. Probabilmente la vera responsabilità dovrebbe ricadere in origine su chi sviluppa gli strumenti di manipolazione. Bisognerebbe addestrare l’IA generativa con limiti preventivi di sistema; solo in questo modo si potrebbe iniziare a pensare di arginare concretamente il problema, agendo ex ante e non ex post.

Alfabetizzazione etica e morale: il valore del consenso

Social Media Girl e il caso Barra, ci ricordano anche che la battaglia contro il deepfake non è solo giuridica, ma anche culturale: riguarda il tema del consenso, della dignità e della verità in una società in cui la tecnologia può ormai “spogliare” una persona senza toccarla. Ad essersi delineata è proprio una nuova frontiera della violenza digitale. Il deepfake può distruggere le identità e la reputazione delle persone, con la stessa potenza di un’aggressione fisica, ma con l’aggravante dell’invisibilità e della diffusione incontrollabile. Un’immagine generata artificialmente può sembrare autentica e, nel mondo iper-connesso nella quale viviamo, la verosimiglianza è sufficiente per scatenare abusi, odio e derisione. Il potere di alterare la percezione del reale ci rende tutti potenzialmente vulnerabili e vittime. I deepfake pornografici, in particolare, rappresentano un’arma di umiliazione e controllo; colpiscono la libertà degli individui e la loro autodeterminazione, riproponendo in forma digitale logiche di possesso e giudizio morale. Ad essere significativo è che, anche di fronte a immagini false, la reazione pubblica sia spesso quella di interrogarsi sulla condotta della vittima piuttosto che sulla gravità dell’abuso. La colpevolizzazione è uno schema che persiste anche quando la realtà è interamente costruita. Contrastare i deepfake non può ridursi al solo intervento repressivo. La sfida non è più saper distinguere il reale dal falso e punire di conseguenza il reato di distorsione; serve alfabetizzazione etica, morale e tecnologica, capace di educare al rispetto del consenso, della privacy e della verità. C’è necessità di formare una società che riconosca che le forme di violenza digitali sono forme di violenza reali, con un impatto concreto, se non addirittura amplificato, sulle vite delle persone. La dignità delle persone non è qualcosa da poter distorcere o da poter compromettere con facilità;  ogni clic comporta una responsabilità, fruire di questi contenuti ci rende comunque colpevoli di abuso.  

La vera risoluzione, pertanto, non risiede solo in codici algoritmici e leggi sanzionatorie, ma nella capacità di un’intera comunità di comprendere il valore del rispetto.

Fonte immagini dell’articolo: “Deepfake: da Phica.eu al caso Barra e Social Media Girls” – Freepik