I deepfake, ovvero contenuti digitali creati con l’intelligenza artificiale per generare immagini o video falsi ma sorprendentemente realistici, sono ormai molto più di un semplice prodotto dell’innovazione digitale; oggi, rappresentano una minaccia concreta alla libertà e alla dignità delle persone. L’uso di IA per manipolare volti e corpi apre scenari sempre più inquietanti, in cui questo strumento non serve più a stupire o divertire, ma diventa un mezzo per ingannare, umiliare e colpire chi ne è vittima. Il recente caso che ha coinvolto la giornalista Francesca Barra ha riportato con forza il tema al centro del dibattito pubblico.
Indice dei contenuti
Analisi del fenomeno deepfake e normativa vigente
| Elemento chiave | Dettagli e implicazioni |
|---|---|
| Vittima recente | Francesca Barra (immagini di nudo generate con IA). |
| Piattaforma coinvolta | Social Media Girls (utenti anonimi, milioni di iscritti). |
| Normativa di riferimento | Articolo 612-quater del codice penale (Legge 132/2025). |
| Sanzioni previste | Reclusione fino a cinque anni per diffusione senza consenso. |
Emerge un interrogativo urgente: come può la società difendersi da una tecnologia che riscrive il reale? Il deepfake, nelle sue forme più estreme e pericolose, come visto anche nello scandalo della sessualizzazione artificiale di Grok, non solo attacca l’immagine personale di una persona ma ne mina la fiducia e la reputazione collettiva. La rete diviene così contesto in cui tutto può essere costruito, falsificato e diffuso senza consenso e, purtroppo, senza conseguenze immediate. Da qui, il caso Barra: non solo una vicenda isolata, ma il simbolo del nuovo volto della violenza online che rende chiaro come la tecnologia corra più veloce di etica e leggi.
Il caso Francesca Barra e la violenza dei deepfake
“Un furto dell’immagine, del corpo, della libertà di essere viste come si è — non come un algoritmo o una mente malintenzionata decide di rappresentarci. Le tecnologie dovrebbero essere strumenti di progresso, non di sopraffazione”. È con queste parole che la giornalista e conduttrice Francesca Barra, in un lungo post Instagram, si esprime sull’episodio che l’ha vista vittima di un abuso digitale di deepfake; false immagini di nudo generate con l’IA che la ritraggono sono apparse su un sito per adulti. Nel suo lungo post Barra precisa: “Il punto non è sapere che non sono io, ma difendere un principio: nessuno può usare o manipolare la tua immagine senza consenso”. La giornalista, così facendo, sposta l’attenzione da un fatto strettamente personale ad un nodo culturale: non si tratta di moralismi, giudizi sul corpo, sessualizzazione e nudità, ma di assenza di consenso, quella linea sottile, ma imprescindibile, che separa la libertà dalla violenza. Barra invita a rompere il silenzio “perché il silenzio non protegge, protegge chi abusa”.
Ma il caso Barra non è, purtroppo, un caso isolato. Il quadro è molto più ampio, complesso e preoccupante. Dopo i casi del gruppo “Mia Moglie” e della piattaforma “Phica.eu”, lo scenario di violenza digitale non si è fermato qui. Il caso della giornalista ha comportato delle indagini che hanno portato alla scoperta di un nuovo sito sessista: Social Media Girls. Il sito in questione si apre ad uno scenario ancora più preoccupante; ad essere pubblicate sulla piattaforma sono tutte immagini generate con gli algoritmi di intelligenza artificiale per ricreare deepfake di donne famose. Tra le sezioni del portale, ora sotto indagine della Polizia Postale, compaiono “AI undress anybody” o “Italian nude vips”; a figurarvi i volti di famosi:
- Chiara Ferragni
- Benedetta Parodi
- Michelle Hunziker
- Maria Elena Boschi
- Diletta Leotta
- Sophia Loren
- Cristina D’Avena
Il sito di deepfake in questione conta milioni di utenti da tutto il mondo e non prevede alcun controllo. Quello che basta per iscriversi? Dichiararsi maggiorenni e scegliere persino di mantenere l’anonimato, creando nickname per il proprio profilo. Scoperte così catene di commenti, condivisioni, tutto impunito.
Legge e reazioni politiche: cosa rischia chi diffonde deepfake
La vice presidente del Senato Licia Ronzulli di Forza Italia ha definito il sito Social Media Girls “un altro, disgustoso e agghiacciante sito che usa la tecnologia per violentare le donne”. Sulla medesima linea si esprimono le Senatrici Raffaella Paita e Daniela Sbrollini di Italia Viva sottolineando che si tratta di una “violenza inaccettabile e aberrante […] Chi violenta con un clic è un criminale, non hacker”. Martina Semenzato, presidente della Commissione parlamentare di inchiesta sul femminicidio, ha sottolineato che il Parlamento sta completando una relazione sulla violenza digitale di genere alla luce della nuova legge sull’intelligenza artificiale. Prosegue rendendo chiaro quanto sia fondamentale individuare rapidamente gli autori e prevedere sanzioni adeguate per le piattaforme che non rimuovono i contenuti.
La legge italiana riconosce già in parte la violenza del deepfake, come approfondito nell’articolo sulle normative per i video creati con AI, con l’introduzione dell’articolo 612-quater del codice penale previsto dalla legge 132/2025. Nello specifico, l’articolo, istituisce come reato “l’illecita diffusione di contenuti generati o alterati con sistemi di intelligenza artificiale”. La semplice creazione di deepfake non costituisce di per sé reato, ma la diffusione di contenuti senza consenso, soprattutto se a fini di umiliazione o danno, è punibile con pena fino a cinque anni di carcere. Tuttavia, nella maggior parte dei casi, è necessaria una querela della vittima per avviare il procedimento. Chi subisce manipolazione di questo tipo può e deve agire, come rimarca Barra. C’è la possibilità di segnalare immediatamente i contenuti alla Polizia Postale, consegnando prove come screenshot o i link diretti alle pagine che ospitano il materiale lesivo. Successivamente, è consigliabile rivolgersi ad un avvocato per presentare denuncia formale e chiedere la rimozione del materiale.
Tuttavia, dobbiamo anche far presente che difendersi dal deepfake non è così semplice. Molte piattaforme operano fuori dal controllo delle autorità italiane o europee. Inoltre, chiunque può accedere a delle immagini pubbliche e manipolare; limitare la visibilità dei propri contenuti, potrebbe mitigare un po’ i rischi, ma non risolve comunque la questione soprattutto per le personalità pubbliche che non hanno questa tutela dell’anonimato. Probabilmente la vera responsabilità dovrebbe ricadere in origine su chi sviluppa gli strumenti di manipolazione. Bisognerebbe addestrare l’IA generativa con limiti preventivi di sistema; solo in questo modo si potrebbe iniziare a pensare di arginare concretamente il problema, agendo ex ante e non ex post.
Alfabetizzazione digitale: etica e valore del consenso
Social Media Girls e il caso Barra, ci ricordano anche che la battaglia contro il deepfake non è solo giuridica, ma anche culturale: riguarda il tema del consenso, della dignità e della verità in una società in cui la tecnologia può ormai “spogliare” una persona senza toccarla. Ad essersi delineata è proprio una nuova frontiera della violenza digitale. Il deepfake può distruggere le identità e la reputazione delle persone, con la stessa potenza di un’aggressione fisica, ma con l’aggravante dell’invisibilità e della diffusione incontrollabile. Un’immagine generata artificialmente può sembrare autentica e, nel mondo iper-connesso nella quale viviamo, la verosimiglianza è sufficiente per scatenare abusi, odio e derisione. Il potere di alterare la percezione del reale ci rende tutti potenzialmente vulnerabili e vittime. I deepfake pornografici, in particolare, rappresentano un’arma di umiliazione e controllo; colpiscono la libertà degli individui e la loro autodeterminazione, riproponendo in forma digitale logiche di possesso e giudizio morale. Ad essere significativo è che, anche di fronte a immagini false, la reazione pubblica sia spesso quella di interrogarsi sulla condotta della vittima piuttosto che sulla gravità dell’abuso. La colpevolizzazione è uno schema che persiste anche quando la realtà è interamente costruita. Contrastare i deepfake non può ridursi al solo intervento repressivo. La sfida non è più saper distinguere il reale dal falso e punire di conseguenza il reato di distorsione; serve alfabetizzazione etica, morale e tecnologica, capace di educare al rispetto del consenso, della privacy e della verità. C’è necessità di formare una società che riconosca che le forme di violenza digitali sono forme di violenza reali, con un impatto concreto, se non addirittura amplificato, sulle vite delle persone. La dignità delle persone non è qualcosa da poter distorcere o da poter compromettere con facilità; ogni clic comporta una responsabilità, fruire di questi contenuti ci rende comunque colpevoli di abuso.
La vera risoluzione, pertanto, non risiede solo in codici algoritmici e leggi sanzionatorie, ma nella capacità di un’intera comunità di comprendere il valore del rispetto.
Fonte immagini dell’articolo: “Deepfake: da Phica.eu al caso Barra e Social Media Girls” – Freepik
Articolo aggiornato il: 19 Gennaio 2026
C’è un esercito silenzioso che costruisce il nostro mondo, giorno dopo giorno, respirando ciò che non dovrebbe. Sono muratori, saldatori, Scopri di più
Oggigiorno, numerosi conflitti armati sono presenti in diverse parti del mondo. In particolare, le aree caratterizzate da una maggiore fragilità Scopri di più
Affrontare il tema della pornografia online con i propri figli è una delle sfide educative più complesse per i genitori Scopri di più
Il 4 maggio 1929 nacque Audrey Kathleen Ruston, un’attrice e ballerina britannica conosciuta in tutto il mondo, considerata ad oggi Scopri di più
31 ottobre 1922: centouno anni fa un evento epocale scuoteva la politica italiana e gettava le basi per uno dei Scopri di più
Nel contesto geopolitico attuale, sempre più attori statali hanno acquisito, nel corso del tempo, la capacità di avere un "peso" Scopri di più
