Cos'è il Deepfake: come nasce e quali sono i pericoli

Pensavate che le fake news fossero l’apice della disinformazione su internet? E se di falso non ci fossero solo notizie, ma anche volti in video? Si tratta del deepfake. Scopriamo insieme cos’è il deepfake, come nasce e quali sono i pericoli

Il deepfake è una tecnica che, ricorrendo all’Intelligenza Artificiale (IA), rende possibile la sintesi, la manipolazione e la combinazione di immagini e volti umani. In particolare, grazie all’apprendimento automatico, l’IA è in grado di sovrapporre video o immagini esistenti con quelli creati ad hoc e di produrre contenuti originali. In particolare, questo termine deriva dalla tecnologia che sta alla base del processo, chiamata deep learning, i cui algoritmi addestrano l’Intelligenza Artificiale (così come avviene con ChatGPT-3 e per i chatbot) ad agire in autonomia con i dati ricevuti e a produrre un risultato altamente realistico.

I deepfake non si limitano soltanto ai video. Recentemente, infatti, sta crescendo l’utilizzo dei deepfake vocali, in cui la voce di una persona viene totalmente clonata e sottoposta ai più disparati fini, perlopiù criminali e diffamatori.

Cos’è il deepfake e quando nasce

Il termine deepfake è apparso per la prima volta nel 2017, associato al nickname di un utente di Reddit, “deepfakes”. Questo utente pubblicava video pornografici manipolati in cui i volti degli attori venivano sostituiti con quelli di celebrità famose, sfruttando algoritmi di deep learning. Sebbene tali contenuti siano stati rapidamente bannati dalla piattaforma, l’impatto della tecnologia deepfake si è esteso ben oltre quel contesto iniziale, trasformandosi in uno strumento dalle molteplici applicazioni, alcune eticamente problematiche e altre innovative.

Come funziona il deepfake?

Alla base del deepfake vi è il deep learning, un ramo dell’intelligenza artificiale (IA) che utilizza reti neurali artificiali per elaborare grandi quantità di dati. Attraverso un processo chiamato generative adversarial network (GAN), due reti neurali competono tra loro: una crea contenuti falsi (come immagini o video), mentre l’altra cerca di identificarli come falsi. Questo ciclo iterativo consente di perfezionare progressivamente il contenuto generato, rendendolo sempre più realistico.

Gli utilizzi del deepfake: dal cyberbullismo all’industria cinematografica
Le applicazioni del deepfake spaziano dal recreational entertainment a usi più controversi, che sollevano importanti interrogativi etici e legali.

Cyberbullismo e revenge porn
Una delle principali preoccupazioni legate ai deepfake è il loro utilizzo per creare contenuti denigratori, come video di revenge porn. Secondo un rapporto della Deeptrace, nel 2019 il 96% dei deepfake identificati online era di natura pornografica. Questi video non solo violano la privacy delle vittime, ma possono avere conseguenze devastanti a livello psicologico, sociale e legale.
Fake news e manipolazione politica
I deepfake rappresentano un pericolo significativo per l’informazione. Ad esempio, nel 2019 un video deepfake raffigurante l’ex presidente degli Stati Uniti, Donald Trump, mentre faceva dichiarazioni satiriche e offensive è stato erroneamente trasmesso da Fox News. Questo caso ha evidenziato quanto sia facile diffondere disinformazione attraverso contenuti apparentemente autentici.

Un altro esempio emblematico è quello di un video deepfake di Barack Obama, creato dal comico Jordan Peele nel 2018. Questo video, realizzato come esperimento educativo, mostrava Obama mentre pronunciava parole che non aveva mai detto, dimostrando quanto sia difficile distinguere tra reale e manipolato.
Cinema e intrattenimento
Non tutti gli utilizzi del deepfake sono negativi. Nel mondo del cinema, ad esempio, questa tecnologia è stata utilizzata per riportare in vita attori scomparsi o per migliorare scene complesse. Nel film Star Wars: Rogue One (2016), il volto dell’attore Peter Cushing, deceduto nel 1994, è stato ricreato tramite CGI e tecniche simili ai deepfake.

Come riconoscere un deepfake: indicatori principali
Distinguere un video reale da un deepfake può essere difficile, soprattutto con il continuo miglioramento degli algoritmi. Tuttavia, esistono alcuni dettagli che possono aiutare:

Movimenti innaturali degli occhi
I volti nei deepfake spesso presentano anomalie nella frequenza del battito di ciglia o non sbattono affatto le palpebre. Questo è uno degli aspetti più complessi da replicare realisticamente, anche se le nuove tecnologie stanno riducendo questo problema.
Incoerenze visive
Le attaccature dei capelli, i bordi del viso o l’illuminazione possono risultare leggermente sfuocati o incoerenti rispetto al resto dell’immagine. Questi dettagli possono indicare la presenza di manipolazioni digitali.
Audio e sincronizzazione labiale
Anche se il video appare realistico, l’audio potrebbe non essere perfettamente sincronizzato con i movimenti delle labbra, rivelando l’artificialità del contenuto.
Software di rilevazione
Diversi strumenti avanzati, come Deepware Scanner o Microsoft Video Authenticator, sono stati sviluppati per identificare i deepfake, analizzando pixel, metadati e altre caratteristiche nascoste.

Musica AI: cos’è e quali sono i pro e i contro?

Perché il deepfake è una minaccia?
Dopo aver visto cos’è il deepfake, scopriamone le possibili minacce:

Erosione della fiducia nell’informazione
I deepfake mettono a dura prova la capacità delle persone di fidarsi dei contenuti digitali. Con l’aumento della diffusione di fake news, il confine tra realtà e manipolazione diventa sempre più sottile, compromettendo la credibilità dei media.
Implicazioni legali e normative
Attualmente, molte nazioni non dispongono di leggi adeguate per affrontare i crimini legati ai deepfake. In Italia, per esempio, l’utilizzo di contenuti manipolati è punibile solo in casi specifici, come la diffamazione o la violazione della privacy.
Uso malevolo nei crimini informatici
I deepfake possono essere utilizzati per ingannare sistemi di sicurezza, come il riconoscimento facciale, o per frodi finanziarie, ad esempio tramite video falsi di CEO che autorizzano transazioni bancarie.

Le app e il fenomeno del deepfake “fai da te”
L’accessibilità delle tecnologie di deepfake ha portato alla diffusione di app come Reface e FaceApp, che permettono agli utenti di sostituire volti o voci per scopi ludici. Tuttavia, queste applicazioni possono essere utilizzate impropriamente, creando contenuti offensivi o denigratori.

Ad esempio, una ricerca condotta da Sensity AI ha rivelato che più di 100.000 deepfake di natura privata sono stati creati attraverso semplici app disponibili al pubblico. Questo dimostra quanto sia fondamentale sensibilizzare l’opinione pubblica sull’uso responsabile di queste tecnologie.

La lotta contro i deepfake: soluzioni e prospettive future
Per contrastare i pericoli dei deepfake, sono stati sviluppati vari approcci tecnologici e legislativi:

Algoritmi di rilevamento
Aziende come Facebook, Google e Microsoft stanno investendo in strumenti per identificare e segnalare i deepfake prima che possano causare danni. Un esempio è il progetto Deepfake Detection Challenge, lanciato per incoraggiare lo sviluppo di algoritmi di rilevazione più efficaci.
Educazione digitale
La formazione sull’alfabetizzazione mediatica è cruciale per aiutare le persone a riconoscere i contenuti manipolati. Corsi specifici nelle scuole e campagne di sensibilizzazione possono migliorare la consapevolezza del pubblico su cos’è il deepfake.
Normative più rigorose
Paesi come gli Stati Uniti hanno introdotto leggi che vietano l’uso di deepfake in contesti specifici, come durante le elezioni. In Italia, una regolamentazione più chiara potrebbe aiutare a punire gli abusi in modo più efficace.

Il deepfake rappresenta una delle tecnologie più affascinanti e controverse dell’era digitale. Sebbene offra opportunità straordinarie nel campo dell’intrattenimento e della creatività, i rischi associati al suo abuso non possono essere ignorati.

Riconoscere un deepfake, educarsi su questa tecnologia e promuovere un uso responsabile sono passi fondamentali per affrontare le sfide di un mondo sempre più digitale. Essere consapevoli dei pericoli, senza però demonizzare la tecnologia stessa, è la chiave per sfruttarne il potenziale in modo etico e sicuro.

Fonte immagine per l’articolo Cos’è il Deepfake: come nasce e quali sono i pericoli: Pixabay