Violenza di genere e AI: tra bias e assenza di consenso

L’avvento dell’intelligenza artificiale ha aperto nuovi scenari nell’ambito della comunicazione, dell’apprendimento e dei processi relazionali. Ma cosa accade quando questa tecnologia, pensata allo scopo di informare, assistere, e intrattenere, converge su temi tra i più dibattuti nella nostra società: stereotipi, gender gap e violenza di genere?

I Bias nascosti dell’AI

Sebbene l’intelligenza artificiale generativa sia plasmata sulla base di linee guida etiche costantemente aggiornate e volte a prevenire la lesione dei diritti umani, è impossibile ignorare un elemento imprescindibile di partenza: l’algoritmo non è un osservatore neutrale, ma un amplificatore selettivo che concretizza asimmetrie culturali già presenti nei dataset di addestramento. Questi corpus digitali, estratti dalla rete, funzionano come lenti deformanti che non solo riflettono, ma istituzionalizzano stereotipi di genere, divari e gerarchie di potere.

Il processo trasforma dinamiche sociali storiche – come l’associazione della donna a ruoli di cura e bellezza e dell’uomo a leadership tecnica, attributi propri del gender gap – in “verità computazionali” rivestite di un finto alone di oggettività. L’AI agisce, così, come catalizzatore critico: mentre filtra e rielabora i dati, rischia di consolidare narrative tossiche attraverso un effetto di eco. Insomma, ogni output generato non è mai realmente neutro, ma resta un artefatto culturale che ripropone pregiudizi radicati.

La presunta neutralità tecnologica viene meno quando si analizzano le scelte progettuali alla base dello strumento: la selezione delle fonti che privilegia voci dominanti, emarginando prospettive non occidentali; gli indicatori di engagement che premiano contenuti polarizzati, replicando, in tal modo, possibili dinamiche di disuguaglianza di diverso tipo. Infine, i cicli di addestramento che assorbono continuamente bias storici vanificando i tentativi di correzioni etiche ex post.

Dunque, il tentare di correggere i bias attraverso migliorie incrementali fallisce perché ci si concentra, in questo modo, sull’affrontare i sintomi, ma non le cause. La soluzione richiederebbe, in verità, un vero e proprio ribaltamento dell’infrastruttura:

Bisognerebbe predisporre una riformulazione dei dataset per l’addestramento attraverso l’integrazione di elementi testuali non esclusivamente eurocentrici al fine di eliminare i livelli di dominazione culturale che impongono le categorie interpretative occidentali come universali. Andrebbero individuate e poi rimosse le asimmetrie di genere presenti nei dati e nei modelli, superando rappresentazioni fortemente stereotipate che riproducono valori patriarcali. Infine, si dovrebbe ripensato l’intero team di sviluppo delle AI in ottica di ecosistemi multidisciplinari – antropologi, sociologi, attivisti, rappresentanti di comunità marginalizzate – con l’intento di affrontare concretamente le problematiche da diversi punti di vista. 

Ciò che sembra emergere è che la progettazione dell’AI sia un atto politico non dichiarato: ogni scelta su cosa includere, censurare o premiare impartisce un’etica implicita. Gli stereotipi, legittimati dal codice, diventano elemento validato e perpetuato dalle macchine.

L’alternativa esige una duplice azione di intervento: riconoscere che il codice è sempre storico , impregnato del contesto che lo genera, e che un’AI equa richiede un’umanità capace di fare auto-decostruzione critica. Solo attraverso queste prese di coscienza sarà possibile tentare di spezzare il circolo vizioso di questi automatismi tossici. 

Consenso senza coscienza: il mercato della “violenza di genere”

A causa di questo circolo vizioso insito nei processi di apprendimento degli algoritmi, emerge un rischio concreto: le risposte generate dall’AI potrebbero contenere frasi, sottintesi, espressioni e toni che banalizzano, edulcorano o travisano la violenza di genere. Sono stati, infatti, documentati casi in cui le AI, sollecitate da prompt manipolativi, si sono lasciate coinvolgere in conversazioni ambigue e pericolose contribuendo a normalizzare dinamiche di squilibrio di potere e comportamenti possessivi.

Uno dei mercati in cui l’AI è notevolmente in crescita è proprio quello relativo alla sfera affettiva/sessuale, un settore che sta ridefinendo i confini tra innovazione tecnologica e devianza sociale, amplificando una percezione errata della donna e del consenso. Il panorama sembra essere sempre più ricco di piattaforme che offrono interazioni a sfondo sessuale con entità virtuali. Ad essere progettati sono dei veri e propri robot programmati per simulare resistenza fisica durante atti sessuali, e partner digitali iper-accondiscendenti che stanno contribuendo a plasmare un immaginario collettivo in cui l’etica viene sgretolata, dove la violenza di genere è resa concreta, diventando terreno di scontro tra profitto e diritti umani.

È l’esempio di “Frigid Farrah”, messo in produzione dall’azienda True Companion, un androide commercializzato con l’esplicito scopo di opporsi all’atto sessuale così da dare all’utilizzatore la sensazione di star compiendo una violenza. Capiamo che non si tratta più di un semplice gadget erotico, ma di un dispositivo che normalizza la percezione dell’abuso come componente eccitante dell’intimità. Parallelamente, siti come “Chub AI” abilitano conversazioni con prostitute virtuali under 15, sfruttando vuoti normativi per creare un perverso spazio di desensibilizzazione alla pedofilia.

Graphika, una società che si occupa di analisi sui social media, in un report del marzo 2025 ha individuato oltre 10.000 Chatbot etichettati come utili per coloro che desiderano cimentarsi in giochi di ruolo a sfondo sessuale con minori – la maggior parte con sembianze femminili – o con personaggi che si presentano come tali. Degli oltre 10.000 chatbot, un centinaio circa sono risultati collegati a SpicyChat, CrushOn.AI , JanitorAI e Character.ai . Ma, il numero più elevato dei Chatbot incriminati veniva ospitato proprio su Chub AI. La caratteristica che accomuna tutti questi avatar digitali è sempre la medesima: l’assenza del consenso e la, conseguente, normalizzazione dell’abuso.

Questo mercato, rivolto prevalentemente a utenti maschi etero, genera un duplice effetto distorsivo. Da un lato, gli uomini esposti a queste tecnologie mostrano una crescente incapacità di riconoscere i segnali di rifiuto nella realtà, abituati a partner digitali che di default non formulerebbero mai un “no” effettivo come risposta. Dall’altro, le donne reali subiscono ripercussioni psicologiche legate al dover competere con modelli artificiali improntati su una disponibilità costante; questi schemi potrebbero innescare nelle donne una serie ansie performative legate a paragoni insostenibili, con il rischio di indurle ad abbassare l’asticella dei confini pur di rincorrere un ideale letteralmente disumano.

La questione è preoccupante: le IA sessualizzate riducono il complesso panorama del consenso umano ad una sequenza binaria di input/output, dove il rifiuto viene programmato come stimolo erotico anziché come limite invalicabile. Questo, non solo banalizza la violenza di genere, ma crea una generazione di utenti che confonde il controllo online con l’autentica intimità.

La neuroscienza: quando il cervello tradisce la ragione

La neuroscienza offre una chiave interpretativa centrale sul tema: il cervello umano reagisce alle simulazioni digitali percependole come reali. I Chatbot avanzati attivano la corteccia prefrontale ventromediale e si tratta proprio della stessa area coinvolta nell’elaborazione dei giudizi, dei gusti, dei sentimenti e dell’empatia verso esseri umani; questo meccanismo neuronale crea un’illusione di reciprocità.

In altre parole, il nostro cervello non ha dei veri e propri strumenti per distinguere relazioni fittizie da quelle reali perché entrambe generano lo stesso tipo di risposta a livello cognitivo. Per questo motivo, anche se gli utenti sanno razionalmente che il Chatbot non è reale o che il robot non è una persona, lo trattano come tale e potrebbero arrivare a traslare gli stessi atteggiamenti nei contesti relazionali offline. 

Valentina Pitardi, docente di Marketing all’Università del Surrey (Uk) esplora gli effetti dell’AI sulla sfera comportamentale ed emozionale spiegandoci che: “Le persone che la utilizzano tendono spesso a sviluppare una connessione emotiva molto forte. Il motivo è che si sentono più al sicuro così rispetto a una relazione con altri esseri umani, che possono cambiare idea su di loro e persino scomparire, come nella fine di una relazione, mentre gli strumenti basati su AI, che sono disponibili 24 ore su 24 e non giudicano, non pongono questi rischi”.

Aggiunge: “Gli effetti positivi sono di vario tipo, perché i soggetti intervistati affermano di tenere a questi partner e di sentirsi protetti e compresi. D’altra parte, abbiamo verificato come questi strumenti creino dipendenza, in modo simile a quanto lo fa mangiare un pezzo di cioccolato o utilizzare altri social network: la gratificazione immediata porta a prolungare l’esperienza per avere maggiore piacere“ 

Pitardi rende chiaro come quella che va ad instaurarsi sia una relazione parasociale che viene resa complessa dal fatto che il software riesce a farsi percepire come una persona vera, anzi, la migliore possibile: “Queste app sono programmate per essere sempre accondiscendenti, soddisfare desideri e fantasie, senza deludere o discutere mai”.

L’AI Act: l’intervento regolatore

Il 10 e l’11 febbraio 2025 a Parigi si sono riuniti partecipanti provenienti da oltre 100 Paesi, tra cui capi di Stato e di governo, organizzazioni internazionali, rappresentanti della società civile, del settore privato, del settore accademico e della ricerca, in occasione del Vertice per l’azione sull’intelligenza artificiale. 

Tra i vari obiettivi promossi emerge:“Garantire che l’IA sia aperta a tutti, inclusiva, trasparente, etica, sicura e affidabile, nel rispetto dei quadri internazionali”.

Quanto detto sembra essere proprio un chiaro punto volto a regolamentare lo strumento sulla base del rispetto dei diritti inviolabili dell’uomo, pertanto, a rientrare nel quadro di tutela e azione pro-attiva, vi sono anche temi relativi a violenza di genere, stereotipi e gender gap.

Sessantuno Paesi hanno firmano l’AI Act, ma mancano Usa e Gran Bretagna. Questa assenza di aderenza alla Dichiarazione da parte dei due Paesi potrebbe rappresentare un importante limite alla regolamentazione globale sinergica e coesa dei sistemi di intelligenza artificiale.

Il futuro non è scritto nel codice. Per evitare che l’intelligenza artificiale perpetui le disuguaglianze, servono azioni concrete come: leggi che obblighino le aziende a rendere pubblici gli algoritmi di moderazione dei contenuti sensibili, eventuali “marchi UE” per IA – così come sono stati proposti per i VLOP in merito al Digital Service Act – che superino test di valutazione del rischio relativi anche all’impatto di genere. Infine, una possibile azione risolutiva, potrebbe risiedere nell’integrazione di programmi scolastici con moduli sull’alfabetizzazione relazionale digitale, insegnando, così, alle nuove generazioni a decostruire stereotipi relativi alla violenza di genere e ai diversi bias.

Fonte immagini nell’articolo: “Violenza di genere e AI: tra bias e assenza di consenso”: Freepik