Immagine creata su Canva da Global Voices.

Questo post fa parte della serie Spotlight di Global Voices sul tema: “Prospettive umane sull'intelligenza artificiale [en]” di aprile 2026. Questa serie  fornirà approfondimenti su come l'IA viene usata nella maggior parte dei paesi del mondo, sull'impatto del suo uso e della sua implementazione sulle singole comunità, sull'importanza di questa sperimentazione dell'IA per le future generazioni e su altro ancora. Potete sostenere questa iniziativa editoriale facendo una donazione qui [it].

Nel novembre 2023 un gruppo di genitori di una scuola di Rio de Janeiro ha denunciato alla polizia [pt, come i link seguenti, salvo diversa indicazione] alcuni adolescenti che stavano creando e condividendo immagini di nudi alcuni compagni di scuola usando l'intelligenza atificiale (IA). Meno di un anno dopo, nel settembre 2024,  un altro gruppo di adolescenti dello Stato di Bahia è stato accusato di aver usato l'IA per creare immagini pornografiche di compagni di scuola, mentre nello Stato del Mato Grosso alcuni studenti sono stati espulsi dopo aver condiviso in una community pornografica sui social media immagini IA di un insegnante e altri studenti.

Questi sono solo alcuni dei casi riportati dai media brasiliani e citati in una nota resa pubblica dal Centro di ricerca indipendente Internetlab agli inizi di aprile 2026. Lo scopo del documento era individuare “possibili misure per combattere la violenza online contro le ragazze e le donne in Brasile” e al tempo stesso promuovere dibattiti regolamentari all'interno del paese.

Dai dati del Forum brasiliano sulla sicurezza pubblica è emerso che, nel solo 2025, sono stati registrati 1.568  femminicidi, il che equivale a un aumento del 4,87% rispetto all'anno precedente: ad oggi la cifra più alta registrata dall’approvazione della legge in cui si riconosceva il femminicidio come reato, entrata in vigore ormai dieci fa. L'aumento dei casi di violenza di genere riportato nei media ha scatenato proteste [en] alla fine del 2025, ma la crescente diffusione di contenuti misogini online sta continuando ad “alimentare questa violenza”, secondo quanto scrive Deutsche Welle.

Secondo Clarice Tavares, direttrice del Centro di ricerca Internetlab, nonché una degli autori della nota tecnica, che ha parlato con Global Voices, i casi di violenza di genere, siano essi online che offline, sono tutti parte dello stesso impianto misogino e  fenomeni che coesistono e co-dipendono l'uno dall'altro. “Siamo davanti a un momento complesso caratterizzato da un aumento della violenza contro le donne ed abbiamo bisogno più che mai di politiche pubbliche che valutino questi contesti nella loro specificità”, spiega nella sua analisi.

Relativamente all'intelligenza artificiale e ai problemi di genere, Tavares fa notare che i database usati per fornire dati alle piattaforme sono talvolta sbilanciati e hanno un grosso impatto sui risultati.  Nella nota tecnica, Internetlab ha scelto di esaminare i casi di violenza correlati all'IA proprio per il maggiore impatto e per la possibilità concreta di affrontare il problema mediante l'adozione di normative adeguate.

Tra le altre cose, il documento di Internetlab  mette in evidenza i rischi associati ai “deepfake di contenuti sessuali non consensuali”, classificando il rischio che ciò si verifichi come “aggiuntivo” poiché “queste tecnologie colpiscono donne e ragazze in modo sproporzionato”:

Uma pesquisa conduzida pela Security Hero demonstrou que deepfakes sexualmente explícitas representam 98% de todos os vídeos de deepfake online, e que 99% das pessoas alvo desses conteúdos eram mulheres. A pesquisa também indicou um aumento de 464% do número de deepfakes sexuais entre 2022 e 2023.

Una ricerca condotta da Security Hero [en] ha rivelato che i deepfake sessualmente espliciti costituiscono il 98% dei video online e che il 99% delle persone prese di mira con questo tipo di contenuti sono donne. Lo studio ha anche evidenziato che i deepfake di natura sessuale sono aumentati del 464% tra il 2022 e il 2023.

Benché Tavares ritenga che il problema non interessi esclusivamente una sola piattaforma, indica Grok [en], un'applicazione di intelligenza artificiale incorporata in X, come la punta dell'iceberg, sottolineando però che il fenomeno è molto più esteso e ormai ampiamente diffuso online.

I think this case calls for attention, since the AI that made it possible to create this sort of content was already part of its own social media, which helped to amplify the reach of such content. It was very much on the surface. I think it's a systemic issue, but caso di Grok case made it impossible not to discuss it or worry about the current state of things. It was evident there had been several flaws in the tools and the platforms that allowed these things to happen on such a large scale.

Ritengo che questo caso specifico meriti particolare attenzione perché l'intelligenza artificiale, che ha reso possibile la creazione di questo tipo di contenuti, era già parte di uno dei social media, cosa che ha aiutato ad ampliare la portata di questi contenuti. Era praticamente sotto gli occhi di tutti. Il problema è indubbiamente sistemico, ma il caso di Grok ha reso impossibile non parlarne o preoccuparsi dello stato delle cose. Era evidente che c'erano delle falle negli strumenti e nelle piattaforme che hanno reso possibile la diffusione del fenomeno su larga scala.

Cosa dice la legge brasiliana?

Nell'ultimo decennio, la legislazione brasiliana in materia di diritti online è significativamente progredita. L'anno scorso, 11 anni dopo la firma del Marco Civil da Internet, un disegno di legge che funge da framework brasiliano per i diritti civili [en] su Internet, la Corte Suprema Federale (STF) ha giudicato parzialmente incostituzionale l’Articolo 19 , che stabiliva che la responsabilità delle piattaforme per i contenuti pubblicati da terze parti (utenti) era civile. A parere della maggior parte dei giudici, tale disposizione non tutelava adeguatamente i diritti fondamentali e la democrazia nello scenario attuale.

“C'è ancora molta strada da fare per capire in che modo verrà resa operativa questa sentenza. Per il momento sono state introdotte nuove normative relative alla responsabilità delle piattaforme che stabiliscono temporaneamente le regole attuative in attesa dell'approvazione di una nuova legge di regolamentazione. Oggi le piattaforme hanno più obblighi in termini di moderazione dei contenuti. Inoltre, la decisione della Corte Suprema ha introdotto anche un nuovo modello di valutazione della responsabilità e degli obblighi delle piattaforme”, sottolinea  Tavares.

Nel contesto della violenza di genere online, Tavares mette in evidenza anche che per mettere in pratica la decisione della Corte Suprema sarà fondamentale definire il concetto di misoginia, anche in termini giuridici. “Vogliamo che questa decisione venga allineata alle politiche pubbliche e alle normative sulla violenza di genere esistenti, ossia integrare questo nuovo scenario di violenza di genere digitale nella legislazione vigente”, ha aggiunto.

L'analisi di Internetlab menziona che le proposte di legge finalizzate a rendere illegale il comportamento misogino, il movimento red pill e la manosfera [it] sono aumentate, ma evidenzia anche che, sebbene siano tappe importanti per fare fronte al problema, la scelta della criminalizzazione come principale e unica soluzione potrebbe limitare l'efficacia delle strategie mirate a a prevenire e risarcire economicamente le vittime.

Le proposte relative all'IA includono, ad esempio, la creazione di indicazioni di riferimento per l'alfabetizzazione digitale che promuovano un'analisi critica del funzionamento degli algoritmi, delle piattaforme, degli strumenti di intelligenza artificiale e degli altri elementi dell'ecosistema digitale.

Relativamente alle piattaforme, nella nota si consiglia l'adozione di misure di sicurezza fin dalle prime fasi progettuali (Safety by Design o sicurezza per progettazione) [en], “per prevenire la creazione e la disseminazione di questo tipo di contenuti”, le cui vittime sono soprattutto le donne e i minori. I deepfake di contenuti sessuali non consensuali devono essere considerati un “rischio aggiuntivo”: il loro uso e la loro applicazione devono essere vietati e devono essere definite normative in termini di responsabilità e obblighi delle piattaforme digitali e degli agenti IA.

Secondo una stima della Movember Foundation, un'organizzazione per la salute maschile, due terzi dei giovani di sesso maschile interagisce con influencer di mascolinità o mano-influencer. In un articolo pubblicato [en] da UN Women si legge che “gli esperti stanno riscontrando che il linguaggio estremo nella manosfera non solo normalizza la violenza contro donne e ragazze ma anche che è sempre più connesso con ideologie radicali ed estremiste”.

Taveres ritiene che, con l'approssimarsi delle elezioni in Brasile e la crescente diffusione di casi di video generati dall'IA raffiguranti episodi di violenza contro le elettrici, la violenza politica di genere abbia attualmente raggiunto nuovi livelli. “La produzione di video, ma anche chatbot come Gemini, ChatGPT o Claude suggeriscono che l'[IA] sarà probabilmente lo strumento preferibilmente usato per accedere alle informazioni e che non è possibile escludere pregiudizi di genere che possano sfociare in violenza di genere e violenza politica di genere. Stiamo ancora cercando di capirne l'impatto attuale e futuro”.