immagine da Tactical Tech, con elementi visuali di Yiorgos Bagakis ed Alessandro Cripsta.

Questo articolo è stato scritto da Safa Ghnaim in collaborazione con il Goethe-Institut Brasile ed è stato originariamente pubblicato [en, come i link seguenti, se non diversamente indicato] su DataDetoxKit.org [it]. Global Voices ne pubblica una versione modificata sulla base di un accordo di collaborazione. 

Gli strumenti di intelligenza artificiale (AI) — in particolare quelli che possono generare immagini, video ed audio — sono stati identificati come “applicazioni creative” per i singoli e “strumenti di efficienza” per il settore commerciale, ma ci sono poche possibilità di controllare la maniera in cui vengono effettivamente utilizzati ed i danni che possono causare le immagini create artificialmente.

Probabilmente non sorprenderà sapere che gli strumenti di intelligenza artificiale peggiorano il problema delle molestie online, come ad esempio la creazione e condivisione di immagini intime non consensuali (NCII) — cioè fotografie o video, tra cui nudi o immagini sessualmente esplicite, che espongono il corpo di qualcuno, effettivo o creato artificialmente, senza la sua autorizzazione.

La NCII colpisce molte persone – non solo personaggi famosi dei quali potreste aver sentito parlare nei notiziari – e non è facile averci a che fare. Anche le piattaforme e i legislatori faticano a tenere il passo.

Il problema è più grande di quanto potreste pensare

La tecnologia sta avanzando ad una tale velocità che oggi è sufficiente prendere la foto di una persona (e potrebbe essere un'immagine assolutamente innocente) per creare un contenuto sessualmente esplicito utilizzando uno dei molti strumenti di intelligenza artificiale a disposizione.

Mentre alcuni strumenti di intelligenza artificiale potenziano il problema delle molestie, rendendo facile la creazione di DNCII su chiunque, altri strumenti di intelligenza artificiale vengono utilizzati per affrontarlo. Gli strumenti AI addestrati a scoprire le immagini artificiali, però, non sono perfetti, e molto del lavoro legato all'identificazione ed all'abbattimento ricade ancora sulle persone che operano come moderatori di contenuti.

Uno dei casi che ha avuto maggiore risonanza nel 2024 è quello delle immagini fasulle a contenuto sessuale di Taylor Swift generate dall'AI . Queste immagini sono apparse inizialmente sul 4° canale e, nel giro di pochi minuti, si sono propagate su diversi siti di social media. Una delle immagini è stata visualizzata oltre 47 milioni di volte prima di venire rimossa. È possibile che queste immagini vengano tuttora condivise, in quanto non c'è modo di cancellarle completamente dalla rete.

Ma non si tratta di un caso isolato. Secondo uno studio del 2021, il  41% degli oltre 10.000 intervistati negli Stati Uniti ha risposto di aver subito personalmente una forma di molestia online . Tra gli intervistati sotto i 35 anni, il 33% delle donne e l'11% degli uomini ha dichiarato di aver avuto esperienza di molestia sessuale online.

Allo stesso modo, un’analisi del 2023 su oltre 95.000 video fasulli ha riscontrato che oltre il 98% degli stessi era relativo a pornografia deepfake, e, di questi, il 99% delle persone oggetto delle molestie erano donne. Anche altri gruppi vulnerabili, come i minori o le persone LGBTQ+,  subiscono in maniera sproporzionata molestie sessuali online.

Cosa potete fare per proteggervi da questo tipo di molestia?

Le piattaforme online hanno messo delle limitazioni per aiutarvi a proteggere le vostre informazioni da occhi indesiderati. Se da un lato queste limitazioni non riescono a creare una fortezza impenetrabile, possono almeno rendere più difficile ai bulli o a chi intende danneggiarvi l'accesso ai vostri dati.

Ogni piattaforma è diversa ed ha impostazioni ed opzioni accessibili agli utenti. Ad esempio, ecco alcune cose che potete fare per rinforzare i controlli sui vostri account Instagram e TikTok:

• Impostate il vostro profilo come “privato.” Su piattaforme come Instagram e TikTok potete impostare il profilo come privato, di modo che solo le persone da voi approvate come follower possono vedere cosa condividete. Un esterno può però comunque vedere i commenti che fate sui post di altre persone ed anche inviarvi messaggi. Ecco come impostare i vostri profili come “privati” su Instagram e TikTok.
• Eliminate followers o bloccate le persone. Se qualcuno vi disturba o vi mette a disagio, potete eliminarlo dai follower o bloccarlo del tutto. Ma se conoscete la persona nella vita reale, dovrete ricorrere ad altre strategie. Ecco come bloccare le persone su Instagram e TikTok.

Serve il “villaggio”

Considerando quante persone vengono prese di mira dalle molestie online sembrerebbe logico dedurre che ci sono anche una marea di molestatori. Ma, in realtà, basta un unico malfattore per diffondere il male. Considerereste qualcuno che condivide un NCII come un molestatore, se non ha creato le immagini in origine? Nell'esempio di Taylor Swift, sono servite solo poche persone per creare i suoi NCII, che non sarebbero però diventati virali se molti non li avessero condivisi. 

Perciò, come potete aiutare qualcuno che è stato preso di mira e minacciato? Indipendentemente dalla piattaforma di social media che utilizzate, troverete probabilmente una funzione “segnala”. Su app come Instagram potete segnalare post specifici o profili ed account completi se vi sembrano molesti. Le segnalazioni su Instagram sono un'ottima possibilità per bloccare le persone problematiche o le cose che vedete o sentite. Instagram non rivelerà l'identità del segnalatore alla persona segnalata.

Una volta effettuata la segnalazione su Instagram, la piattaforma potrebbe rimuovere il post o avvisare, disattivare o bannare il profilo o l'account, a seconda di quanto segnalato e dalla corrispondenza con le Direttive della comunità. Bisogna purtroppo dire che le Direttive della Comunità Meta non sempre sono di supporto, e cancellazioni di post ed account bannati hanno di recente creato controversie.

Se conoscete personalmente la persona presa di mira, contattatela ed informatela, se ve la sentite. Potrebbe non avere idea di quanto sta accadendo e potrebbe reagire con angoscia, rabbia o tristezza. Se vi sentite pronti a supportarla, potreste offrire sostegno e soluzioni (come i link presenti in calce a questo articolo) ed aiutarla a tenere sotto controllo e documentare la molestia.

Anche se probabilmente desiderereste evitare di rivedere la molestia, potrebbe essere utile documentarla prima che venga rimossa. Scaricare un video o scattare uno screenshot del post o del commento che includa il nome dell'account dell'altra persona e la data. Proteggete i documenti in un luogo sicuro e non visibile del vostro cellulare o computer. Ad esempio, su alcuni telefoni potete impostare un archivio sicuro protetto da password. 

Questa documentazione, se ben gestita, può essere utile nel caso in cui la persona presa di mira decida di presentare denuncia e necessiti qualche prova.

È importante che la persona presa di mira decisa cosa vuole fare. Desidera fare denuncia, contattare un avvocato, o mettersi in contatto con la scuola, università o posto di lavoro? O mantenere tutto il più possibile segreto? Soprattutto nel caso di NCII, viene tolta così tanta possibilità di scelta, per cui cercate di sostenerla nel riprendere il controllo. 

A chi rivolgersi per aiuto

Se voi o qualcuno che conoscete viene preso di mira tramite NCII, sappiate che ci sono organizzazioni specifiche pronte ad aiutarvi. Non dovete gestire tutto da soli. Ecco alcuni siti di supporto (molte in lingua inglese) :

• Chayn (a livello mondiale): Chayn da sostegno e supporto a chi subisce molestie di genere.
• StopNCII [it] (a livello mondiale): StopNCII ha una banca delle risorse e uno strumento [it] che può aiutarvi a far rimuovere le vostre immagini intime non consensuali.
• Take Back the Tech (a livello mondiale): Take Back the Tech offre spiegazioni e risorse come Hey Friend, con consigli su come sostenere amici presi di mira da molestie.
• RAINN's National Sexual Assault Hotline (USA): RAINN fornisce un centro ascolto privato dove chattare online o chiamare un membro formato nella gestione delle crisi. 
• Take It Down (USA): Take It Down aiuta a presentare, passo per passo, una richiesta di eliminazione di NCII.
• Cyber Civil Rights Initiative (CCRI) (USA): CCRI comprende una guida passo a passo ed elenchi di avvocati statunitensi. Fornisce anche una lista di risorse internazionali.
• Revenge Porn Helpline (Regno Unito): The Revenge Porn Helpline fornisce consigli a persone adulte prese di mira.
• Umi Chatbot (Australia): L'Umi Chatbot è una maniera veloce per ottenere informazioni in merito alle possibilità di contrastare i NCII. Il sito ha anche risorse per la raccolta e la denuncia dei casi.

Ulteriori consigli e risorse per trattare le molestie online:

• “Non sei impotente di fronte alle molestie online”
• “Cosa fare se tu o qualcuno che conosci è stato preso di mira con deepfake porn o nudi creati da AI”