- Global Voices in Italiano - https://it.globalvoices.org -

Taiwan: vittime di video pornografici deepfake chiedono nuove leggi contro la violenza sessuale online

Categorie: Asia orientale, Taiwan (ROC), Citizen Media, Donne & Genere, Legge, Sport, Tecnologia
[1]

Il viso del comico di Mr. Bean è stato sostituito con quello di Charlize Theron in una pubblicità. Screenshot dal profilo Youtube di Fat Ninja YouTube video [1]

Il recente arresto per presunte vendite di video pornografici deepfake [2] [en] di persone famose in Taiwan del popolare YouTuber Xiao Yu, cui nome reale è Zhu Yuchen, ha catturato l’attenzione dell’Intelligenza Artificiale (IA) e della mancanza di leggi da parte del governo per affrontare la violenza sessuale nel cyberspazio.

Xiao Yu è stato arrestato [3][zh, come i link seguenti, salvo diversa indicazione], insieme ad altri due suoi collaboratori, il 17 ottobre per aver venduto video pornografici deepfake generati dall’IA di persone famose su un gruppo Telegram da luglio 2020. I tre sono stati rilasciati su cauzione il 18 ottobre.

Almeno 100 persone sono state vittime di questo nuovo crimine tecnologico, tra cui politici, Youtubers e personaggi famosi. Il loro viso è stato impiantato sui video pornografici e venduti per trarne profitto. Secondo quanto riportato, la presidente Taiwanese Tsai Ing-wen è stata una delle vittime [4], anche se il video fake in cui compariva il suo volto non era esplicito ma è stato subito rimosso da LINE, l’app di messaggistica più popolare in Taiwan.

Secondo un report investigativo [5] [en] condotto a maggio dall’organo di stampa taiwanese Mirror Media, il team di produzione ha creato un certo numero di video porno fake della durata di 30 secondi, pubblicati sui siti porno e gli spettatori sono stati invitati a pagare una quota di iscrizione per ottenere l’accesso totale, che permetteva loro di essere aggiunti al gruppo di Telegram. Il team ha reclutato circa 8000 membri divisi in diversi 4 gruppi Telegram prima di catturare l’attenzione.

I membri potevano votare per finanziare a livello collettivo nuove produzioni ed effettuare un ordine per video porno personalizzati oppure per fantasie sessuali o per altre ragioni, come umiliare un ex partner. Le autorità hanno stimato che essi hanno guadagnato 10 milioni di Nuovi Dollari di Taiwan (all’incirca 310,000 euro) dai profitti dei video pornografici.

Dopo l’arresto di Xiao Yu molte vittime si sono espresse apertamente, come, per esempio, Huang Jie, una consigliera della città di Kaohsiung, la quale è stata la vittima che si è espressa più di tutti. Spera [6] che questo evento possa educare le persone in merito al danno causato dall'IA:

「又不是妳真的去演。」 

「夠正才會用妳的臉。」 

「妳是瞧不起演A片的嗎?」 

「小玉也太不挑了。」 

不是真的去演,傷害和性暴力就不存在嗎?五月受訪時,當我知道我的臉被拿去這樣使用,一開始覺得「惡搞影片應該蠻好笑的吧」但當我真的看到影片時,完全笑不出來,只有滿滿的噁心反胃,甚至起雞皮疙瘩、深陷恐懼。 無論小玉的心態是好玩、惡搞還是單純想賺錢,這對受害者來說,就是真實的傷害、羞辱和踐踏。

稍早,有許多實況圈、網紅界受害者私訊我…我們願意鼓起勇氣,一起站出來提告,用法律制裁小玉,也嚴正警告躲在電腦後觀看影片的人,你們不是沒有責任,你們的訕笑、觀看,都是一次次的加害。

在此,除了要求警方嚴加偵辦,也懇請社會大眾關注逐漸興起的AI犯罪,#不要下載不要流傳這類影片 [7],更要共同抵制這種低級的公眾人物,#不能再養出第二個小玉 [8] ,讓這種墮落的風氣繼續蔓延。

最重要的,也呼籲立法院正視 #數位性暴力 的問題 [9],進行修法,才有更有力的工具嚴懲惡狼…

“Non sei davvero tu nel video.

“La tua faccia è stata usata perché è carina.”

“Quindi disprezzi i video per adulti?”

“Xiao Yu ha scelto la faccia sbagliata”.

Anche se questa non è la persona reale, ciò significa che non vi sia nessuna violenza sessuale in questi video?

A maggio, quando mi fu detto che il mio volto è stato usato, ho pensato che fosse stato un altro video divertente a sfondo parodico. Ma quando vidi il video non riuscì a ridere, anzi, il mio stomaco cominciò a contorcersi. Successivamente, mi sentì orribile. Fui colpita dalla paura. A prescindere dall’intenzione di Xiao Yun, se lui abbia fatto tutto questo per divertimento o per guadagno, il danno e l’umiliazione sentite dalle vittime è stato reale.

Alcune vittime, da attrici di reality show e Youtuber, mi hanno contattata in privato, e vorremmo combattere insieme per esporre denuncia contro Xiao Yun. Inoltre, abbiamo avvisato coloro che si nascondono dietro i computers e che guardano questi video. Voi fate parte di questo crimine. I vostri sporchi scherzi e la visualizzazione di questi video hanno provocato danni ad altra gente, più e più volte.

Qui abbiamo urgentemente bisogno della polizia per andare avanti con le indagini, ed esortiamo il pubblico a prestare attenzione per far emergere i crimini AI. #non-scaricate-e-diffondete-questi-video, boicottare le persone con un gusto così degradato. #non-create-un-altro-Xiao-Yun e non diffondete questo tipo di cultura perversa.

E, cosa più importante, abbiamo bisogno che la Legislatura si interessi della #violenza-sessuale-nel-cyberspazio, e modificare la Legge di modo da sanzionare i lupi maligni…

Il pensiero di Huang Jie è stato condiviso da Manaki, un’attrice che è rimasta delusa [10] da alcuni visitatori del web che hanno considerato questo evento come qualcosa da prendere alla leggera o, addirittura, visto come uno scherzo:

其實被惡意換臉已經是一種傷害了,加上有些人資訊不清楚可能會誤以為真。 身為當事人是真的很困擾,身心也非常疲憊。名譽也造成不可抹滅的侵害! 希望大家別再當玩笑了,謝謝你們。 也希望數位性暴力能立法管制! 

Vedere le nostre facce impiantate in quel modo su delle altre è doloroso. Alcuni potrebbero pensare che siano reali. Sono stata mentalmente tormentata da questo episodio e il danno che ha causato alla mia reputazione è irreversibile. Per favore, non prendete tutto ciò come uno scherzo. Desidero che vi siano introdotte più leggi per affrontare il problema della violenza sessuale digitale.

Kao Chia-yu, una legislatrice e membro del partito dei Democratici Progressisti, vittima di crimine AL, ha sottolineato [11] su Facebook che attualmente a Taiwan l’unica via legale per punire i crimini di pornografia deepfake è attraverso l’accusa di diffamazione, che sarebbe un reato minore e con una sentenza molto più leggera. In più, ha promosso l’introduzione di nuove leggi per mettere fine ai crimini di deepfake nel cyberspazio.

In un post di Facebook del 18 Ottobre, la Presidente taiwanese Ing-wen ha promesso [12] che il governo intensificherà le leggi per reprimere la disinformazione e i video fake generati con l'IA.