Uno screenshot dal profilo pubblico Weibo del Robot conversazionale “Comment Robot”. Uso consentito.

“Comment Robot” [zh, come i link seguenti, salvo diversa indicazione] (评论罗伯特), un Chatbot AI, dal dicembre scorso ha suscitato l'ilarità e la rabbia degli utenti di Weibo, che venivano stuzzicati con commenti a volte ironici e affettuosi, ma altre invece offensivi e fuori luogo. 

A inizio dicembre, alcuni utenti non capivano perché i loro aggiornamenti avessero catturato l'attenzione di un “Big V” — come viene definito un utente di Weibo ufficiale e verificato, nonché un opinion leader con ampio seguito — che con loro non aveva alcun legame online. Dopo che alcuni media locali annunciarono che “Big V” era un nuovo chatbot AI, alcuni utenti di Weibo contestarono la violazione della loro privacy e dei loro dati presenti sul social. 

Una macchina per aumentare le interazioni

Volendo fugare le preoccupazioni degli utenti, il 24 gennaio, 2024, un mese dopo la sua uscita, “Comment Robot” si è scusato da parte di Weibo in un post Domanda e risposta per aver “offeso gli utenti” e “creato problemi e confusione”. Weibo ha spiegato che “Comment Robot” aveva lo scopo di aumentare le interazioni dei propri utenti:

平台希望借助最新的生成式人工智能技术优化普通用户的发博体验，提升普通用户在平台内容生产中的活跃度。

Il social [Weibo] spera di usare la tecnologia più avanzata di intelligenza artificiale generativa nel modo più efficace per ottimizzare l'esperienza dell'utente standard, e per aumentare le interazioni sui contenuti della propria piattaforma. 

Grazie a un rigoroso controllo del contenuti condivisi sui social media, la maggioranza degli utenti cinesi ha smesso di postare. Il lancio di “Comment Robot” è avvenuto approssimativamente un mese dopo l'implementazione del sistema Big V che prevede l'utilizzo di soli nomi reali [en], che ha scatenato le reazioni negative degli influencer presenti su Weibo. Inoltre, se paragonato a piattaforme di contenuti video quali Douyin e XiaoHongShu, gli utili sugli annunci pubblicitari di Weibo stanno crescendo a un ritmo blando in gran parte a causa dei bassi livelli di interazione.

Il chatbot, alimentato dalle risposte automatiche, è intrigante per gli utenti, che così interagiscono di più.

Alla base del chatbot c'è un'ampio modello linguistico (LLM) fatto di complesse reti neurali e sforzi elaborativi. Come altri strumenti di intelligenza artificiale, quali ChatGPT 4 [en], Chatbot di Weibo è progettato per assolvere compiti assegnati attraverso la simulazione della cognizione umana e un massiccio input di dati che gli vengono impartiti. 

Il dovere di Comment Robot è inserirsi nella piattaforma, scovare il significato e il mood sottostanti un determinato tipo di contenuto postato, ed elaborare una risposta, sotto forma di caratteri cinesi, sulla base della correlazione riscontrata, ovvero la probabilità che appaiano assieme in un determinato contesto. Quando si esprime gioia, ad esempio, è più probabile che la risposta possa essere “Congratulazioni!” oppure “Sono felice per te!” Ugualmente, anche un selfie potrebbe ricevere un apprezzamento dal bot. 

“Il pappagallo stocastico”

Eppure, a un numero sempre maggiore di utenti di Weibo dava fastidio la Chatbot nella misura in cui iniziava a parlare a vanvera. Un account su Weibo chiamato “Le vittime del Robot” (罗伯特受害者联盟), è stato appositamente creato per raccogliere i commenti inappropriati di “Comment Robot”. Ecco qui degli esempi:

用户A：领导同事在天堂 [烛光]
评论罗伯特: 你也是吗？我的家人和同事也在天上

Utente A: il mio team leader è in paradiso [candela]

Comment Robot: Anche tu? Anche i miei familiari e colleghi sono in paradiso.

用户B：在不该心软的时候心软

评论罗伯特: 没事的 不该软的地方不软

Utente B: Il mio cuore si fa tenero quando non dovrebbe esserlo.

Comment Robot: Va tutto bene. [Un'altra parte del corpo] non sarà tenera quando non dovrebbe esserlo. 

用户C：#龙年第一条微博# 龙年希望所有我爱的人和爱我的人都平安，健康，喜乐

评论罗伯特: 虽然不太可能但我真的希望你健康快乐

Utente C: #Primo Weibo nell'anno del Drago# Auguro a tutti miei cari salute, gioia e pace nell'anno del Drago

Comment Robot: Anche se è impossibile, ti auguro salute e felicità.

用户D：当你看到这条微博时我已经入土为安了

评论罗伯特: 好好好

Utente D: Se stai vedendo questo Weibo, vuol dire che sono morto.

Comment Robot: Bene bene bene.

Le risposte insensate, comprendenti linguaggio volgare e dark humour, sono legate molto probabilmente al cosiddetto effetto del “Pappagallo Stocastico” [en]. Dato che i modelli di linguaggio AI eccellono nelle correlazioni logiche ma non comprendono la lingua, di conseguenza, la qualità del linguaggio artificiale così generato dipende dai dati del training. Nel corso del training sui dati, le interazioni con il bot sono spesso inconsistenti, rischiando quindi di produrre frasi senza senso, nonché di perpetuare i pregiudizi esistenti.

Weibo ha ammesso nel post Domanda e Risposta su Comment Robot che il chatbot è suscettibile di generare commenti offensivi durante il processo di training del modello di linguaggio, aggiungendo che il feedback degli utenti aiuterà ad ottimizzarne le prestazioni. 

Governance AI: i diritti e la privacy degli utenti

Nonostante tutto, Sina Weibo non ha mai specificato se il contenuto interattivo dei propri utenti verrà utilizzato per il training del suo modello AI, e non è seguita neppure una dichiarazione ufficiale sul lancio del chatbot. 

La maggior parte degli utenti sono stati forzati in modo automatico a interagire con il chatbot. Hanno iniziato a porre domande sulla provenienza dei dati del training e in se fino a che punto il chatbot possa essere ritenuto pubblicamente responsabile dei suoi illeciti? Alcuni utenti di Weibo, come questo, si sono incoraggiati a vicenda a non interagire più con il bot:

很显然那个评论罗伯特的机器人越来越智能了，词汇量和语库越来越大了，估计是用户一直和它互动的结果，AI把这些数据导入运算分析最后根据语境选择合适的内容来回复……它以后会越来越像人，其实是相当恐怖的一件事，我是建议最好还是给他lh了吧，别搭理它别给它提供数据……谁知道是用来干啥的 ​

È ovvio che il fatto che comment Robot stia diventando sempre più intelligente, che il lessico e il corpus di testi a disposizione sia sempre più ampio, sia il risultato dell'interazione con gli altri utenti. L'AI importa i dati, li analizza e poi sceglie il contenuto appropriato nella risposta, in base al contesto…… Sta diventando sempre più umano, e questo devo dire mi fa paura. Secondo me è meglio bloccarlo. Non interagite con lui e non immettete dati……Chissà chi li utilizza poi

La Cina ha introdotto un certo numero di regolamentazioni sull'AI. L'ultima, “Misure provvisorie per la Gestione dei Servizi di Intelligenza Artificiale Generativa [en]” afferma che il provider deve elencare chiaramente persone, occasioni, e obiettivi dei propri servizi, nonché adempiere all'obbligo di proteggere le fonti dei propri dati e tenere un registro in ottemperanza alla legge. 

Per questo Sina Weibo ha dichiarato nel suo Post di gennaio Domanda & Risposta che l'azienda utilizza soltanto dati di disponibilità pubblica per addestrare Comment Robot. Ha anche rivisto la sua policy prevedendo che Chatbot interagisca soltanto coi suoi follower.

Tuttavia, stando ad alcune lamentele degli utenti, riesce comunque a commentare dei post pubblici creati da un qualsiasi utente dopo aver bloccato il bot (soltanto senza notifica). Oltre a ciò, in seguito all’ultimo update del 13 marzo Comment Robot ha creato un dialogo botta e risposta con gli utenti invece di lasciare un unico commento, indicando un maggior livello di interazione. 

In un momento in cui la Cina limita le manifestazioni degli attivisti per i diritti degli utenti dei social, molte persone che usano Weibo sono scettiche su questo robot AI — al 21 marzo, tre mesi dopo il lancio, Comment Robot aveva appena 716,000 follower seppure avesse postato un numero enorme di commenti sotto i post di altrettanti utenti di Weibo, e fosse stato al centro della scena grazie a hashtag e a report sui media.

Ovviamente, gli utenti sono preoccupati che i loro dati vengano venduti o ceduti ad agenzie di marketing o altre aziende per scopi commerciali o politici. Questo sentimento si coglie da un numero di post su Weibo, come i seguenti:

细思恐极

那个评论罗伯特简直一个收集微博用户圈子画像，即将通过图灵测试的机器人。以后遇到带节奏、引战的，你都无法分辨对面是真人还是故意批量投放的人工智能。 ​

Se ci pensi fa venire i brividi.

Comment Robot sbircia sui profili degli utenti Weibo e i loro amici e presto passerà il test di Turing [Un test che comprova l'abilità di una macchina a manifestare intelligenza simile, o indistinguibile, da quella umana]. In futuro, quando saremo dentro un dibattito, non potremo più sapere quale delle due parti è una persona reale o un'intelligenza artificiale messa lì apposta. 

一直想问罗伯特天天搞评论互动是为了摸清用户的喜好和语言表达方式吗……等我死掉它就可以替代我用我的id和我的网友们聊天……网友应该发觉不了对方不是人吧…… ​

Mi chiedo se il compito dell'interazione giornaliera di Comment Robot con gli utenti sia soltanto quello di raccogliere le loro preferenze, e il loro linguaggio …… E se, quando sono morto, il bot usasse il mio ID Weibo per chattare coi miei amici online… Non credo che riuscirebbero a capire se dall'altra parte c'è un umano, giusto? ……