Immagine di Ibrahim Kizza per APC. Usata con permesso.

Questo articolo fa parte della serie «Non chiedere all'IA, chiedi a un collega», una collaborazione tra Global Voices, l'Association for Progressive Communications e GenderIT. La serie mira a ribadire l'importanza della condivisione delle conoscenze tra le persone, come avviene ormai da decenni. È possibile seguire la serie su APC.org, GenderIT.org, e globalvoices.org.

Essendo uno dei paesi più noti per l'uso dell'intelligenza artificiale a fini di sorveglianza [en, come tutti i link successivi, salvo diversa indicazione] ma limitando la libertà dei cittadini, la Cina non è in grado di fornire una risposta diretta su come sviluppare un approccio all'IA basato sui diritti umani. Eppure, il suo approccio aperto alla tecnologia AI e le sue aspirazioni di dominio nel mercato globale dell'intelligenza artificiale può fungere da caso di studio per il rapporto in rapida evoluzione tra il settore privato e lo Stato, la macchina e la società.

Nel febbraio 2026, l’ingegnere spagnolo Sammy Azdoufal ha scoperto di poter assumere il controllo di 7000 aspirapolvere intelligenti, visualizzare immagini in tempo reale dalle abitazioni degli utenti, ascoltare i suoni circostanti tramite le telecamere in diretta dei dispositivi e individuare la posizione esatta delle abitazioni attraverso i loro indirizzi IP, semplicemente effettuando il reverse engineering della connessione tra il suo aspirapolvere DJI Romo appena acquistato e il suo gamepad PlayStation.

Mentre l'azienda della Cina continentale ha risolto la falla di sicurezza in un batter d'occhio, l'incidente mostra come la tecnologia di sorveglianza basata sull'intelligenza artificiale possa intromettersi nelle nostre vite quotidiane e i rischi che comporta.

La sorveglianza tramite l'intelligenza artificiale e le tecnologie belliche comportano minacce universali

Il suddetto aspirapolvere intelligente non è disponibile sul mercato statunitense poiché il suo produttore, DJI, nel 2022 è stato definito come una “società militare cinese” ed è stato aggiunto nella lista nera del Pentagono per motivi di sicurezza nazionale.

In questo contesto, il dibattito sulle tecnologie di sorveglianza basate sull'intelligenza artificiale e sulle minacce che ne derivano si è concentrato principalmente sulla Cina, ma si tratta di una tecnologia universale che riguarda le persone di tutto il mondo.

La Cina è infatti all'avanguardia nell'utilizzo di sofisticate tecnologie di sorveglianza per rafforzare il proprio regime repressivo, inoltre ha esportato il modello ad altri Stati autoritari, così come ampiamente documentato da media internazionali. L'esperienza cinese, sia nella cosiddetta gestione sociale degli uiguri nello Xinjiang, in Cina, che per il sistema di controllo nazionale del COVID-19 [it], dimostra al mondo che il controllo delle persone in nome della gestione della rete e l'uso delle tecnologie di sorveglianza –  riconoscimento facciale, un sistema di credito sociale, la geolocalizzazione, e il tracciamento di dati online –  lavorano in sinergia per mantenere un sistema di polizia di prossimità in grado di prevenire efficacemente possibili atti destabilizzanti. La realtà orwelliana dimostra che, quando dotato di un potente motore di intelligenza artificiale, lo Stato può consolidare il proprio potere a scapito della libertà individuale di riunione, di espressione e di movimento.

Il mercato globale delle tecnologie di repressione

Una tecnologia repressiva così avanzata possiede un mercato che supera l’immaginazione. In Cina, i sistemi di riconoscimento facciale basati su AI sono stati utilizzati per l'emissione di multe per l’attraversamento fuori dalle strisce pedonali e divieto di sosta, il processi di pagamenti online che non, e tra le altre cose il controllo del rendimento scolastico degli studenti.

Mentre gli stati democratici sono scettici nei confronti dell'utilizzo cinese dei sistemi di sorveglianza basasi sull’intelligenza artificiale, queste opinioni li hanno spinti ad acquistare strumenti di intelligenza artificiale simili da fornitori non cinesi. Ad esempio, la polizia britannica, ha acquistato di recente la tecnologia di riconoscimento facciale basata sull’intelligenza artificiale dai servizi segreti israeliani per identificare e monitorare i civili palestinesi che transitano a Gaza. I 50 apparecchi di riconoscimento facciale basati sull’intelligenza artificiale saranno implementati a livello nazionale per identificare e monitorare le persone presenti nella lista di sorveglianza della polizia britannica. Negli Stati Uniti, la tecnologia basata sull’intelligenza artificiale, è stata utilizzata nell'ambito di sorveglianza di massa e l’ arresto di immigrati clandestini e nella recente battaglia contro l'Iran.

Sul fronte digitale, l'impatto dell’intelligenza artificiale sui media e sull'ecosistema dell'informazione è stato devastante. È stato ampiamente segnalato come l’intelligenza artificiale di produzione cinese DeepSeek, presenti una censura intrinseca e pregiudizio politico nel confondere la narrativa filo-cinese.

Allo stesso modo, anche le IA generative occidentali sono utili per diffondere propaganda su Internet. Come rivelato dai relazioni sulla trasparenza di OpenAI, gli operatori dell'informazione russi e cinesi hanno utilizzato ChatGPT per analizzare opinioni pubbliche e personalizzare contenuti al loro pubblico di riferimento. Di recente, nel contesto della guerra tra Stati Uniti e Israele contro l'Iran, la propaganda bellica, sotto forma di video deepfake generati dall'intelligenza artificiale, ha invaso anche le principali piattaforme social.

Una minoranza di operatori della disinformazione è ora in grado di manipolare la percezione della realtà della maggioranza grazie ai propri assistenti basati sull'intelligenza artificiale.

La necessità di riequilibrare i rapporti di forza

Anche la Cina offre al mondo un insegnamento fondamentale in materia di governance dell'intelligenza artificiale. A partire dal 2022, ha adottato una serie di leggi e regolamenti, incluso le disposizioni relative ai sistemi di raccomandazione algoritmica (2022), disposizioni relative alla gestione della sintesi profonda (2023), misure provvisorie relative all'IA generativa (2023), e misure relative all'etichettatura dell'IA (2025) al fine di prevenire l'utilizzo illegale e dannoso dell’intelligenza artificiale e assicurando che i contenuti generati automaticamente siano coerenti con la base dei valori socialisti della Cina. I diritti degli utenti in materia di protezione dati, consenso e accesso sono stati trattati in modo equo, con requisiti aggiuntivi per responsabilità delle imprese nel promuovere la trasparenza degli algoritmi e l'adozione di misure non discriminatorie e che non creino dipendenza.

Eppure, l'obiettivo delle leggi è quello di proteggere la sicurezza nazionale, l'ordine pubblico e ideologia politica, ma non vi è alcuna limitazione al potere dello Stato. Sui social media cinesi non è raro vedere utenti lamentarsi del fatto che la polizia abbia bussato alla loro porta semplicemente perché hanno acquistato qualcosa di sospetto, come un drone per scattare foto. Il sistema di credito sociale, insieme alla censura online, a un sistema di gestione della rete e ad altri sistemi di controllo sociale, traccia le attività online degli utenti, comprese le transazioni finanziarie, le connessioni sociali e le dichiarazioni, e limita il loro accesso a servizi digitali e pubblici, come i sistemi di pagamento online e gli acquisti di viaggi , quando il loro punteggio di credito è basso e vengono successivamente inseriti nella “lista delle persone disoneste” dei tribunali cinesi.

Gli obblighi imposti dalle leggi sul settore aziendale sembrano giuste ed eque. Tuttavia, ci sono pochissime organizzazioni indipendenti della società civile che monitorano il settore privato e assicurano che le aziende tecnologiche abbiano effettivamente adottato le misure di protezione previste dalla legge. Di conseguenza, violazioni della sicurezza e fughe di dati personali a causa di prodotti di intelligenza artificiale mal progettati come l'aspirapolvere DJI Romo, che negli ultimi anni ha continuato. Nel 2025, è stata scoperta una grave violazione di dati di miliardi di utenti cinesi, includi nomi, codici ID, password, dettagli finanziari e bancari legati ad account di social media.  Questi dati potrebbero essere sfruttati dai truffatori per mettere a punto complotti ai danni delle persone coinvolte.

Nonostante tutti i rischi della sicurezza, i cittadini della Cina continentale si dimostrano pronti ad adottare le emergenti tecnologie, in particolare l'AI. L'ultimo esempio, verificatosi all'inizio di marzo nelle principali città cinesi, è stato la fretta di installare OpenClaw, un bot basato sull'intelligenza artificiale codificato dal programmatore australiano Peter Steinberger che si integra con altri modelli di linguaggio di grandi dimensioni (LLM) come DeepSeek e Claude, funziona su un computer locale e archivia i dati in locale. Seguendo la tendenza e lanciando altri prodotti simili, tra i marchi cinesi, come Tencent, ByteDance, e  Xiaomi. Questo fanatismo tecnologico, alimentato sia dalla politica del governo cinese volta a integrare le tecnologie avanzate nell'economia, sia dall'ansia della gente di rimanere indietro di fronte alla rapida innovazione tecnologica, trasforma le persone in fan e seguaci di un Leviatano, al quale dedicano il loro tempo, le loro energie, i loro desideri, le loro idee e i loro dati senza avere la minima idea di chi lo controlli e dove possa condurli.

Anche se la trasparenza e la protezione dei diritti dei consumatori sono state scritte nelle leggi cinesi dell’intelligenza artificiale, la tutela dei diritti umani resta immutata, poiché le persone non sono consapevoli dei propri diritti e dei potenziali rischi derivanti da un uso improprio e doloso della tecnologia. Al contrario, la maggior parte dei cittadini della Cina continentale, per l'assenza di scelta, hanno accettato la tecnologia di sorveglianza, così come l'onnipresenza delle telecamere di sicurezza a riconoscimento facciale, visto come un aspetto normale e pratico della vita pubblica. Il meccanismo di cambiamento è bloccato.

Nella distopia cinese sull'intelligenza artificiale si può notare che le persone non hanno il controllo della tecnologia, ma sono soggette a un regime che considera la tecnologia come uno strumento per espandere e consolidare il potere politico ed economico dello Stato. Ciò ci dimostra che il fulcro dell'approccio ai diritti umani nell'ambito dell'IA dovrebbe mirare a ristabilire un equilibrio di potere tra il complesso stato-impresa, la macchina e le persone attraverso un quadro decisionale che riporti l'individuo al centro, nonché a smantellare il fanatismo tecnologico mediante una ricerca orientata all'uomo e un dibattito pubblico, pratiche culturali riflessive e un'educazione all'umanità.