Sentenza sul riconoscimento facciale in Brasile potrà essere un importante precedente per il suo uso nel paese

Immagine per cortesia di Laís Martins

Quasi cinque milioni di persone usano la metropolitana di San Paolo tutti i giorni. Ognuno dei loro visi può essere stato registrato in un sistema in uso dall'inizio del 2010. Il 23 marzo, la corte statale di San Paolo ha ordinato [pt, come tutti i link successivi, salvo diversa indicazione] all'azienda della metropolitana di smettere di utilizzare questa tecnologia.

L'azienda ha ricorso in appello contro questa decisione, dicendo che il sistema di vigilanza “rispetta rigorosamente la Legge Generale sulla Protezione dei Dati”; tuttavia, l'appello è stato respinto dalla stessa corte a metà aprile.

Questa decisione è stata considerata una vittoria per un gruppo di enti della società civile che avevano presentato una denuncia civile per fermare la raccolta di dati, fatto che consideravano incostituzionale ed estraneo al quadro giuridico del Brasile in materia di diritti civili digitali.

All'inizio di marzo 2022, questo gruppo ha presentato una denuncia civile contro la Metropolitana Statale di San Paolo, con la quale esigevano che ponesse fine alla raccolta di dati e che pagasse un indennizzo per danni morali di almeno 42 milioni di reali (circa 8,5 milioni di dollari).

Nonostante ciò, il gruppo spera di ottenere un maggior impatto che vada oltre i percorsi della metropolitana di San Paolo. Vorrebbe svolgere un ruolo nella formazione di giurisprudenza sulle tecnologie di riconoscimento facciale in un paese la cui legislazione dice poco o nulla su questi sistemi.

“Questa decisione potrebbe avere un impatto a livello nazionale in merito a ciò di cui discutiamo attualmente su come si applica la Legge Generale di Protezione dei Dati, su un quadro giuridico di protezione che è però recente e che si trova in una fase di formulazione di giurisprudenza e accordi nel sistema giudiziario”, spiega Sheila de Carvalho, coordinatrice del Centro di Riferimento Legale in Article 19 (Brasile e Sudamerica) [en].

Article 19 è una delle organizzazioni che hanno sottoscritto la denuncia, insieme al Difensore Pubblico dello Stato di San Paolo, il Difensore Pubblico Federale, l'Istituto Brasiliano per la Difesa dei Consumatori (Idec); Intervozes, collettivo di comunicazione sociale, e CADHu, il Collettivo di Difesa dei Diritti Umani.

Carvalho ha segnalato che l'obiettivo principale della denuncia è innescare il dibattito intorno all'uso dei dati personali, la necessità di consenso e l'impatto discriminatorio e i pregiudizi sociali di questi metodi di raccolta di dati.

“Questa denuncia [incluse le affermazioni che contiene] ci apre la strada per fissare più parametri di protezione in merito all'uso dei dati personali”, ha affermato l'avvocato a Global Voices in una videointervista.

Negli ultimi anni, i membri del congresso hanno proposto progetti di legge per cercare di regolamentare e fissare delle procedure per implementare intelligenze artificiali, soprattutto nel campo della sicurezza pubblica. Tuttavia, il Senato ha discusso con esperti con la speranza che venga redatto un nuovo progetto di legge più rispettoso della vita privata e che assorba altre proposte esistenti sullo stesso tema.

Nel febbraio 2020, la Metropolitana di San Paolo ha annunciato che avrebbe realizzato un “sistema di vigilanza elettronica basato sulle immagini” in tre delle cinque linee della metropolitana. Il progetto è stato affidato al consorzio Engie Ineo Johnson, composto da imprese irlandesi e francesi, con un finanziamento previsto di 58,6 milioni di reali (circa 11,5 milioni di dollari).

A quel tempo, una coalizione di enti della società civile (quelli che presentarono la denuncia civile) si rivolse alla corte per ottenere più informazioni sul sistema. Desideravano sapere come si sarebbe conformata l'iniziativa ai principi stabiliti dalla Legge Generale di Protezione dei Dati del Brasile (LGPD), approvata nel 2018 e che sarebbe entrata in vigore nell'agosto 2020.

Due anni più tardi, questa domanda ha avuto risposta. Secondo le organizzazioni che hanno intentato la causa, il sistema viola costantemente la LGPD e contravviene ad altri meccanismi legali, come la Costituzione Federale, i Diritti dei Bambini e degli Adolescenti e il Codice dei Diritti dei Consumatori.

La denuncia afferma che l'azienda della Metropolitana di San Paolo usa la tecnologia di riconoscimento facciale sui passeggeri e usa i loro dati personali senza consenso, cioè senza la dovuta trasparenza. Inoltre, non mette a disposizione degli utenti informazioni su come vengono utilizzati questi dati e a quale scopo saranno usati.

Allo stesso tempo, segnalano che l'azienda non ha valutato il rischio del programma né ha ridotto i problemi riguardanti le tecnologie di riconoscimento facciale, come è previsto dalla legge. D'altra parte, queste pratiche di riconoscimento facciale violano i diritti fondamentali degli esseri umani e dei consumatori, il che pregiudica tutti gli utenti del trasporto pubblico, soprattutto i gruppi sociali emarginati, che verrebbero colpiti da pregiudizi razziali integrati.

Andare controcorrente

Come informa Wired [en], in alcune zone degli Stati Uniti ci si mobilita per proibire il riconoscimento facciale sia a livello statale che nelle singole municipalità, mentre in altri luoghi viene sempre più normalizzato l'uso di questa tecnologia. Questo paradosso sottolinea l'importanza di una regolamentazione a livello federale.

Il Parlamento Europeo chiede che sia proibito [en] l'uso da parte della polizia della tecnologia del riconoscimento facciale nelle zone pubbliche, in data base privati di riconoscimento facciale e nella polizia predittiva [en].

Invece, il Brasile sembra andare controcorrente. La Metropolitana di San Paolo non è l'unico ente pubblico che utilizza il riconoscimento facciale. In tutto il paese, i governi statali lo stanno applicando in diversi settori. Secondo l’Istituto Igarapé, centro di ricerca indipendente del Brasile, nel 2019 si sono registrati 47 casi di riconoscimento facciale in 15 stati.

Questo fatto rappresenta un problema in un paese in cui il 56,1 % della popolazione si identifica come di colore ed è evidente a Bahía, dove il governo di sinistra di Rui Costa, politico del Partido de los Trabajadores (Partito dei Lavoratori), sta trasformando lo stato in un “laboratorio di riconoscimento facciale”, secondo le informazioni apparse su The Intercept Brasil.

Nonostante non ci siano sufficienti prove che un sistema di questo tipo abbia successo ai fini della sicurezza pubblica, nel luglio 2021 il Governo di Bahía ha deciso di ampliare il programma testando un nuovo sistema a Salvador, la capitale dello stato.

Con un valore di 18 milioni di reali (3,56 milioni di dollari), il nuovo sistema è gestito dalla ditta spagnola Iecisa in collaborazione con Huawei. Si tratta di numerose videocamere distribuite per tutta la città che raccoglieranno immagini dei visi e le conserveranno in un sistema, raggruppando le immagini di una stessa persona. Secondo The Intercept, il sistema utilizza intelligenza artificiale per confrontare le immagini raccolte con i visi che si trovano nelle banche dati delle persone ricercate dal Segretariato di Pubblica Sicurezza dello Stato.

Inoltre, secondo agenti della società civile, in Brasile manca ancora un quadro giuridico che stabilisca dei limiti e dei parametri in merito all'uso delle tecnologie di riconoscimento facciale.

“Ora manca una regolamentazione e un orientamento di portata generale, il che dà luogo ad autorizzazioni tacite per l'utilizzo di sistemi di riconoscimento facciale”, ha scritto Igarapé in  un rapporto del 2020.

Nella comunità internazionale, si è già consolidata una maggiore comprensione del problema, che è servita come argomentazione nella causa. In più, la Commissione dei Diritti Umani delle Nazioni Unite riconosce [en] che i sistemi di riconoscimento facciale possono essere utilizzati per “perpetuare e amplificare la discriminazione”, specialmente contro le donne e le persone di colore.

Ora, il fatto che il Brasile non abbia una legislazione consolidata non rappresenta un'autorizzazione a commettere abusi e violazioni di diritti. I gruppi della società civile che hanno presentato la denuncia contro la Metropolitana di San Paolo affermano che i dati raccolti nelle stazioni e sui treni vengono commercializzati in modo illegale.

Questa ipotesi ha delle basi: nel 2021, ViaQuatro, l'azienda privata che gestisce una delle linee private della metropolitana di San Paolo, è  stata condannata dalla corte statale di San Paolo per aver usato il riconoscimento facciale senza autorizzazione.

Allora, la giudice dichiarò che non c'erano dubbi sul fatto che si stavano raccogliendo immagini dei passeggeri senza il loro consenso per fini commerciali che favorivano la compagnia e altre aziende di terzi coinvolte.

“Stiamo importando tecnologia in modo inconsapevole, semplicemente riproducendo ciò che veniva messo in pratica. E non è nemmeno una buona riproduzione, dato che la maggior parte di questi paesi ha abbandonato queste tecnologie. Ma questi paesi hanno bisogno di vendere queste tecnologie, che sono molto care, così che si approfittano dei paesi con un alto indice di disuguaglianza”, ha spiegato Carvalho.

Aggiunge che il Brasile opera in base a una logica di incarcerazione di massa, di criminalizzazione, senza poter utilizzare il diritto penale con parsimonia per conflitti che ne hanno bisogno veramente.

“Lo usiamo come prima opzione, e non come ultima. Pertanto, per meccanismi come questi, che violano i nostri diritti, risulta molto facile trovare spazio per prosperare nel nostro paese”.

avvia la conversazione

login autori login »

linee-guida

  • tutti i commenti sono moderati. non inserire lo stesso commento più di una volta, altrimenti verrà interpretato come spam.
  • ricordiamoci di rispettare gli altri. commenti contenenti termini violenti, osceni o razzisti, o attacchi personali non verranno approvati.