- Credito fotografico: Hannah Thinyane e utilizzata con autorizzazione.
Rising Voices (RV) collabora con Association for Progressive Communications (APC) [1][en, come i successivi link, salvo diversa indicazione] che ha realizzato Global Information Society Watch nel 2019 (GISWatch), il cui interesse principale è l'intelligenza artificiale (IA): diritti umani, giustizia sociale e sviluppo. Nel corso dei prossimi mesi, RV pubblicherà le versioni delle relazioni per ogni paese, soprattutto in quei paesi in cui si evidenzia come l'intelligenza artificiale possa influenzare le comunità che storicamente sono da sempre emarginate e non rappresentate adeguatamente.
Questo articolo è stato scritto da Hannah Thinyane [2] e Monticha Puthawong [3] dell’Istituto di Informatica e Società della Università delle Nazioni Unite (UNU-CS) [4], a Macao e in Tailandia. Questa relazione è stata pubblicata inizialmente come parte di una raccolta più ampia: “Global Information Society Watch 2019: Intelligenza artificiale: diritti umani, giustizia sociale e sviluppo”. Visita il sito web di GISWatch [5] per visionare il report completo che è disponibile sotto licenza CC BY 4.0.
Il lavoro forzato e la tratta di esseri umani colpisce più di 24,9 milioni [6]di uomini, donne e minori a livello mondiale i quali vengono sfruttati per la loro mano d'opera o vengono obbligati alla prostituzione. Le cifre pubblicate dal [7] Dipartimento di Stato degli Stati Uniti [7] indicano che nel 2018, soltanto 85.613 vittime sono state identificate in tutto il mondo. Queste cifre sottolineano che in realtà c'è una maggior quantità di persone, spesso lavoratori migranti, che sono sfruttati in condizioni di schiavitù, sebbene solo una piccola parte riesca a essere identificata e riceve successivamente aiuto.
I mezzi di comunicazione e i professionisti spesso utilizzano i termini “tratta di essere umani” e “lavoro forzato” in modo intercambiabile, pertanto varrebbe la pena definire ogni termine. Nel nostro lavoro, ci basiamo sul concetto di un costante aumento nello sfruttamento di Skȓivánková che definisce il “lavoro onesto” e il “lavoro forzato” come due estremi di una costante [8], e qualsiasi situazione si trovi tra i due estremi rappresenta diverse forme di attività lavorativa. Queste condizioni di lavoro possono variare [9] da “relazioni consensuali, di cooperazione e beneficio reciproco tra i migranti e i loro mediatori” ad “altamente coercitive e sfruttate”. Usando questa sequenza, possiamo osservare che la tratta di esseri umani è un processo che consiste in una serie di azioni senza scrupoli che avvicinano il lavoratore a situazioni di sfruttamento. In questa relazione, usiamo il termine “assistenza di prima linea” (APL) per far riferimento in modo collettivo a un grande numero di parti coinvolte in cui il documento consiste di valutare le condizioni lavorative e aiutare che le potenziali vittime ricevano aiuto e possano accedere a risorse collettive — come la polizia, gli ispettori del lavoro, gli auditori e le organizzazioni non governative (ONG).
In questo report analizziamo i risultati di un progetto che si è svolto nel corso di due anni e mezzo di cui l'obiettivo era comprendere come si potesse usare la tecnologia digitale per aiutare i lavoratori sfruttati in situazioni vulnerabili. Inizia con una descrizione del processo di sviluppo che abbiamo intrapreso in Tailandia per creare Apprise, sistema per aiutare a individuare in modo attivo e costante i lavoratori che si trovano in situazioni di vulnerabilità. Il report successivamente elabora la possibilità di utilizzare l'intelligenza artificiale per comprendere le pratiche variabili dello sfruttamento.
Apprise
Il nostro lavoro presuppone una strategia sulla concezione etica (VSD) che si basa sulla comprensione che la tecnologia si forma sui pregiudizi e le supposizioni dei suoi disegnatori e creatori. La concezione etica integra [10] attivamente la riflessione etica nello schema delle soluzioni e, utilizza una metodologia tripartita inclusiva e interattiva composta da ricerche concettuali, empiriche e tecniche. Con il suo orientamento sui valori, questa proposta introspettiva mira a essere “pro-attiva per influenzare lo schema della tecnologia dall'inizio e durante il processo dello schema”. Per realizzarlo in questa maniera la concezione etica mostra un compromesso con il progresso e non con la perfezione.
Iniziamo la nostra ricerca in Tailandia all'inizio del 2017 con una serie di gruppi di discussione costituiti da molte parti interessate, tra questi i sopravvissuti allo sfruttamento, organizzazioni non governative, funzionari tailandesi e organizzazioni intergovernative. Lo scopo di questi gruppi di discussione era comprendere le pratiche attuali e i problemi che intercorrono per identificare le vittime della tratta di esseri umani, il loro accesso, il loro utilizzo della tecnologia e la loro percezione sui modi in cui la tecnologia potrebbe aiutarli a superare i problemi che affrontano. Per riassumere i risultati di questo incontro iniziale, i gruppi di discussione suggeriscono che sarebbe stato necessario l'appoggio durante la prima fase di ricerca delle vittime. I problemi che si sono riscontrati in questa prima tappa sono stati i seguenti:
- Comunicazione: Dovuto alla mancanza di risorse (e di conoscenza delle lingue richieste), l’ APL ha sperimentato in generale problemi di mancanza di comunicazione nella stessa lingua dei lavoratori, pertanto, non hanno potuto essere intervistati. Non sempre c'erano traduttori disponibili.
- Privacy: La ricerca iniziale sul campo è servita in alcune occasioni precedenti ai potenziali sfruttatori. I lavoratori temevano delle ritorsioni se rispondevano onestamente alle domande.
- Formazione: Esiste una mancanza di conoscenza sugli indicatori comuni dello sfruttamento del lavoro e lavoro forzato. Alcune APL si sono concentrate sugli indici di abuso fisico anziché sulle forme più sottili di coercizione, come schiavitù per obbligazione o trattenuta del salario e di documenti importanti.
Basandoci su questi risultati, abbiamo sviluppato Apprise: sistema utilizzato per cellulari che aiuta l'APL a individuare attivamente e costantemente segnali di sfruttamento lavorativo nelle popolazioni vulnerabili. Lo strumento si installa nel telefono dell'APL, ma in pratica serve per permettere che i lavoratori divulghino in modo privato le loro condizioni di lavoro. Le domande si traducono e vengono registrate in lingue di uso comune tra i lavoratori in ogni settore, e quando si combinano con un paio di cuffie, questo offre ai lavoratori una modalità privata di rispondere mentre si trovano sul campo. Dopo aver analizzato le risposte a una serie di domande a risposta chiusa (si/no), Apprise offre consiglio sui prossimi passi che l'APL deve fare per aiutare il lavoratore. Le risposte alle domande vengono salvate nel telefono dell'APL e successivamente vengono caricate su un server, per la volta successiva, e quando inizia una sessione connessa a una rete, è più semplice per un'analisi posteriore. Oltre a co-progettare il sistema, le nostre riunioni con i partecipanti hanno evidenziato le attuali segnalazioni di sfruttamento che sono servite per formulare una lista di domande. Da aprile 2017 a giugno 2019, più di mille interessati nell'ambito della lotta contro la tratta di esseri umani in Tailandia hanno contribuito alla progettazione o alla valutazione del sistema.
Dal marzo del 2018, le ONG utilizzano Apprise sul campo per aiutare lo screening pro-attivo e costante nelle sue attività di sensibilizzazione nei seguenti settori: pesca, trasformazione di prodotti ittici, manifattura e sfruttamento sessuale. In maggio del 2018 abbiamo iniziato a lavorare a stretto contatto con il Ministero del Lavoro (in particolare con il Dipartimento di Protezione del Lavoro e del Benessere) e la Marina Reale Tailandese, in Tailandia, per comprendere come Apprise potrebbe appoggiare uno screening pro-attivo e coerente dei lavoratori nei centri di ispezione governativi collocati nei porti (centri di controllo in entrata e uscita dal porto o anche detti “PIPO”) e in mare.
Attraverso questo processo di lavoro sul campo con l'APL, abbiamo notato che gli sfruttatori modificano e perfezionano continuamente le loro pratiche di sfruttamento, in risposta ai cambiamenti politici e alle ispezioni. Quando gli sfruttatori cambiano le loro pratiche è necessario del tempo per riconoscere questi cambiamenti come nuovo “modello” di sfruttamento. Spesso l'informazione è messa a tacere da diversi interessati e non la diffondono per svariate ragioni. Dopo un po’, gli interessati iniziano a diffondere questi “modelli” modificati, generalmente attraverso reti informali. A questo punto la nuova pratica viene identificata come modello e, conseguentemente, si sviluppauna nuova politica o pratica di ispezione.
Questo gioco del gatto e il topo continua nel tempo, e gli sfruttatori modificano nuovamente i loro comportamenti per evitare il rilevamento. In risposta, sviluppiamo Apprise per permettere che vengano aggiunte nuove domande alla lista di quelle disponibili, e per includere nuove lingue in tempo reale. Quando l'APL inizia una sessione con il suo telefono, Apprise verifica se ci sono aggiornamenti nelle liste e scarica le nuove traduzioni audio delle domande. Questo supporto adattivo permette all'APL di realizzare domande sugli attuali modelli di sfruttamento e ottenere informazioni addizionali sulle pratiche di sfruttamento quando viene identificato un nuovo modello.
Basandoci su questa osservazione, iniziamo a chiederci se esista la possibilità di includere l'apprendimento automatico per assistere in modo più opportuno e preciso l'identificazione di queste pratiche variabili di sfruttamento. Sebbene questo lavoro si trovi ancora, nella sua fase iniziale, il nostro obiettivo è di determinare le pratiche di sfruttamento che si esercitano specificatamente in ogni settore per creare un'educazione orientata e campagne di sensibilizzazione al rispetto, al supporto dell'APL per individuare in maniera pro-attiva le pratiche di sfruttamento attuali e informare sulla politica basata sull'evidenza per supportare il perseguimento degli sfruttatori.
Apprendimento automatico per rilevare i modelli di sfruttamento
In generale l'apprendimento automatico funziona identificando modelli con le informazioni disponibili. Il suo obiettivo principale è quello di poter generalizzare, in modo che i modelli identificati nei dati di preparazione possano essere applicati in modo preciso ai dati invisibili. L'apprendimento automatico è stato impiegato [11] in diversi contesti, giustizia penale, come per esempio la previsione di delitti, prevedere reati, prevedere le identità dei colpevoli e prevedere le vittime di delitti. Inoltre, è stato utilizzato [12] nell'ambito della lotta contro la tratta di esseri umani per valutazioni predittive della vulnerabilità e tracciabilità del crimine al fine di migliorare l'assegnazione delle risorse allo Stato. Nel nostro lavoro, aspiriamo a comprendere se esiste una possibilità di includere l'apprendimento automatico nella previsione di modelli variabili di sfruttamento, un'area che ha ricevuto poca attenzione sino ad ora.
Mentre ci sono benefici indiscutibili che potrebbero apportare gli strumenti di previsione esatta, i governi, la società civile e il mondo accademico non sempre hanno parlato in modo favorevole di questi strumenti, e citando casi in cui “possono riprodurre modelli esistenti di discriminazione, evitare pregiudizi dei precedenti responsabili delle decisioni o semplicemente riflettere le tendenze generalizzate che persistono nella società. Possono persino produrre il risultato perverso di aggravare le disuguaglianze esistenti suggerendo [13] che i gruppi storicamente svantaggiati, in realtà, meritano un trattamento meno favorevole”.
Sebbene riconosca diverse nozioni di diritti umani (morali, etici e filosofici) il nostro lavoro adotta un'impostazione giuridica, basata sulla Dichiarazione Universale dei Diritti Umani (UNHCR) [14] [es], sui Principi guida su Imprese e Diritti Umani delle Nazioni Unite [15] [es] e sulla Dichiarazione della Organizzazione Internazionale del Lavoro relativa ai Principi e Diritti fondamentali nel Lavoro [16][es]. Questi strumenti giuridici internazionali forniscono un quadro di lavoro consolidato [17] per “considerare, valutare e infine correggere, l'impatto dell'intelligenza artificiale sulle persone e sulla società”.
Al fine di analizzare l'impatto dell'apprendimento automatico sui diritti umani per quello che riguarda l'identificazione di pratiche variabili di modelli di sfruttamento, ci rendiamo conto che un primo punto di considerazione importante sia la qualità dell'informazione che forniscono nelle interviste iniziali di localizzazione utilizzando Apprise, che è una questione strettamente vincolata alla privacy.
Un'attenzione particolare è stata data alla fase di progettazione di Apprise per includere stretti controlli sulla quantità di informazioni raccolte dai singoli lavoratori (e che accesso abbiano). Come esempio, Apprise punta ad aiutare nella fase di stesura dei report e mira alla trasparenza con la diffusione in modo automatico di una versione riassunta delle risposte alle interviste con la supervisione istantanea dell'ALP. Tuttavia, questo processo limita l'esattezza delle collocazioni dei GPS delle sessioni di localizzazione, e unicamente condivide le risposte delle domande.
Per proteggere la privacy dei lavoratori, non raccogliamo nessuna informazione di carattere personale, poiché crediamo che i rischi associati a questo generino ingiusti svantaggi a coloro che decidono di rispondere alle domande. Tuttavia, non è possibile eliminare posteriormente le risposte di qualcuno in particolare (in casi di richiesta).
Nell'ultimo anno e mezzo abbiamo valutato e perfezionato Apprise basandoci sui feedback che abbiamo ricevuto dai lavoratori che si trovano in settori vulnerabili e dai sopravvissuti dalla tratta di esseri umani. L'obiettivo è stato quello di offrire maggiore privacy ai lavoratori che sentono in queste fasi di screening iniziale. Sappiamo che nessun sistema di rilevamento può garantire risposte veritiere dei lavoratori, Appirse offre più privacy rispetto agli attuali metodi di intervista che vengono fatti ai lavoratori, che si verificano spesso nei gruppi e davanti a potenziali sfruttatori (e nel peggiore dei casi, usano i supervisori come interpreti quando si presenta una difficoltà linguistica).
Con un sistema di apprendimento automatico le risposte alle interviste avrebbero bisogno chiaramente di essere diffuse, e questo richiede una considerazione particolare. Si è intenzionati a diffondere ai nuovi modelli di sfruttamento con altre APL per aggiornare gli screening iniziali dei lavoratori in situazioni vulnerabili. Tuttavia, si deve fare attenzione a chi altro ha accesso a questi dati. Non appena gli sfruttatori si accorgono che i loro modelli di sfruttamento sono stati identificati, è molto probabile che altrettanto rapidamente li modifichino di conseguenza.
Nei casi in cui le risposte sono precise e lo strumento può identificare nuove pratiche di sfruttamento, esistono scontate implicazioni sui diritti dei lavoratori sfruttati: il diritto a non essere sottomesso alla schiavitù (articolo 4 del DUDU), il diritto a non essere sottoposto a tortura o maltrattamenti (articolo 5 del DUDU), il diritto a lavorare in condizioni adeguate (articolo23 DUDU), il diritto a non interferire da parte dello Stato o personale sui diritti menzionanti anteriormente (articolo 30 DUDU). È importante evidenziare, sebbene il sistema riceva informazioni da un sottogruppo di lavoratori (gli intervistati), che c'è il potenziale per influenzare maggiormente le condizioni lavorative.
Come in qualsiasi sistema, Apprise può identificare erroneamente i modelli che genera e che questo possa causare un'attenzione nella direzione sbagliata. Seppure questo rappresenti un uso inefficiente degli strumenti (APL e il tempo del lavoratore), non ha nessun coinvolgimento significativo sui diritti dei lavoratori. Questa informazione si userebbe per promuovere le ricerche, che smentirebbero questa previsione.
Conclusione
L'apprendimento automatico è stato impiegato in molti contesti nella giustizia penale. Nel nostro lavoro, miriamo a capire [18] se esiste una possibilità per l'apprendimento automatico di poterlo impiegare per prevedere i modelli variabili di sfruttamento, un settore che ha ricevuto ancora poche attenzioni.
In questo report descriviamo il lavoro che stiamo realizzando per individuare i segnali di sfruttamento del lavoro e lavori forzati con i lavoratori che si trovano in situazioni vulnerabili. Il report presenta Apprise, sistema abile che abbiamo sviluppato e che utilizza l'APL attualmente in Thailandia per supportare nella prima tappa la raccolta degli screening di identificazione delle vittime. Il rapporto, inoltre, discute del potenziale utilizzo dell'apprendimento automatico per attingere alle risposte delle interviste per prevedere i modelli variabili di sfruttamento. Riflettiamo su questo sistema per comprendere le implicazioni dei i diritti umani che questa nuova tecnologia dovrebbe includere. Sebbene esista una chiara implicazione nel diritto alla privacy dei lavoratori, descriviamo i passi che abbiamo fatto per ridurre al minimo questa imposizione. Inoltre, sosteniamo l'uso del sistema per tutelare i diritti umani fondamentali dei lavoratori che si trovano intrappolati in situazioni di sfruttamento del lavoro.