Un programmatore, sotto lo pseudonimo di ‘smilings’, ha scritto un articolo di riflessione su my1510.cn [zh] riguardo la sua esperienza nello sviluppo di un programma per filtrare le parole chiave sui dipositivi mobili. L'account del blogger informa i lettori sulla natura del filtro, il quale comporta un monitoraggio attivo della privacy individuale. Sotto c'è la traduzione completa della sua riflessione:
Errore di invio messaggio. Di Keso (CC: BY-NC-SA 2.0)
Nel mio secondo anno di università, il capo del mio dipartimento chiese ai miei colleghi e a me di creare un programma per filtrare le parole chiave. Il programma comportava un sistema di riconoscimento della parola chiave, per distinguere quando o no il messaggio contenesse certe parole chiave. Se si, il sistema avrebbe negato il recapito del messaggio. Comunque, allo stesso tempo, avrebbe dovuto mandare un recapito positivo di messaggio a chi spediva. Poi i nostri clienti chiesero che noi aggiungessimo un altra funzione. Nel momento del blocco dei messaggi, il sistema avrebbe dovuto registrare il numero del mittente, il numero del ricevente e il contenuto dei messaggi. Ero troppo in erba e allora accettai il compito senza alcuna esitazione.
Il mio collega e io eravamo molto coscensiosi nelle nostre analisi, nella creazione e nel testare tutte le funzioni. Durante il momento del test, scoprimmo che il sistema avrebbe rallentato il tempo di consegna del messaggio del 30%. Lavorammo più tempo per aumentare la sua velocità. Per essere più aperti con gli utenti, creammo un interfaccia per i clienti per gestire il sistema. Qui, avrebbero potuto aggiungere o cancellare parole chiave, controllare i messaggi filtrati e i messaggi del mittente e del ricevente. Molto presto, creammo un upgrade del sistema e il cliente fu molto soddisfatto. Poi, quando mi loggai per la manutenzione del sistema, scoprii che il sistema aveva catturato ogni genere di messaggi indecenti, delicati e privati e mi sentii un po’ a disagio nel vederlo. Ma non pensai profondamente e dimenticai l'intera faccenda molto velocemente.
Più tardi, quando ebbi maggiore esperienza ed ero stato esposto a idee differenti, iniziai a guardare i fatti diversamente. Quando guardavo alla mia devozione per lo sviluppo del sistema di filtraggio, mi sentii colpevole. Qualche volta mi preoccupavo che il sistema che avevo creato avrebbe portato guai agli altri. O se qualcuno avesse avuto la sua privacy esposta a causa di questo. Se avessimo rifiutato la richiesta dall'inizio, le cose sarebbeo state diverse?
Non ho ancora alcuna risposta per le domande precedenti e mi sento ancora a disagio. Anche se non sono stato conscio della questione in gioco e non ho avuto molta scelta… seppure avessimo rifiutato, qualcun'altro si sarebbe certamente occupato del compito.
Ebbi ben presto ragione. Qualche tempo fa, il nostro product manager ci chiese di seguire un cliente che voleva avere un programma simile. Obbiettai subito questa volta. Il manager fu confuso e mi chiese il perchè. Rise della mia spiegazione e disse: “Questa è la migliore opportunità per il nostro prodotto di entrare nel mercato cinese. Il mercato della telefonia mobile in Cina ci darà dei buoni riscontri. Dovresti essere conscio di questo. Senza questa funzione non avremmo mai occasione di entrare nel mercato, ed è così competitivo.” Quando tentai di convincerlo a rifiutare, mi guardò come se fossi un alieno. Fallimo nell'autoconvincerci e lui affidò il lavoro a un altro collega.
Quando il mio collega finì il programma, nominai me stesso per il test. Come ho anticipato, c'era il 25% di diminuzione nella velocità quando l'uso della memoria e della CPU aumentavano al 32%. Scrissi un report del test e conclusi: “A causa della ragione XXX, tale funzione potrebbe occupare molte risorse e ridurre la velocità. Suggerisco di non lanciare il prodotto.” Il product manager arricciò al mio rapporto e chiese: “quanti sforzi dobbiamo fare per aumentare la capacità del livello originale?” Il mio collega esitò a rispondere. Io dissi “il prezzo è molto alto”. Come programmatore alla ricerca della perfezione questa è una mossa contraddittoria. Comunque, per rilassarmi dalla tensione morale, tradii la mia etica professionale anche se sapevo che non sarebbe cambiato niente.
Di fronte alla ricerca del profitto e della sopravvivenza nel mercato, raramente ci perdiamo in considerazioni che ci sia o no una morale in noi per sviluppare il prodotto, o che tali prodotti potrebbero causare ingiustizia agli altri o a noi stessi. E’ abbastanza normale per noi sviluppare certi prodotti nella nostra ricerca del profitto, ma raramente ci mettiamo in una relazione in cui i prodotti potrebbero diventare strumenti che sono usati per controllare persone ordinarie, inclusi noi. Anche se siamo consci del problema, possiamo rischiare il nostro lavoro e dire no? E’ inevitabile che qualcuno consideri il lavoro quando non c'è di mezzo un profitto? Se è cosi, cosa accadrebbe al nostro mondo?