Il consigliere Ramiro Rosário, durante una sessione al consiglio comunale di Porto Alegre | Foto di Leonardo Lopes/CMPA, usata con permesso, modificata da Global Voices

Il consiglio comunale e il sindaco di Porto Alegre a Rio Grande do Sul, lo stato più meridionale del Brasile, hanno approvato una legge [pt, come tutti i link successivi, salvo diversa indicazione] presentata da un consigliere comunale, che ha poi rivelato che il testo era stato redatto e revisionato da un'intelligenza artificiale (IA).

La proposta di legge, che esonera le persone dal pagare un nuovo contatore dell'acqua in caso di furto, è stata approvata all'unanimità dai consiglieri.

Il consigliere Ramiro Rosário ha spiegato che il suo contributo nella stesura della proposta è stato inviare a ChatGPT una direttiva di 289 caratteri. L'intelligenza artificiale ha prodotto otto articoli e motivazioni, che era rimasta incompleta nella bozza a causa dei limiti di caratteri. Il consigliere non ha notato questo errore fino a quando non è stato avvertito dalla Sezione di Redazione Legislativa della Camera. È così tornato da ChatGPT per finire la stesura della normativa.

Il consigliere Rosário ha detto in un'intervista con il quotidiano Folha de S. Paulo:

É comum vereadores, para elaborarem leis nas suas cidades, buscarem como base uma lei parecida de outra cidade com a mesma finalidade e copiarem a redação. O ChatGPT faz a mesma coisa do jeito dele, recorrendo a um banco de dados de leis que já estão na internet. Considerando que estamos falando de dinheiro público, acho que a tecnologia tem muito a contribuir

È comune che i consiglieri comunali, quando redigono leggi nelle loro città, cerchino una legge con lo stesso scopo da un'altra città come base e copino il testo. ChatGPT fa la stessa cosa ma a modo suo, utilizzando un database di leggi su internet. Considerando che stiamo parlando di denaro pubblico, penso che la tecnologia possa contribuire molto

Il consigliere era soddisfatto con una delle proposte originali dell'IA: esonerare il proprietario dal pagare la bolletta dell'acqua fino a quando il dispositivo non fosse stato sostituito.

“Ho pensato fosse una buona idea e l'ho tenuta, anche se non era mia” ha detto, secondo Matinal Jornalismo.

Rosário ha rivelato l'uso dell'IA solo dopo l'approvazione del sindaco, secondo lui, per iniziare un dibattito su questo tema. Anche se non ci sono ostacoli legali a impedire normative scritte da un'IA nelle leggi brasiliane, il presidente del Consiglio comunale, Hamilton Sossmeier, ha detto al giornale G1 che lo considera un “precedente pericoloso”:

Considero estranho. É a primeira vez que acontece, e não tem nenhuma lei que indique que eu não possa aprovar. Hoje, não tem nada que proíba. Mas, na minha ótica, é um precedente perigoso, complicado. Podem vir outras leis mais complexas, que gerem outros tipos de impacto. Por enquanto, fica minha preocupação pessoal.

Lo trovo strano. È la prima volta che succede e non c'è alcuna legge che indichi che non possa approvare. Oggi non c'è nulla che lo vieti. Ma, dal mio punto di vista, è un precedente pericoloso. È complicato. Altre leggi più complesse potrebbero seguire, generando un altro tipo di impatto. Per ora, c'è solo la mia preoccupazione.

I potenziali rischi

ChatGPT è stato creato da OpenAI, un'azienda tecnologica americana, ed è basato su un modello linguistico rilasciato al pubblico [en] nel 2022. ChatGPT utilizza il deep learning [en] per simulare la scrittura umana e ha lo stesso design di una chatbot. La flessibilità e le capacità generative dei grandi modelli linguistici possono essere utili per la prosa, la poesia e la programmazione, ma generano anche preoccupazioni riguardo al loro uso improprio.

ChatGPT è stato utilizzato anche al di fuori del Brasile per produrre leggi. All'inizio del 2023, un legislatore del Massachusetts ha usato ChatGPT per redigere [en] una legislazione per regolare i modelli di intelligenza artificiale generativa. “ChatGPT ha generato il 70 percento di ciò di cui avevamo bisogno quando volevamo redigere questa legge, ma non ci ha portato fino in fondo”, ha dichiarato [en] il senatore del Massachusetts Barry Finegold, responsabile dell'idea.

ChatGPT crea frasi in base al proprio set di dati. ChatGPT è suddiviso in due modelli: una versione a pagamento, con un database aggiornato nel 2023, e una versione gratuita, che contiene un set di dati fino al 2021. Oltre a sollevare questioni su proprietà e copyright, mantenere l'oggettività e evitare i bias [en] in contesti politici è una preoccupazione per alcuni osservatori.

ChatGPT ha inoltre un grande potenziale di creare disinformazione e “avere allucinazioni”. Le allucinazioni [en] avvengono quando un'IA crea un output che si discosta da ciò che sarebbe considerato normale o previsto in base ai dati ricevuti.

Al momento, il congresso nazionale del Brasile sta esaminando un disegno di legge che vuole regolare l'uso dell'IA nel paese. Trasparenza, protezione della privacy e difesa dei valori democratici devono essere rispettati, secondo la forma attuale del testo.

Nel senato in Brasile è in discussione un altro disegno di legge che vuole anch'esso regolare l'uso dell'intelligenza artificiale e la sua implementazione, proponendo una valutazione del rischio prima che il servizio sia reso disponibile nel paese.