“In Italia da diversi anni alcune amministrazioni pubbliche affidano ad algoritmi e sistemi automatizzati la gestione di attività che riguardano i cittadini e le cittadine. Ma sapere esattamente quanti e quali strumenti di questo tipo sono in uso nei Comuni, nei Ministeri o in altri enti pubblici è molto difficile. Al momento non esiste infatti un registro ufficiale in cui rintracciare queste informazioni”. A dirlo è Donata Columbro che, in un articolo su L’Essenziale, analizza i rischi di questa situazione.
Il tema, che stiamo seguendo qui, è ovviamente interessante anche nell’ottica delle politiche sociali. Columbro cita in questo senso due casi che vengono dai Paesi Bassi. Da un lato Syri, sistema usato da alcuni Comuni per individuare casi di frode su servizi di welfare, stoppato da un tribunale per violazione della privacy. Dall’altro il più noto caso dell’algoritmo per la distribuzione di sussidi familiari che usava un criterio discriminatorio che escludeva persone straniere, e che proprio per questo portò addirittura alle dimissioni del Governo in carica. I casi critici non mancano anche in Italia, come quello di tre ASL del Friuli che hanno usato un algoritmo “per classificare gli assistiti in relazione al rischio di avere o meno complicanze in caso di infezione da covid-19” e che per questo sono state bloccate dal garante della privacy per assenza di una legislazione dedicata.
In questo contesto tante PA si stanno dotando di algoritmi per aumentare l’efficienza di alcune procedure, anche grazie al PNRR che stanzia moltissime risorse a questo fine. Secondo Columbro “se gli investimenti e il processo di digitalizzazione aumenteranno la presenza di algoritmi nelle decisioni pubbliche, il problema resta quello della responsabilità“. Chi definisce infatti i criteri con cui funzionano gli algoritmi? Chi progetta le regole su cui si basa il software? Chi scrive il codice da implementare? Questioni non da poco in una situazione in cui non sono chiare le regole per tradurre atti amministrativi, contratti e altri documenti in formule informatiche interpretabili dai computer. A livello europeo è in discussione un provvedimento, l’Artificial intelligence Act per stabilire alcune regole utili per risponde a queste domande, a cui però dovrà accompagnarsi una crescente consapevolezza dei cittadini sull’uso dei loro dati e sul funzionamento dei sistemi automatizzati che li utilizzano.