Chi regola gli algoritmi che decidono della nostra vita?

Gli algoritmi sono modelli matematici antichi quanto il mondo. Fino a pochi anni fa a renderli interessanti era un certo esotismo che caratterizzava le loro origini. A parlarne per primo nel IX secolo d.c. era stato infatti il matematico persiano Al-khawārizmi. È solo però con la grande potenza di calcolo dei computer raggiunta negli ultimi anni che gli algoritmi hanno segnato da una parte la nuova frontiera dell’intelligenza artificiale e dall’altra generato molta preoccupazione .

CHE COS’È UN ALGORITMO
Pensate a una ricetta di cucina. Ci sono una serie di ingredienti da utilizzare in una una sequenza ordinata di istruzioni. Gli algoritmi sono la stessa cosa. Grazie a input precisi e sequenze di istruzioni realizzate dal programmatore, aiutano a risolvere un problema o a raggiungere un obiettivo nel modo più efficiente possibile.
Gli algoritmi automatizzati decisori sono presenti nella nostra quotidianità. Le preoccupazioni nascono dalla poca trasparenza che spesso li caratterizza, dovuta in parte al linguaggio utilizzato, accessibile, e nemmeno sempre, ai soli matematici, e in parte alla mancanza di volontà da parte di chi li ha realizzati di renderi comprensibili.
A ognuno di noi può dunque capitare di essere discriminato da un algoritmo automatizzato quando per esempio si chiede un mutuo in banca, si partecipa a un concorso per un posto di lavoro o quando si viene profilati per specifiche campagne. Quando questo accade ci si chiede anche quali siano gli strumenti di tutela del cittadino, in quanto esiste un rischio di appiattimento sulla tecnologia e di deresponsabilizzazione della persona che li utilizza.

UN APPROCCIO MULTIDISCIPLINARE

Il libro “Discriminazione algoritmica” (Giappichelli) di Elena Falletti, docente di diritto comparato, presentato martedì 28 febbraio alla biblioteca della Liuc di Castellanza, affronta questi temi con un taglio multidisciplinare. «Il legislatore oggi ha una consapevolezza diversa – spiega Falletti – perché a differenza del passato sa che questa materia non può essere regolata senza la collaborazione di altri ambiti scientifici e tecnici o pensare di regolamentarla come se fosse una materia come le altre perché è sottoposta a un’evoluzione molto veloce. Quindi nel momento in cui il parlamento dibatte del problema, il cambiamento dello scenario tecnologico è già avvenuto».

I DIRITTI TRAVOLTI
L’uso di questa tecnologia può impattare su alcuni diritti fondamentali come la privacy e la libertà di espressione. L’intelligenza artificiale, in particolare gli algoritmi automatizzati, tende a polarizzare il dibattito, scatenando entusiasmo o paura. «È la loro opacità intrinseca a spaventare – ha spiegato Sabrina Praduroux, ricercatrice di Diritto comparato all’Università di Torino -. Nemmeno i programmatori sanno come questi algoritmi decidono. E quando decidono di purificare i dati compiendo scelte di valore, i dati cessano di essere neutri e generano ricadute sui diritti soggettivi».

LA GIUSTIZIA A RISCHIO
Se applichiamo queste riflessioni in settori come quello della giustizia, si comprende tutta la pericolosità di una delega completa affidata alla macchina e all’algoritmo. Non si tratta di fantascienza o di ipotesi al servizio di una tesi accademica. Negli Stati Uniti i giudici, per quanto riguarda il pericolo di recidiva di reato, tengono già conto dei risultati elaborati dal programma Compas (Correctional offender management profiling for alternative sanctions).
Falletti nel libro ne analizza le criticità ma al tempo stesso ne sottolinea gli aspetti positivi. «Più che spaventare – ha affermato l’autrice – gli algoritmi dovrebbero ispirare una maggiore consapevolezza. L’uso consapevole di questa  tecnologia, per esempio, nelle terapie intensive durante il Covid, avrebbe potuto favorire un uso razionale e migliore delle risorse limitate grazie alla velocità di calcolo. L’uso dell’algoritmo ha dunque un senso nel momento in cui decidiamo di usarlo per uno scopo specifico e concreto».

TROPPE VARIABILI RENDONO L’ALGORITMO NON COMPRENSIBILE
In tema di algoritmi automatizzati c’è un problema di armonizzazione delle varie normative nazionali ed europee. «Per armonizzarle ci vorrebbe un bell’algoritmo» ha sottolineato ironicamente Giovanni Paolo Crespi, professore ordinario di Matematica applicata Liuc. Al di là della battuta, è proprio dalla consapevolezza dei matematici che potrebbe arrivare la soluzione, considerato il fatto che Crespi condivide l’approccio multidisciplinare dell’autrice.
«Il vero problema di Compas – ha spiegato il matematico – è la sua complessità in quanto contiene più di 130 variabili e per ogni singolo caso ci deve essere una persona fisica che inserisca tutte quelle variabili. Quindi ci sono 130 possibilità di errore che generano a cascata altri problemi. Il tema è dunque capire se esiste una classe di algoritmi comprensibili a priori. Pertanto, se riesco a individuare per un problema una serie di algoritmi interpretabili, tutte le black box sono escluse».

IL DIRITTO È COME GIANO BIFRONTE
Se l’articolo 22 del Gdpr (Regolamento generale della protezione dei dati) è una prima risposta al bisogno di tutela di chi subisce una discriminazione ad opera di un algoritmo, senza però soddisfare «né il principio di trasparenza né quello di imparzialità», rimane aperta la questione relativa a un nuovo regolamento in grado di garantire i due principi richiamati dalla legge.
«Mi piace la metafora utilizzata dall’autrice che richiama la figura del diritto come Giano Bifronte (riprodotto anche in copertina, ndr)- ha concluso Nicola Rondinone, professore ordinario di diritto commerciale alla Liuc – cioè in grado di disciplinare le situazioni del passato e al tempo stesso indicare le linee direttrici per irreggimentare gli sviluppi futuri. In questo caso però è particolarmente difficile perché l’evoluzione tecnologica è talmente veloce che rende impossibile questo compito di retroguardia». È in questi frammenti di regolamentazione che il giudice ha ampi spazi di intervento con l’applicazione  dei principi generali del diritto.

A BEAUTIFUL PAGE