Nel corso dei primi giorni del giugno 2023, un’importante notizia pubblicata su Il Sole 24 Ore ha suscitato interesse tra coloro che seguono attentamente le tematiche legate ai diritti umani nell’era digitale. La testata ha rivelato come il Dipartimento di Pubblica Sicurezza del Ministero dell’Interno si sia messo in moto per distribuire su scala nazionale un programma di polizia predittiva noto come Giove, un sistema su cui il governo sta lavorando già dal 2020, ma che fino a oggi è stato circondato da un impenetrabile silenzio.
In seguito alle rivelazioni, un portavoce della Polizia di Stato aveva confermato che le istituzioni non avrebbero fornito ulteriori dichiarazioni in merito. Quanto è noto sull’argomento è stato dunque riportato perlopiù dal quotidiano di Confindustria, il quale ha avuto il merito di raccogliere la testimonianza del prefetto Francesco Messina, l’allora direttore della Direzione Centrale Anticrimine della Polizia di Stato. Nonostante la testimonianza del professionista, rimangono però molti interrogativi aperti.
Così parlò il prefetto Messina
Nell’aprirsi ai giornalisti, il prefetto Messina ha presentato un quadro generale del prodotto in fase di sviluppo, ma è stato avaro nel condividere quei dettagli che qualificano in senso stretto un programma di polizia predittiva. Con tono ottimistico ha però accennato che il modello sia stato già rodato in passato all’interno di alcune questure italiane, quindi si è detto convinto che gli estremi del software non violeranno i potenziali divieti futuri introdotti dall’AI Act europeo. «Giove lavorerà su fatti seriali per favorire l’identificazione degli autori, sfruttando le informazioni ottenute nelle attività di polizia, facilitandone l’analisi in modo da fornire validi spunti investigativi, suscettibili di rapidissimo approfondimento da parte degli operatori. Appare, dunque, conforme al Regolamento UE», spiega Messina. «In ogni caso, la sua realizzazione procederà in rapporto di stretta collaborazione con l’Autorità garante della privacy».
Attraverso l’AI Act, il Parlamento Europeo ha vietato senza compromessi i sistemi di predictive policing che adoperano dati biometrici per dividere i sospetti in categorie razziali, religiose o di genere. Si tratta di strumenti digitali che l’Unione Europea identifica puntualmente come qualsiasi forma di algoritmo avanzato che sia basato su profiling, posizione e analisi dei comportamenti criminali passati. In base a questa descrizione, Giove sembrerebbe rientrare pienamente nella categoria degli strumenti considerati tabù, tuttavia quanto comunicato all’opinione pubblica non è sufficiente a confermare o sconfessare la presunta legittimità di quanto intavolato dal Dipartimento di Pubblica Sicurezza.
In questa situazione di ambiguità, il ruolo di supervisione del Garante della privacy risulta prezioso, se non addirittura vitale. Tuttavia, è importante notare che il Garante stesso ha confermato all’epoca che, nonostante quanto dichiarato dal Messina, l’Agenzia non avesse ricevuto alcuna segnalazione in merito, da parte del Ministero dell’Interno o da altri organi statali. Questa mancanza si è estesa per anni e solleva questioni di trasparenza sulla gestione di Giove, ma anche nei confronti di tutti i software che hanno preceduto il programma statale, ovvero quei KeyCrime e XLaw menzionati solo fugacemente durante l’intervista al professionista. Sarebbe fondamentale approfondire e chiarire questa situazione per comprendere appieno il contesto e l’effettivo ruolo di tali modelli nel panorama della privacy e della sicurezza, tuttavia in assenza di punti di riferimento concreti non possiamo che formulare ipotesi plausibili, magari facendo chiarezza su cosa siano effettivamente i sistemi di polizia predittiva.
Le molte facce della polizia predittiva
Il concetto di “polizia predittiva” si è accompagnato nel corso degli anni a storie orribili di violazione dei diritti umani e discriminazione sistemica nei confronti dei più vulnerabili. A causa di queste esperienze negative, la predictive policing si è guadagnata una nomea tutt’altro che rassicurante, con la conseguenza che la sola idea di affidare a un algoritmo un qualsiasi ruolo all’interno delle investigazioni poliziesche suscita inevitabilmente dissapori, preoccupazioni e persino scandalo. Tuttavia, è fondamentale riconoscere che dietro all’etichetta commerciale della polizia predittiva esiste in verità una vasta gamma di software e che ciascun approccio è definito da caratteristiche profondamente diverse ed eterogenee.
Ogni azienda o entità governativa sta battendo strade diverse nella speranza di sviluppare un mezzo digitale che si adatti perfettamente a esigenze specifiche o, più comunemente, che si dimostri perlomeno persuasivo e redditizio all’interno del libero mercato della sorveglianza. Questo presupposto rende difficile parlare in tono generico della polizia predittiva, poiché sarebbe invece necessario valutare caso per caso le dinamiche in campo. «Dal momento che questi software predittivi vengono implementati da aziende private, uno dei principali problemi è che le aziende trattano i loro algoritmi come se fosse una sorta di segreto commerciale», spiega Beatrice Perego, dottoranda dell’Università degli Studi Roma Tre, che ha approfondito accademicamente proprio le dinamiche italiane della polizia predittiva. «Il concreto funzionamento dell’algoritmo non è un genere d’informazione che viene divulgata e questo ha delle ricadute in termini di trasparenza».
Nonostante la pluralità degli approcci, i criteri di analisi possono essere in ogni caso ricondotti alla valutazione di alcuni punti chiave estremamente critici, che vanno a definire quanto uno strumento rischi di alimentare l’eterna fiamma della discriminazione. Quando ci si avvicina a queste cosiddette “intelligenze artificiali” è infatti importante sondare innanzitutto l’origine dei dati utilizzati per addestrare la macchina, quindi studiare la destinazione d’uso prevista per i software, entrambe aspetti fortemente subordinati alle scelte di natura politica.
L’IA e gli algoritmi avanzati non possono d’altronde mantenere nella loro applicazione una dimensione oggettiva poiché influenzano attivamente la distribuzione di potere, imponendo tendenze e confini che manifestano ripercussioni all’interno dell’intera infrastruttura sociale. In altre parole, nella prospettiva della riproduzione culturale, le macchine assumono la dimensione di ciò che Pierre Bourdieu avrebbe potuto definire come il vettore «di una struttura strutturata che diventa struttura strutturante», uno stimolo che si trasforma in una leva di cambiamento sociale. La definizione di questi modelli è utile a far progredire le politiche nazionali, tuttavia la bontà di una simile rivoluzione dipende dal concetto di “progresso” a cui si appoggia la classe dominante.
Le leggi dei robot hanno molte lacune
I sistemi di polizia predittiva sono stati utilizzati nel panorama italiano fin dalla fine degli anni Duemila. Indipendentemente dalla forma che assumerà in futuro l’AI Act, è importante chiedersi se finora questi strumenti polizieschi siano effettivamente stati adoperati in maniera legittima. «In teoria», sostiene Perego, «la norma dell’art. 22 del GDPR prevede il divieto generale di utilizzo dei sistemi automatizzati senza il consenso dell’interessato o comunque senza che questi ne venga a conoscenza. Sulla base del principio di presunzione di innocenza, il soggetto che viene indagato […] dovrebbe essere posto a conoscenza di tutte le informazioni che la polizia ha raccolto, sulla base delle quali viene attribuita a lui un qualche tipo di responsabilità».
A differenza del riconoscimento facciale, che è stato posto sotto moratoria fino al 2025, la polizia predittiva si trova dunque priva di un inquadramento normativo puntuale e questa mancanza ha un impatto significativo sull’ancoraggio giuridico, rendendo difficile stabilire regole specifiche che possano fornire binari guida all’azione di polizia. «C’è una sorta di sfiducia in questi sistemi. Non solo dal lato della cittadinanza, ma anche proprio a livello di amministrazione pubblica», sostiene Perego. «Le applicazioni di polizia predittiva […] potrebbero riprodurre pregiudizi tipici della valutazione umana rispetto a certe zone e dunque persone che vi abitano e, là dove diano un peso prevalente ai dati storici, possono portare a concentrare i controlli su certi tipi di crimini o aree perdendone di vista altre o nuovi rischi, se non a stigmatizzare determinate persone» fa notare invece Nicoletta Ragone, professoressa di giurisprudenza presso l’Università LUMSA.
Di Giove sappiamo solamente che, stando al prefetto Francesco Messina, «i dati che alimenteranno il sistema saranno immessi dagli operatori di polizia che verranno assistiti da un set di domande da porre alla vittima all’atto della ricezione della denuncia, in modo da orientare la raccolta di informazioni funzionali alla successiva analisi». Presupposto che, secondo le autorità, potrebbe un domani integrarsi direttamente con le banche dati della polizia. Non è chiaro se Giove sia già in funzione o meno, quindi non sappiamo se possa dirsi correntemente a norma: ciò di cui siamo consapevoli è che i suoi due predecessori sono stati invece collaudati da questure sparpagliate per tutta la penisola.
Secondo quanto spiegato dalle aziende coinvolte, l’uso dei loro strumenti era finalizzato a supportare le tradizionali indagini, pertanto le macchine non dovrebbero aver svolto un ruolo tanto predominante da violare il GDPR. Non è tuttavia chiaro se gli agenti abbiano notificato alle persone fermate il fatto che un’intelligenza artificiale ha preso parte ai casi che li riguardano. Le questure coinvolte sono quelle di Napoli, Salerno, Prato, Venezia, Parma, Modena e Milano. Tra queste, solamente Parma e Venezia hanno dato riscontro alle nostre richieste di chiarimenti, tuttavia si sono limitate a comunicare che le informazioni riguardanti i risultati ottenuti dall’applicazione dello strumento informatico «non sono suscettibili di comunicazione».
La polizia predittiva funziona
Nel valutare l’efficacia del predictive policing, è fondamentale considerare se i risultati ottenuti nel campo della sicurezza siano bilanciati rispetto ai potenziali rischi per la tutela dei diritti delle fasce più vulnerabili. Il portale di informazione giuridica Altalex ha raccolto i risultati del sistema algoritmico di XLaw, il quale si sarebbe dimostrato accurato con percentuali che altalenano dall’87% al 94% a seconda della questura presa in analisi, mentre un vecchio comunicato della Polizia di Stato suggerisce che «l’84% dei fatti-reato che sono stati tentati o commessi erano stati previsti dal sistema “XLaw”». KeyCrime vanta a sua volta il raggiungimento di traguardi altrettanto notevoli: il suo creatore riporta che, nel periodo dei test, lo strumento sia riuscito a individuare la responsabilità dei crimini dal 47% al 60% delle rapine compiute annualmente.
Gli strumenti di polizia predittiva sono principalmente legati a brevetti, il che comporta protezioni sulla proprietà intellettuale che complicano la vita di eventuali fact-checker indipendenti. Le statistiche menzionate sono quindi spesso promosse o commissionate direttamente dai creatori dei vari modelli, un presupposto che solleva dubbi sulla loro oggettività. Questo è particolarmente problematico poiché l’analisi dei rischi sembra essere estremamente clemente nei confronti degli obiettivi perseguiti dalle autorità. Senza una maggiore trasparenza, diventa inoltre difficile distinguere quanto la polizia predittiva possa influenzare l’opinione dei giudici, comprendere se il calo del crimine sia collegato ai software in fase di test o a un naturale declino dei reati, definire se i numeri riportati siano il risultato di profezie autoavveranti per cui un maggiore dispiegamento di forze porta a un corrispettivo aumento dei fermi.
Per ottenere una valutazione accurata e imparziale di questi strumenti, sarebbe essenziale aumentare la trasparenza e garantire una maggiore indipendenza nell’analisi dei dati. Eppure, attorno a Giove orbitano decine di incognite e nessuno sembra particolarmente ansioso di fare chiarezza, ancor più che lo stesso governo sembra non sapere bene come funzioni il modello di polizia predittiva. Filippo Sensi, senatore PD, ha dovuto avviare un’interrogazione parlamentare per saperne di più, ma i chiarimenti non sono mai giunti. Per ora, l’unico stratagemma per comprendere meglio Giove è quello di guardare ai suoi progenitori, KeyCrime e XLaw, strumenti che, essendo già passati per le mani della polizia, ci lasciano scorgere in che modi la predictive policing è stata accolta dalle autorità italiane.
[di Walter Ferri]
Con la scusa della sicurezza. Si voteranno da solo la poltrona.