Il Regno Unito sta creando uno strumento di “previsione degli omicidi” per identificare le persone con maggiori probabilità di uccidere. “Algoritmi presumibilmente utilizzati per studiare i dati di migliaia di persone, un progetto che i critici definiscono “agghiacciante e distopico”.
Il Ministero della giustizia ha confermato che:
“Il progetto è un progetto pilota di data science con i seguenti obiettivi:
-
Esaminare le caratteristiche degli autori di reato che aumentano il rischio di commettere un omicidio.
-
Esplorare tecniche alternative e innovative di data science per la valutazione del rischio di omicidio.
-
Esplorare il potenziale dei dataset del MoJ in relazione alla valutazione del rischio di omicidio.
-
Esplorare il potenziale aggiuntivo dei dati del Police National Computer (PNC) in relazione alla valutazione del rischio di omicidio.
-
Esplorare il potenziale aggiuntivo dei dati locali della polizia in relazione alla valutazione del rischio di omicidio.
-
Fornire evidenze per migliorare la valutazione del rischio di reati gravi e, in ultima analisi, contribuire alla protezione del pubblico attraverso una migliore analisi”.
Il Ministero della Giustizia sta sviluppando un sistema che mira a “prevedere” chi commetterà un omicidio, nell’ambito di un progetto di “data science” che utilizza dati personali sensibili di centinaia di migliaia di persone.
Il Progetto di Previsione Omicidi utilizza dati di polizia e governativi per profilare le persone con l’obiettivo di “prevedere” chi è “a rischio” di commettere un omicidio in futuro. Si tratta di una collaborazione tra il Ministero della Giustizia (MoJ), il Ministero dell’Interno, la Polizia della Greater Manchester (GMP) e la Polizia Metropolitana di Londra. [2]
Statewatch ha ottenuto documenti relativi al progetto tramite richieste di accesso alle informazioni. Tra i documenti figurano la Valutazione d’Impatto sulla Protezione dei Dati del MoJ, la Valutazione del Rischio Interno e l’Accordo di Condivisione dei Dati con GMP. [3]
Il cosiddetto strumento predittivo utilizza i dati del MoJ, del Police National Computer e di GMP per tentare di formulare queste “previsioni”. [4]
L’Accordo di Condivisione dei Dati tra il MoJ e GMP per il Progetto di Previsione Omicidi rileva che i dati relativi a un numero di persone compreso tra 100.000 e 500.000 sono stati condivisi dalle forze dell’ordine per sviluppare lo strumento.
Il Ministero della Giustizia afferma nei documenti che il progetto mira a “esplorare la potenza dei set di dati del Ministero della Giustizia in relazione alla valutazione del rischio di omicidio”. [5] Il team di Data Science del Ministero della Giustizia “sviluppa quindi modelli” alla ricerca dei “potenti predittori presenti nei dati per il rischio di omicidio”. [6] I documenti fanno riferimento alla “futura operatività” del sistema. [7]
I dati GMP utilizzati dal Ministero della Giustizia per sviluppare lo strumento includono informazioni su centinaia di migliaia di sospettati, vittime, testimoni, persone scomparse e persone per le quali sussistono preoccupazioni in materia di tutela. [8]
I dati includono anche informazioni su persone in situazioni di vulnerabilità, con il Ministero della Giustizia che afferma che i dati relativi ai “marcatori sanitari” “dovrebbero avere un significativo potere predittivo”. Ciò include dati sulla salute mentale, la dipendenza, l’autolesionismo, il suicidio, la vulnerabilità e la disabilità delle persone. [9]
Questo progetto fa parte del “Data Science Hub” del Ministero della Giustizia, che si propone di utilizzare “dati e informazioni per prendere decisioni eccellenti utilizzando strumenti, tecniche e collaborazioni all’avanguardia e ponendo le prove al centro del sistema giudiziario”. [10]
Il progetto è stato guidato dal Ministero della Giustizia, dal GMP, dal Ministero dell’Interno e dalla Polizia Metropolitana. [11] Il Ministero della Giustizia ha inoltre discusso con la Polizia Metropolitana e la Polizia delle West Midlands sull’utilizzo dei dati in possesso delle due forze. [12]
Il Ministero della Giustizia ha sviluppato e implementato altri strumenti di profilazione basati sui dati nel sistema giudiziario penale britannico per prevedere la recidiva.
Tra questi, lo strumento di previsione della recidiva denominato “Offender Assessment System” (OASys). Le “previsioni” prodotte da questo sistema vengono fornite ai giudici nell’ambito delle decisioni di condanna, della categorizzazione delle carceri e influenzano anche le decisioni sulla libertà vigilata, ad esempio in caso di scarcerazione.
Una ricerca condotta dal Ministero della Giustizia stesso ha rilevato che questi modelli basati sui dati classificano i criminali neri in modo meno accurato rispetto ai criminali bianchi. [13]
Sofia Lyall, ricercatrice di Statewatch, ha dichiarato:
“Il tentativo del Ministero della Giustizia di costruire questo sistema di previsione degli omicidi è l’ultimo, agghiacciante e distopico esempio dell’intenzione del governo di sviluppare i cosiddetti sistemi di “previsione” della criminalità.
“Ripetutamente, la ricerca dimostra che i sistemi algoritmici per “prevedere” la criminalità sono intrinsecamente imperfetti. Eppure il governo sta portando avanti sistemi di intelligenza artificiale che profilano le persone come criminali prima che abbiano commesso alcunché.
“Questo ultimo modello, che utilizza dati provenienti dalla nostra polizia e dal Ministero dell’Interno, istituzionalmente razzisti, rafforzerà e amplificherà la discriminazione strutturale alla base del sistema giudiziario penale. Come altri sistemi simili, codificherà pregiudizi nei confronti delle comunità razzializzate e a basso reddito. Costruire uno strumento automatizzato per profilare le persone come criminali violenti è profondamente sbagliato e l’utilizzo di dati così sensibili su salute mentale, dipendenza e disabilità è altamente invasivo e allarmante.
“Il Ministero della Giustizia deve immediatamente interrompere l’ulteriore sviluppo di questo strumento di previsione degli omicidi. Invece di buttare via soldi per sviluppare intelligenza artificiale e algoritmi discutibili e razzisti, il governo deve investire in servizi di welfare realmente solidali. Tagli al welfare e investimenti in “soluzioni rapide” tecno-soluzioniste non faranno altro che compromettere ulteriormente la sicurezza e il benessere delle persone.
Documenti ottenuti tramite richieste di accesso ai dati
- Freedom of Information Act request response about the Homicide Prediction Project (November 2023, pdf)
- Freedom of Information Act request response about the Homicide Prediction Project (October 2024, pdf)
- Homicide Prediction Project Data Protection Impact Assessment (undated, .xlsx file)
- Ministry of Justice and Greater Manchester Police, Data Sharing Agreement (censored, 18 May 2023, pdf)
- Ministry of Justice, Internal Risk Assessment (undated, pdf)
- Ministry of Justice, Project Timeline (undated, .xlsx file)
- Ministry of Justice, Target variable definition (undated, pdf)
Uno studio del Ministero della Giustizia ha scoperto che i modelli “predittivi” utilizzati in OASys profilano in modo diverso le persone di diverse etnie. Lo studio ha rilevato che gli algoritmi di validità predittiva (o accuratezza) utilizzati dal Ministero della Giustizia nell’ambito di OASys erano “maggiori… per i criminali bianchi rispetto ai criminali di etnia asiatica, nera e mista”, e che funzionavano “meno bene per i criminali neri” e “meno bene per i criminali di etnia mista”. [14]
Ciò dimostra come questi modelli “predittivi” basati sui dati discriminino le comunità razzializzate, rafforzando la discriminazione strutturale del sistema di giustizia penale.
Precedente analisi delle previsioni di omicidio basate sui dati del Ministero della Giustizia
Nel 2023, il Ministero della Giustizia ha pubblicato un nuovo studio di analisi dei dati sulle previsioni di omicidio basate sui “reati precursori”. Utilizzando l’analisi statistica, lo studio ha calcolato la presunta probabilità che qualcuno commetta un omicidio in base alla sua storia criminale. Facendo riferimento all’Homicide Prediction Project, l’intento dichiarato dello studio era quello di “contribuire al futuro sviluppo di predittori attuariali di grave rischio di recidiva”. [15]
Il Ministero della Giustizia ha analizzato i tassi di omicidio in base a diverse caratteristiche sociodemografiche, tra cui l’etnia, affermando che: “I casi di omicidio non sessuale avevano una maggiore probabilità, rispetto ai controlli – o a tutti i potenziali controlli – di essere di etnia nera, con oltre il 20% di neri”. [16]
Fonte: Ministero della Giustizia, “Escalation in the severity of offing behaviour”, 2023, p. 79.
Il Ministero dell’Interno ha precedentemente pubblicato dati che mostrano i tassi di omicidio per etnia:
“Nell’anno conclusosi a marzo 1997, l’83% delle vittime e l’82% degli indagati erano bianchi. Nell’anno conclusosi a marzo 2018, le cifre erano rispettivamente del 74% (vittime) e del 67% (indagati). I tassi sono sproporzionatamente elevati per le vittime nere (4,7 volte superiori rispetto ai bianchi nell’anno conclusosi a marzo 2018) e per gli indagati (8,0 volte superiori).” [17]
Il Ministero dell’Interno ha anche precedentemente pubblicato dati che mostrano gli omicidi in base alla ricchezza dell’area, inclusa l’etnia.
Dai dati in possesso del Ministero della Giustizia e utilizzati per questa analisi degli omicidi, gli stessi dati che verrebbero utilizzati per la previsione degli omicidi, emerge chiaramente che le persone di colore sono significativamente sovrarappresentate, così come le persone di tutte le etnie provenienti dalle aree più svantaggiate.
Note
[1] The project began in January 2023, under Prime Minister Rishi Sunak.
[2] Ministry of Justice, ‘Homicide predictor modelling Full DPIA’, provided by Freedom of Information request response from the Ministry of Justice.
[3] Ministry of Justice ‘Homicide Predictor modelling Full DPIA’, Ministry of Justice ‘Internal Risk Assessment’, Ministry of Justice and Greater Manchester Police ‘Data Sharing Agreement (Redacted)’.
[4] Ministry of Justice, ‘Homicide predictor modelling Full DPIA’, provided by Freedom of Information request response from the Ministry of Justice.
[5] Freedom of Information request response from the Ministry of Justice, November 2023.
[6] Ministry of Justice, ‘Homicide predictor modelling Full DPIA’, provided by Freedom of Information request response from the Ministry of Justice.
[7] Ministry of Justice, ‘Homicide predictor modelling Full DPIA’, provided by Freedom of Information request response from the Ministry of Justice.
[8] Ministry of Justice, Data Sharing Agreement ‘REDACTED – DSA – Homicide predictor modelling MOJ GMP signed’, provided by Freedom of Information request response from the Ministry of Justice.
[9] Ministry of Justice, Data Sharing Agreement ‘REDACTED – DSA – Homicide predictor modelling MOJ GMP signed’, provided by Freedom of Information request response from the Ministry of Justice.
[10] Ministry of Justice, ‘73646 – Head of Risk Assessment Data Science , Data & Analysis, Ministry of Justice (1 role available)’. https://justicejobs.tal.net/vx/mobile-0/appcentre-1/brand-2/candidate/so/pm/1/pl/3/opp/73646-73646-Head-of-Risk-Assessment-Data-Science-Data-Analysis-Ministry-of-Justice-1-role-available/en-GB
[11] Ministry of Justice, ‘Homicide predictor modelling Full DPIA’, provided by Freedom of Information request response from the Ministry of Justice.
[12] Freedom of Information request response from the Ministry of Justice, November 2023.
[13] National Offender Management Service, ‘A compendium of research and analysis on the Offender Assessment System (OASys) 2009–2013‘ (pdf), 2015
[14] National Offender Management Service, ‘A compendium of research and analysis on the Offender Assessment System (OASys) 2009–2013‘ (pdf), 2015
[15] ‘Escalation in the severity of offending behaviour’, Ministry of Justice, Ministry of Justice Analytical Series, 2023. (https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/1152995/escalation-severity-offending-behaviour.pdf).
[16] “Escalation in the severity of offending behaviour”, Ministry of Justice, Ministry of Justice Analytical Series, 2023. (https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/1152995/escalation-severity-offending-behaviour.pdf).
[17] “Trends and drivers of homicide: Main findings”, Home Office, March 2020. https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/870188/trends-and-drivers-of-homicide-main-findings-horr113.pdf
Le opinioni espresse in questo articolo sono dell’autore.
Leggi le ultime news su: https://w3b.today
Può interessarti anche: Intelligenza artificiale: sorveglianza con la scusa della sicurezza. I piani per il 2028
Seguici su Telegram https://t.me/presskit
Seguici su Facebook https://www.facebook.com/presskit.it
Seguici su X: https://x.com/Presskit_
Copiate l’articolo, se volete, vi chiediamo solo di mettere un link al pezzo originale.
