Servirà per il riconoscimento facciale e non solo. Macron vuole blindare Parigi con l’intelligenza artificiale. L’esecutivo intende autorizzare per la prima volta in Francia l’installazione di telecamere “aumentate”, sia per la videosorveglianza che per equipaggiare i droni, e questo in via sperimentale, fino al 2025, cioè dopo le Olimpiadi. Concretamente, gli algoritmi consentiranno di individuare movimenti di folla o comportamenti ritenuti anomali, per denunciarli automaticamente alle forze dell’ordine, che potranno decidere di agire, se lo riterranno necessario.
L’associazione La quadrature du net, ferocemente contraria al provvedimento, sostiene da parte sua che “questa tecnologia trasforma il nostro rapporto con lo spazio pubblico e moltiplica le capacità di controllo e repressione della polizia”, temendo, “a lungo termine, l’identificazione dal riconoscimento facciale in tempo reale e dalla massificazione della verbalizzazione video”.
I senatori hanno approvato il testo in commissione, nonostante le preoccupazioni, “data la portata e l’eccezionalità dell’evento”. Si inizia sempre così.
La maggioranza, però, ha voluto inquadrare un po’ di più la tecnologia, ammesso che sia possibile. “Abbiamo adottato soprattutto emendamenti di precisione che rafforzano le garanzie, in particolare sia sull’attuazione del trattamento algoritmico, sia sull’informazione del pubblico sull’uso di tale trattamento”, spiega il senatore della Seine-Maritime. “Abbiamo rafforzato il controllo del Cnil, in particolare il “sandbox”, cioè il momento in cui progettiamo e sviluppiamo gli algoritmi, durante tutto il processo”, che a questo punto non era previsto. Agnès Canayer insiste:
Il Cnil può avere il pieno controllo sullo sviluppo di questi algoritmi, e controllare il loro scopo e gli eventi predeterminati.
Gli “eventi predeterminati” definiti con decreto, dopo l’esame in Parlamento
Questi “eventi predeterminati” di cui parla il relatore sono le situazioni che saranno individuate automaticamente dal sistema. Ma non sono definiti direttamente nel testo. Una volta adottata la legge, il governo emanerà un “decreto” che fisserà “le caratteristiche essenziali del trattamento. In particolare, indica gli eventi predeterminati che lo scopo del trattamento è segnalare”, recita il testo del disegno di legge.
Non dovrebbe essere visto come un rischio, lasciando che sia l’esecutivo a determinare questi dettagli sensibili dopo il dibattito parlamentare? “No, per noi è soddisfacente. Nel testo è incorniciato. Gli eventi predeterminati sono quelli suscettibili di presentare o far sorgere rischi di grave danno per la sicurezza delle persone e di atti terroristici. Ad esempio, un movimento di folla anomalo, persone che salgono nella direzione sbagliata, oggetti in giro sulla strada pubblica, persone che hanno il volto nascosto o portano un utensile dannoso”, dettaglia Agnès Canayer, o anche “persone che corrono in una modo sbagliato, o in modo anomalo”.
Dove impostare il limite?
Il testo dice il contrario. “Quando il sistema di intelligenza artificiale utilizzato è basato sull’apprendimento, vengono fornite garanzie affinché i dati di apprendimento, convalida e test scelti siano pertinenti, adeguati e rappresentativi, la loro elaborazione equa, obiettiva e di natura tale da identificare e prevenire il verificarsi di pregiudizi ed errori.
Dove impostare il limite? Non c’è il rischio di una valutazione a geometria variabile? Anche lì nessuna preoccupazione secondo il relatore: “Questa fase è quella del disegno dell’algoritmo. Deve essere progettato in conformità con gli obiettivi. Abbiamo reintrodotto una questione di proporzionalità con il fine voluto”.
I senatori hanno anche rimosso dalla legge la nozione di “intelligenza artificiale”, “perché attualmente non esiste nel corpus giuridico francese ed è in fase di definizione a livello europeo”, si legge nell’emendamento, che propone invece il termine “elaborazione algoritmica”. Va notato che l’esperimento riguarda anche altri eventi sportivi, ricreativi o culturali.
Le critiche e le perplessità al provvedimento sono molto forti.
Fonte: https://fr.news.yahoo.com/intelligence-artificielle-s%C3%A9curiser-jo-paris-174402607.html
Leggi le ultime notizie su www.presskit.it
Può interessarti anche: L’intelligenza artificiale può produrre grandi quantità di disinformazione, Giacomo Miceli su Scientific America
Seguici su Facebook https://www.facebook.com/presskit.it
Seguici su Telegram https://t.me/presskit
