“Il rischio di guasto delle armi autonome di fronte a circostanze impreviste dovrebbe essere valutato elevato”, rapporto Public Citizen

“Sulla base dell’esperienza del mondo reale con l’intelligenza artificiale, il rischio di guasto delle armi autonome di fronte a circostanze impreviste (uno “sconosciuto sconosciuto”) dovrebbe essere valutato elevato. Anche se è improbabile che le macchine si rivoltino contro i loro creatori, in stile Terminator, potrebbero funzionare in modi pericolosi e del tutto imprevisti – un rischio inaccettabile nel contesto del dispiegamento di forza letale”, si legge sul rapporto Public Citizen sulle armi e l’intelligenza artificiale.

Un problema cruciale è che le IA non sono in grado di utilizzare il buon senso o la ragione basata sull’esperienza passata in circostanze nuove e impreviste.

L’esempio delle auto a guida autonoma è illustrativo, in particolare quello di un veicolo Cruise a guida autonoma che entra e rimane bloccato nel cemento bagnato a San Francisco. Il problema, spiega l’esperto di intelligenza artificiale Gary Marcus, sono i “casi limite”, circostanze fuori dall’ordinario che spesso confondono gli algoritmi di apprendimento automatico. Più un dominio è complicato, più tendono ad essere valori anomali imprevisti. E il mondo reale è davvero complicato e disordinato; non c’è modo di elencare tutte le cose pazzesche e fuori dall’ordinario che possono accadere.” È difficile immaginare un ambito più complicato e imprevedibile del campo di battaglia, soprattutto quando questi campi di battaglia si verificano in ambienti urbani o sono occupati da un numero considerevole di civili.

Il rapporto si conclude con una serie di raccomandazioni:
1. Gli Stati Uniti dovrebbero impegnarsi a non sviluppare o schierare armi autonome e dovrebbero sostenere un trattato globale che vieti tali armi.
2. Gli Stati Uniti dovrebbero codificare l’impegno secondo cui solo gli esseri umani possono lanciare armi nucleari.
3. I deepfake dovrebbero essere banditi dal campo di battaglia.
4. La spesa per le tecnologie di intelligenza artificiale dovrebbe provenire dal budget già gonfio e dispendioso del Pentagono, non da stanziamenti aggiuntivi.

Fonte

Le opinioni espresse in questo articolo sono dell’autore.

Leggi le ultime news su: https://w3b.today

Può interessarti anche: Quattro possibili errori letali delle armi autonome gestite dall’intelligenza artificiale

Seguici su Telegram https://t.me/presskit

Seguici su Facebook https://www.facebook.com/presskit.it

Copiate l’articolo, se volete, vi chiediamo solo di mettere un link al pezzo originale.