Deepfake: con la voce del nipotino o di persone care, realizzate con l’intelligenza artificiale, si baypassa la nostra parte razionale, Sebastiano Battiato

Il fenomeno dei deepfake non sempre è facile da individuare. “Quello che sputa fuori è qualcosa che ci spaventa,” ha detto il professor Sebastiano Battiato, ordinario di informatica presso l’Università di Catania, al “AI e manomissioni delle informazioni, discriminazioni, fake news e rischi per la democrazia”, organizzato dall’Ordine degli Avvocati di Milano,  spiegando che i deepfake bypassano la parte razionale del cervello umano e colpiscono direttamente i nostri punti più vulnerabili. Battiato ha fatto un esempio concreto: “Quindi quando mi arriva la telefonata del capo ufficio piuttosto che del nipotino in cui la voce è chiaramente artefatta, io neanche ci penso che possa essere un tentativo di truffa.”

“Nel momento in cui un deepfake raggiunge il nostro cervello, il nostro sistema cognitivo, va dritto alla parte emozionale, bypass la parte razionale, va dritta a colpirci su quello con cui noi siamo meno pronti a difenderci”.

Il professor Sebastiano Battiato  ha sottolineato l’importanza e la complessità del momento storico che stiamo vivendo. “Siamo di fronte a un momento storico particolarmente delicato, siamo nel pieno di una rivoluzione industriale,” ha affermato Battiato, mettendo in luce come questa trasformazione sia diversa dalle precedenti rivoluzioni industriali.

Secondo il professore, ci troviamo ad affrontare strumenti nuovi e potenti, che la società fatica a governare. “Non c’è solo un elefante nella stanza, abbiamo anche una balena,” ha dichiarato, utilizzando una metafora per illustrare la portata e la complessità delle sfide poste dall’intelligenza artificiale.

Battiato ha spiegato che gli esseri umani, definiti “biologici, diciamo analogici”, non riescono a comprendere appieno la portata di ciò che sta accadendo. Ha descritto l’intelligenza artificiale come una “enorme macchina calcolatrice che macina dati a una velocità impressionante”, sottolineando come il termine “intelligenza” possa essere fuorviante, perché è esso stesso un misleading rispetto a quello che poi in realtà è un’enorme macchina calcolatrice che macina dati a una velocità impressionante. Noi siamo basiti perché quello che sputa fuori è qualcosa che ci spaventa, ci spaventa perché se parla di bias cognitivi”.

Il professore sostiene che questi aspetti, sebbene a volte banalizzati, rappresentino una sfida significativa e destabilizzante rispetto a queste nuove tecnologie. La sua analisi ha messo in luce la necessità di un’adeguata comprensione e gestione delle innovazioni tecnologiche per evitare i rischi associati alla manipolazione delle informazioni.