Gli informatici guidati da Ning Zhang hanno sviluppato AntiFake, uno strumento per proteggere le registrazioni vocali dalla sintesi vocale non autorizzata.
I recenti progressi nell’intelligenza artificiale generativa hanno stimolato sviluppi nella sintesi vocale realistica. Sebbene questa tecnologia abbia il potenziale per migliorare la vita attraverso assistenti vocali personalizzati e strumenti di comunicazione che migliorano l’accessibilità, ha anche portato all’emergere di deepfake, in cui il parlato sintetizzato può essere utilizzato in modo improprio per ingannare esseri umani e macchine per scopi nefasti.
In risposta a questa minaccia in evoluzione, Ning Zhang, assistente professore di informatica e ingegneria presso la McKelvey School of Engineering presso la Washington University di St. Louis, ha sviluppato uno strumento chiamato AntiFake, un nuovo meccanismo di difesa progettato per contrastare la sintesi vocale non autorizzata prima che avvenga. . Zhang ha presentato AntiFake il 27 novembre alla conferenza dell’Association for Computing Machinery sulla sicurezza informatica e delle comunicazioni a Copenaghen, in Danimarca.
A differenza dei tradizionali metodi di rilevamento dei deepfake, utilizzati per valutare e scoprire l’audio sintetico come strumento di mitigazione post-attacco, AntiFake assume una posizione proattiva. Impiega tecniche contraddittorie per impedire la sintesi di discorsi ingannevoli rendendo più difficile per gli strumenti di intelligenza artificiale leggere le caratteristiche necessarie dalle registrazioni vocali. Il codice è liberamente disponibile per gli utenti.
“AntiFake fa in modo che quando mettiamo a disposizione i dati vocali, sia difficile per i criminali utilizzare tali informazioni per sintetizzare le nostre voci e impersonificarci”, ha detto Zhang. “Lo strumento utilizza una tecnica di intelligenza artificiale contraddittoria che originariamente faceva parte degli strumenti dei criminali informatici, ma ora la utilizziamo per difenderci da loro. Confondiamo leggermente il segnale audio registrato, lo distorciamo o lo perturbiamo quel tanto che basta affinché suoni ancora bene per gli ascoltatori umani, ma è completamente diverso dall’intelligenza artificiale.
Per garantire che AntiFake possa resistere a un panorama diversificato e in continua evoluzione di potenziali aggressori e modelli di sintesi sconosciuti, Zhang e il primo autore Zhiyuan Yu, uno studente laureato nel laboratorio di Zhang, hanno costruito lo strumento in modo che fosse generalizzabile e lo hanno testato rispetto a cinque stati di sintetizzatori vocali all’avanguardia. AntiFake ha raggiunto un tasso di protezione superiore al 95%, anche contro sintetizzatori commerciali sconosciuti. Hanno anche testato l’usabilità di AntiFake con 24 partecipanti umani per confermare che lo strumento è accessibile a popolazioni diverse.
Attualmente, AntiFake può proteggere brevi spezzoni di discorso, prendendo di mira il tipo più comune di imitazione vocale. Ma, dice Zhang, non c’è nulla che impedisca a questo strumento di essere ampliato per proteggere registrazioni più lunghe, o anche musica, nella lotta in corso contro la disinformazione.
“Alla fine, vogliamo essere in grado di proteggere completamente le registrazioni vocali”, ha detto Zhang. “Anche se non so quale sarà il futuro della tecnologia vocale basata sull’intelligenza artificiale – nuovi strumenti e funzionalità vengono sviluppati continuamente – penso che la nostra strategia di rivoltare le tecniche degli avversari contro di loro continuerà ad essere efficace. L’intelligenza artificiale rimane vulnerabile alle perturbazioni degli avversari, anche se potrebbe essere necessario modificare le specifiche ingegneristiche per mantenere questa strategia vincente”.
Yu Z, Zhai S e Zhang N. AntiFake: utilizzo dell’audio contraddittorio per impedire la sintesi vocale non autorizzata. Atti della conferenza ACM SIGSAC del 2023 sulla sicurezza informatica e delle comunicazioni, 26-30 novembre 2023. DOI: https://doi.org/10.1145/3576915.3623209. Codice: https://sites.google.com/view/yu2023antifake.
Questo lavoro è stato sostenuto dalla National Science Foundation e dall’Esercito Research Office.
La McKelvey School of Engineering della Washington University di St. Louis promuove la ricerca e l’istruzione indipendenti con un’enfasi sull’eccellenza scientifica, sull’innovazione e sulla collaborazione senza confini. McKelvey Engineering offre programmi di ricerca e di laurea di alto livello in tutti i dipartimenti, in particolare in ingegneria biomedica, ingegneria ambientale e informatica, e ha uno dei programmi universitari più selettivi del paese. Con 165 docenti a tempo pieno, 1.420 studenti universitari, 1.614 studenti laureati e 21.000 ex studenti viventi, stiamo lavorando per risolvere alcune delle più grandi sfide della società; preparare gli studenti a diventare leader e innovare nel corso della loro carriera; e di essere un catalizzatore di sviluppo economico per la regione di St. Louis e oltre.
Fonte: https://engineering.wustl.edu/news/2023/Defending-your-voice-against-deepfakes.html
Le opinioni espresse in questo articolo sono dell’autore.
Leggi le ultime notizie su www.presskit.it
Può interessarti anche: Un giornalista della CNN chiama i suoi genitori usando una voce AI, e loro pensano sia il figlio
Seguici su Facebook https://www.facebook.com/presskit.it
Seguici su Sfero: https://sfero.me/users/presskit-quotidiano-on-line
Seguici su Telegram https://t.me/presskit
Copiate l’articolo, se volete, vi chiediamo solo di mettere un link al pezzo originale.
