Voce e intelligenza artificiale: i rischi del deep fake audio

L’intelligenza artificiale è ormai in grado di creare voci e generare deep fake audio estremamente realistici, difficili da smascherare. Come possiamo capire se un contenuto è autentico?

Vero o falso? È questa la domanda che ci poniamo sempre più frequentemente di fronte ai contenuti che circolano sul web.
La rapida diffusione negli ultimi anni di software basati sull'Intelligenza Artificiale ha portato alla creazione di immagini, video e persino audio deepfake sempre più sofisticati e difficili da distinguere dagli originali, causando non pochi problemi agli utenti e ai professionisti dell'informazione.

Ma esiste un modo per verificare l'autenticità di un contenuto?

Deep fake audio: non credere a tutto quello che senti!

Il termine deepfake è nato nel 2017, inizialmente associato alla diffusione di video divertenti in cui i volti di attori venivano sovrapposti a quelli degli interpreti originali. Tuttavia, ben presto i deepfake hanno trovato applicazione in contesti sempre più controversi.

Un esempio interessante riguarda i deepfake audio, utilizzati anche in ambito musicale. La musicista Holly Herndon, ad esempio, ha "clonato" la sua voce con l’intelligenza artificiale per creare brani in lingue che non conosce. Più spesso, però, i deepfake audio vengono sfruttati per truffe, con vere implicazioni legali ed etiche.

Sono molti i truffatori che ricorrono al voice cloning per creare voci con l’intelligenza artificiale, raccogliendo campioni vocali da piattaforme pubbliche come YouTube o TikTok, al fine di generare audio deep fake difficili da riconoscere.

Una delle truffe più eclatanti è avvenuta negli Emirati Arabi, dove i truffatori hanno riprodotto il modo di parlare di un direttore aziendale, riuscendo a rubare ben 51 milioni di dollari.

Ovviamente, l’intelligenza artificiale applicata all’audio può avere anche dei risvolti positivi, come la possibilità di donare la propria voce a chi l’ha persa a causa di malattie degenerative, ma bisogna considerare attentamente le implicazioni etiche e i rischi legati all’uso improprio di queste tecnologie.

Come riconoscere un audio deepfake?

Per smascherare le truffe legate ai deepfake audio e visivi, un team di ricercatori dell'Università di Buffalo ha sviluppato un programma innovativo: il DeepFake-o-Meter, capace anche di verificare le voci generate dall’intelligenza artificiale.

Questa piattaforma, open-source e accessibile a chiunque con una semplice registrazione, permette di analizzare contenuti sospetti. Dai semplici utenti dei social alle forze dell’ordine, fino ai giornalisti, tutti possono utilizzare questo strumento caricando un audio, un’immagine o un video per verificarne l’autenticità.

Il processo di analisi richiede meno di un minuto e, invece di fornire una semplice risposta positiva o negativa, il DeepFake-o-Meter elabora una serie di probabilità. Indica, infatti, la percentuale di possibilità che il contenuto sia stato generato da un’intelligenza artificiale, lasciando così all’utente la decisione finale.

Con l’adozione crescente dei deepfake audio e visivi nel panorama digitale, strumenti come il DeepFake-o-Meter potrebbero diventare fondamentali per combattere la disinformazione e difendere la veridicità delle informazioni online.

Il fatto che sia open-source, poi, consente a ricercatori e sviluppatori di contribuire attivamente al miglioramento continuo della piattaforma, mantenendola aggiornata di fronte alle nuove tecnologie emergenti nel campo dell’intelligenza artificiale.

Deep fake AI: intelligenza artificiale VS intelligenza umana

Come abbiamo visto, i rischi legati alla tecnologia si possono combattere sempre con gli strumenti che essa stessa offre. Questo significa che non esistono strumenti buoni o cattivi, ma che ciò che conta è il modo in cui vengono utilizzati.
Tuttavia, sebbene programmi come DeepFake-o-Meter promettano di aiutarci a distinguere il vero dal falso, lo stesso Siwei Lyu, sviluppatore del software, ha sottolineato che questi strumenti sono fallibili e che l’intuito resta la principale risorsa cui affidarsi.

Sviluppare uno spirito critico è fondamentale, e lo è ancor di più continuare a interrogarsi costantemente sull'autenticità di ciò che vediamo o sentiamo. Solo attraverso il dubbio e l'analisi possiamo discernere la verità dall'apparenza.

In un mondo sempre più futuristico, avere il coraggio di porci domande e di mettere in discussione noi stessi e le nostre convinzioni è indispensabile per rinnovare continuamente la nostra comprensione della realtà. Solo così possiamo contribuire a una società più consapevole e pienamente connessa alle proprie responsabilità.