Sempre più IA dentro TikTok, la nuova funzione non è ancora uscita e già è polemica

Un leaker ha trovato dentro TikTok una nuova funzione per i creativi ma i problemi eventuali di sicurezza fanno già discutere.

Secondo quanto rintracciato nell’ultima versione dell’app TikTok per gli utenti Android c’è in arrivo una funzione in grado di clonare la voce di un utente per poterla così utilizzare all’interno dei video. Si tratta di una nuova implementazione dell’intelligenza artificiale all’interno del social. Ma è anche un nuovo possibile strumento per attività malevole. Cerchiamo quindi di bilanciare l’entusiasmo con un po’ di sano scetticismo.

TikTok può copiare la tua voce

Non è una funzione che si trova ancora attiva. AssembleDebug, noto leaker, l’ha rintracciata nelle pieghe del codice sorgente della nuova versione dell’app per Android. Ed è riuscito anche ad avviare le schermate che parlano più da vicino del servizio. La prima schermata è quella in cui all’utente viene chiarito che il servizio serve a creare in “10 secondi” una copia virtuale pressoché perfetta della propria voce, con una registrazione della durata di appena 15 secondi.

Questa voce clonata viene poi inserita in una cosa che la società chiama Voice Library, da cui può essere utilizzata. Quello che però fa riflettere sono i termini di utilizzo delle voci. Una volta che queste entrano proprio nella Voice Library, si legge diventano disponibili nei fatti anche ad altri utenti.

Ed è forse questo il motivo per cui, all’inizio della procedura con cui si potrà accettare di creare il proprio clone vocale virtuale, TikTok scrive chiaramente che i termini presenti nelle schermate sono termini legali vincolanti che vanno letti e che vanno compresi. Ovviamente la società chiarisce che si può comunque cancellare la propria voce. Unico neo è che, se la voce è stata utilizzata in qualche video, il video non sparisce

Il pericolo deep fake

Il sistema con cui TikTok sembra voler lavorare con l’intelligenza artificiale all’interno della propria piattaforma è un sistema che risulta all’apparenza estremamente semplice. Forse fin troppo. Sotto il messaggio che AssembleDebug ha affidato al social che una volta era dell’uccellino azzurro, i messaggi sono più divertiti forse che preoccupati. Un utente che scrive “cosa potrebbe andare storto” e un altro che commenta invece “guardiamo come si distruggono amicizie e famiglie in 3 2 1…”.

E questi messaggi sono solo una prima spia di ciò di cui dovremo preoccuparci, se e quando la funzione di TikTok dovesse diventare disponibile per tutti. Perché se è possibile ricreare la voce di un essere umano con un audio di 15 secondi, questo in buona sostanza significa che è tecnicamente possibile creare in meno di un minuto una voce totalmente fake che dica frasi di ogni tipo con la voce di un amico o di un parente (per non parlare dei deepfake che potrebbero avere come oggetto personaggi famosi). Oltre ai brutti scherzi rischiamo di vedere picchi di truffe fatte utilizzando quello che dovrebbe essere un innocuo strumento per creativi?