X ha temporaneamente bloccato la chiave di ricerca ‘Taylor Swift’ nel suo motore di ricerca interno dopo la diffusione in piattaforma di false immagini di nudo con l’artista. X si è messa al lavoro per sospendere la diffusione di queste immagini generate dall’IA e per prendere provvedimenti nei confronti dei responsabili.

“Qualcosa è andato storto, ma non preoccuparti perché non è colpa tua.” è il messaggio proposto sulla piattaforma social X al posto di contenuti per la chiave di ricerca ‘Taylor Swift‘. Stando a quanto riportato dal Wall Street Journal, la piattaforma di proprietà di Elon Musk ha deciso di bloccare i risultati delle ricerche per la chiave ‘Taylor Swift’ dopo che, nei giorni scorsi, tra i risultati sono comparsi falsi contenuti espliciti con la cantante protagonista, delle immagini fake generate dall’intelligenza artificiale.

Al momento della stesura di questo articolo – il 29 gennaio 2024 alle ore 15 – X ha ancora bloccato i risultati per la chiave di ricerca ‘Taylor Swift’. Il blocco è attivo da almeno un paio di giorni e dovrebbe essere temporaneo. Le ricerche di ‘Taylor Swift’ dovrebbero riaprire al termine della pulizia della piattaforma dalle immagini false diffuse.

Il WSJ riferisce che queste hanno iniziato ad essere condivise in piattaforma nella giornata di mercoledì scorso. Alla richiesta di informazioni, nella giornata di sabato 27 gennaio, il responsabile delle operazioni aziendali di X, Joe Benarroch, ha risposto al WSJ:

“Si tratta di un’azione temporanea e viene eseguita con molta cautela poiché diamo priorità alla sicurezza su questo problema”.

X ricorda di avere una politica di ‘tolleranza zero‘ nei confronti di immagini di nudo non consensuale

Anche senza menzionare il caso che ha coinvolto l’artista Taylor Swift, il team della sicurezza di X (@Safety) ha condiviso nella giornata del 26 gennaio un post per ricordare che non è consentito pubblicare immagini di nudo non consensuale su X. Nello stesso post X ha riferito di essere al lavoro per rimuovere i contenuti che violano questa politica di “tolleranza zero” e per prendere dei provvedimenti nei confronti degli account che li hanno condivisi.

“Pubblicare immagini di Non-Consensual Nudity (NCN) è severamente vietato su X e abbiamo una politica di tolleranza zero nei confronti di tali contenuti. I nostri team stanno rimuovendo attivamente tutte le immagini identificate e adottando le azioni appropriate contro gli account responsabili della loro pubblicazione. Stiamo monitorando attentamente la situazione per garantire che eventuali ulteriori violazioni vengano immediatamente affrontate e che i contenuti vengano rimossi. Ci impegniamo a mantenere un ambiente sicuro e rispettoso per tutti gli utenti.”

Bisogna mettere un freno all’uso sregolato dell’IA?

Il caso che ha coinvolto Taylor Swift – l’artista musicale dell’anno 2023 per Apple Music – va ad alimentare il dibattito in corso tra chi è a favore e chi è contrario all’apertura dell’uso sregolato dell’Intelligenza Artificiale per farci qualsiasi cosa.

Oltre che per la creazione di immagini di nudo senza consenso, l’IA generativa si utilizza anche per portare avanti truffe. Addirittura, ci sono truffatori che usano l’IA generativa per replicare volti e voci di personaggi famosi per ingannare le loro potenziali vittime.