In seguito agli attacchi terroristici in Nuova Zelanda, Facebook ha deciso di esaminare che cosa potrebbe fare di più per limitare i suoi servizi dall’essere utilizzati per causare danni o diffondere odio. Come risultato di questa analisi, a partire da oggi, le persone che hanno infranto alcune regole su Facebook – inclusa la politica della piattaforma sulle organizzazioni e persone pericolose – saranno limitate dall’uso di Facebook Live, il servizio che consente di trasmettere in diretta streaming.

Stando a quanto riportato da Guy Rosen, VP Integrity, di Facebook, in un post sul blog dell’azienda, affrontare queste minacce richiede anche che l’innovazione tecnica resti al passo con il tipo di manipolazione dei media contraddittorio sempre piu’ frequente, ad esempio quando alcune persone riescono a modificare un video precedentemente rimosso per evitare che venga bloccato dal sistema in automatico tentando di ripubblicarlo (quando un video viene rimosso, Facebook ha un sistema che controlla che lo stesso video non venga ripubblicato).

Nel suo blogpost, Rosen ha spiegato, nel dettaglio, che una delle sfide affrontate dalla società nei giorni successivi all’attacco in Nuova Zelanda è stata la proliferazione di molte varianti del video dell’attacco. Le persone – non sempre intenzionalmente – hanno condiviso le versioni modificate del video, cosa che ha reso difficile l’individuazione di questi da parte del sistema. Nonostante siano state implementate una serie di tecniche per trovare alla fine queste varianti, tra cui una tecnologia di abbinamento audio e video, Facebook si è resa conto che questo è un settore in cui deve investire in ulteriori ricerche.

Secondo Facebook, lo stare al passo con la tecnologia, quindi, richiederà una ricerca guidata attraverso l’industria e il mondo accademico, motivo per il quale Facebook ha deciso di investire 7,5 milioni di dollari in nuove partnership di ricerca con accademici di spicco di tre università (con l’Università del Maryland, la Cornell University e l’Università della California, a Berkeley), al fine di riuscire a migliorare la tecnologia di analisi di immagini e video che gli utenti della piattaforma cercano di condividere.

Le nuove restrizioni per Facebook Live

Facebook ha condiviso che Facebook Live viene utilizzato nella maggior parte dei casi per scopi positivi, come condividere un momento con gli amici o sensibilizzare per una causa di cui si preoccupano. Tuttavia, Live potrebbe essere abusato per scopi che non rispettano le norme, e Facebook sa di dover prendere dei provvedimenti per evitare questo.

Prima di oggi, se qualcuno ha pubblicato contenuti che violavano gli standard della community di Facebook – in diretta o altrove – la società rimuoveva i post. Se continuavano a postare contenuti in violazione degli standard, la società gli impediva di utilizzare Facebook per un certo periodo di tempo, compresa la possibilità di trasmettere Live. E in alcuni casi, la società bandiva dal social netowrk completamente gli utenti dai suoi servizi, sia a causa di ripetute violazioni di basso livello, sia, in rari casi, a causa di un’unica grave violazione.

Ora, Facebook ha comunicato di aver deciso di rafforzare le regole che si applicano specificamente al servizio Live, per il quale verrà applicata da ora una politica che prevede che, chiunque viola le politiche più serie della community di Facebook, sarà limitato dall’uso di Live per determinati periodi di tempo, ad esempio 30 giorni, a partire dalla prima violazione. In un esempio concreto condiviso da Rosen, qualcuno che condivide un collegamento con una dichiarazione di un gruppo terroristico senza contesto verrà immediatamente bloccato dall’uso di Live per un determinato periodo di tempo. La società ha intenzione di estendere queste restrizioni ad altre aree nelle prossime settimane, iniziando con l’impedire a quelle stesse persone di creare annunci su Facebook.

"Riconosciamo la tensione tra le persone che preferirebbero un accesso senza restrizioni ai nostri servizi e le restrizioni necessarie per mantenere le persone al sicuro su Facebook" ha commentato Rosen. "Il nostro obiettivo è ridurre al minimo il rischio di abuso di Live, consentendo alle persone di utilizzare Live in modo positivo ogni giorno."