Quando qualcuno condivide immagini intime senza il consenso altrui o minaccia di farlo, la vittima può sentirsi sconvolta e sopraffatta. Per una persona puo’ essere davvero devastante trovare delle proprie immagini intime condivise online senza il suo permesso. A protezione di queste vittime, Facebook per lungo tempo ha adottato la politica di rimozione di immagini intime non consensuali (note anche come “revenge porn”) dopo che gli sono state segnalate e negli ultimi anni ha usato la tecnologia del photo-matching per evitarne la ricondivisione. Per trovare questi contenuti più rapidamente e supportare al meglio le vittime, Facebook ha ora annunciato una nuova tecnologia di rilevamento e un centro di risorse online per aiutare le persone a rispondere quando subiscono questo tipo di abusi.

Trovare immagini intime non consensuali va oltre il rilevamento della nudità sulle piattaforme di Facebook. Grazie all’apprendimento automatico e all’intelligenza artificiale, ora la società è in grado di rilevare in modo proattivo immagini o video che vengono condivisi senza autorizzazione dell’interessato su Facebook e Instagram. Questo significa che Facebook è in grado di trovare questi contenuti ancora prima che qualcuno li segnali, cosa importante perchè spesso le vittime hanno paura di ritorsioni, per cui evitano di segnalare il contenuto in cui sono presenti, o non sanno che il contenuto è stato condiviso.

C’è del personale umano appositamente formato del team di Community Operations di Facebook ad ocuparsi di controllare i contenuti individuati dalla tecnologia. Se una immagine o un video viola gli Standard della Comunità, viene rimosso e nella maggior parte dei casi vengono anche disabilitati gli account che hanno condiviso contenuti intimi senza autorizzazione. Facebook non esclude che potranno essere commessi degli errori nelle valutazioni, quindi offrirà la possibilità di fare appello a chi, magari, si troverà accusato di avere condiviso contenuti di revenge porn ma che in realtà non lo sono.

Questa nuova tecnologia di rilevamento si aggiunge al programma pilota di Facebook gestito in collaborazione con le organizzazioni che sostengono le vittime di revenge porn per offrire alle persone un’opzione di emergenza per inviare proattivamente e in modo sicuro alla società una foto che temono possa essere diffusa. Per impedire che la foto venga condivisa sulla piattaforma, viene creata un’impronta digitale di quell’immagine. Avendo ricevuto un riscontro positivo dalle vittime e dalle organizzazioni di supporto, nei prossimi mesi Facebook amplierà questo progetto pilota cosi’ un maggior numero di persone potrà beneficiare di questa opzione in caso di emergenza.

Volendo fare ancora di più per aiutare le persone che sono state oggetto di questi abusi, Facebook lancia "Non senza il mio consenso" (https://www.facebook.com/safety/notwithoutmyconsent/), un centro di supporto alle vittime all’interno del Safety Center sviluppato da Facebook insieme ad esperti dove le vittime possono trovare organizzazioni e risorse capaci di offrire loro sostegno, tra cui strumenti da utilizzare per rimuovere il contenuto dalla piattaforma e impedirne l’ulteriore condivisione.

Su Facebook, Instagram o Messenger, quando qualcuno condivide immagini intime senza il consenso o minaccia di farlo, la vittima puo’ inviare una segnalazione: su Facebook usando il link "Segnala" che viene visualizzato quando si tocca la freccia verso il basso o "…" accanto ad un post. Se si è preoccupati del fatto che qualcuno possa condividere immagini intime proprie su Facebook, Instagram o Messenger, anche se non l’ha ancora fatto, e si ha accesso queste immagini, è possibile contattare uno dei partner di Facebook che possono aiutare ad evitare che tali immagini vengano condivise.

Facebook ha in programma di rendere prossimamente più facile e intuitivo per le vittime segnalare delle loro immagini intime condivise su Facebook senza proprio consenso. Nei prossimi mesi, inoltre, Facebook svilupperà strumenti di supporto alle vittime per fornire maggiori informazioni con un sostegno locale e culturalmente rilevante, in collaborazione con la Revenge Porn Helpline (Regno Unito), la Cyber Civil Rights Initiative (USA), la Digital Rights Foundation (Pakistan), la SaferNet (Brasile) e il professor Lee Ji-yeon (Corea del Sud).

A chi si trova vittima del revenge porn, o è minacciato da qualcuno, gli esperti consigliano di seguire alcuni di questi passaggi preliminari: contattare le forze dell’ordine locali se si è preoccupati della propria sicurezza fisica o delle persone amate; circondarsi di amici, familiari o altre persone che possono aiutare ad affrontare questo percorso; fare degli screenshot e stampare le pagine di foto e minacce prima di decidere di eliminare le immagini (in alcuni luoghi potrebbe essere illegale pubblicare o minacciare di pubblicare contenuti del genere e si potrebbe aver bisogno di uno screenshot o altre testimonianze del post da mostrare come prova se si procederà per vie legali); provare a cercare ulteriore assistenza o aiuto.