Kevin Bankston ha raccontato su Twitter la sua esperienza con Gemini, le risposte degli utenti sono state contrastanti
Gemini, il chatbot di Google che usa l’intelligenza artificiale è stata accusata di aver scansionato file PDF ospitati su Google Drive senza autorizzazione, innescando nuove polemiche sui problemi di sicurezza e privacy dell’intelligenza artificiale.
La vicenda
Tutto è partito da una esperienza vissuta dal consulente senior sulla governance dell’intelligenza artificiale, Kevin Bankson, che ha condiviso su X le proprie preoccupazioni su un riepilogo dell’intelligenza artificiale generato automaticamente mentre stava consultando una dichiarazione dei redditi privata e riservata. Il thread di Bankston descriveva in dettaglio la sua esperienza con Gemini AI in cui sono stati letti documenti privati senza consenso oltre ai problemi nel disabilitare la funzionalità sulla piattaforma di archiviazione cloud.
Nonostante i tentativi di disabilitare la funzione, Bankston ha scoperto che Gemini continuava a operare su Google Drive, sollevando dubbi sulla gestione dei dati degli utenti e sulle impostazioni sulla privacy da parte di Google. Dopo aver fallito nella ricerca della modalità per disabilitare l’integrazione di Gemini, l’Advisor ha chiesto in due occasioni al chatbot AI di Google, rivale di ChatGPT, di individuare le impostazioni senza ottenere risultati apprezzabili.
Bankston ha affermato che, dopo aver aperto una dichiarazione dei redditi come file PDF in Google Docs, Gemini ha fornito un riassunto delle sue tasse senza che nessuno glielo avesse chiesto. Kevin sostiene di non aver mai interpellato Gemini e di non aver fornito informazioni al riguardo. Con l’aiuto di un altro utente X, Bankston ha trovato il controllo, che era già disabilitato, evidenziando un controllo malfunzionante o indicando che ulteriori impostazioni sono nascoste altrove.
Secondo lo stesso Bankston, la sua precedente partecipazione a Google Workspace Labs potrebbe aver influenzato il comportamento di Gemini. Il pannello laterale Gemini in Google Drive per PDF può essere chiuso se un utente non desidera più accedere ai riepiloghi dell’intelligenza artificiale generativa.
Sebbene Google prometta di gestire i dati degli utenti in modo sicuro e protetto, il caso riafferma l’importanza del consenso e del controllo da parte dell’utente mentre l’intelligenza artificiale continua ad avanzare e diventa sempre più profondamente radicata nei prodotti che utilizziamo ogni giorno.
La considerazione di un portavoce di Google in merito alla vicenda
Un portavoce di Google ha condiviso con TechRadar Pro in un’e-mail il proprio pensiero su quanto accaduto: “Le nostre funzionalità di intelligenza artificiale generativa sono progettate per offrire agli utenti la scelta e mantenere il controllo dei propri dati. L’utilizzo di Gemini in Google Workspace richiede che un utente lo abiliti in modo proattivo e quando esegue i propri contenuti viene utilizzato in modo da preservare la privacy per generare risposte utili alle richieste, ma non viene altrimenti archiviato senza autorizzazione.”
