Amazon Alexa: persone umane ascoltano le registrazioni su cloud

Alexa è l’assistente digitale di Amazon che sta arrivando in sempre piu’ case in gran parte del mondo, Italia compresa. Dell’uso di assistenti digitali come Alexa e Google Assistant si è discusso molto per quanto riguarda la privacy tra le mura domestiche, essendo dispositivi che, di fatto, sono ‘sempre in ascolto’ per essere pronti a soddisfare le richieste degli utenti. E’ ora emerso che ci sono persone ‘umane’ che ascoltano e trascrivono le registrazioni al fine di migliorare le capacità di Alexa di capire i comandi, stando a quanto riferito da Bloomberg.

"Amazon.com Inc. impiega migliaia di persone in tutto il mondo per aiutare a migliorare l’assistente digitale Alexa che alimenta la sua linea di altoparlanti Echo" si legge nel rapporto di Bloomberg. "Il team ascolta le registrazioni vocali catturate nelle case e negli uffici dei proprietari di Echo. Le registrazioni vengono trascritte, annotate e quindi reinserite nel software come parte di uno sforzo per eliminare le lacune nella comprensione di Alexa del linguaggio umano e aiutarla a rispondere meglio ai comandi".

Da notare che Bloomberg utilizza la parola ‘registrazione’, il che significa che le trascrizioni di cui fa menzione sono le frasi che gli utenti dicono dopo avere richiamato Alexa tramite il comando di attivazione ‘Alexa’ (o ‘Amazon’ o ‘Computer’ o ‘Echo’ a seconda di quale ha scelto l’utente). Infatti, Amazon nello spiegare come gestisce la privacy delle persone ha da sempre messo in chiaro che salva nei propri server su cloud le registrazioni degli utenti dopo che hanno richiamato Alexa con l’apposito comando vocale (o se Alexa viene attivata premendo un pulsante), ma non conserva alcuna registrazione di tutto il resto: è presente un sistema all’interno degli altoparlanti Echo che attiva Alexa solo nel momento in cui il dispositivo recepisce gli impulsi sonori che corrispondono alla parola di attivazione scelta, e il tutto avviene in locale, non passando attraverso internet, quindi nessun audio viene memorizzato o inviato al cloud a meno che il dispositivo non rilevi la parola di attivazione.

Amazon Alexa: come funziona e viene gestita la privacy

Stando al rapporto di Bloomberg, quindi, ci sono dipendenti di Amazon che trascrivono le registrazioni dei comandi registrati su cloud – le frasi che gli utenti dicono dopo aver richiamato Alexa – con lo scopo di migliorare le capacità di comprensione di Alexa del linguaggio umano.

Secondo due lavoratori dell’ufficio Amazon di Bucarest fonte di Bloomberg, dei lavoratori di Amazon sono impiegati in avamposti che spaziano da Boston a Costa Rica, India e Romania per nove ore al giorno per analizzare fino a 1.000 clip audio per turno.

Un lavoratore a Boston ha dichiarato a Bloomberg di aver estratto dati vocali per espressioni specifiche come "Taylor Swift" e li ha annotati per indicare che il ricercatore intendeva l’artista musicale. E’ emerso, inoltre, che chi ascolta le registrazioni ha a disposizione procedure per quando sentono qualcosa di angosciante, ma due dipendenti con sede in Romania hanno affermato che, dopo aver richiesto una guida per tali casi, "gli è stato detto che non era compito di Amazon interferire".

Chi ascolta e trascrive le conversazioni, tuttavia, non avrebbe modo di identificare chi sta ascoltando: "Abbiamo rigorose garanzie tecniche e operative e una politica di tolleranza zero per l’abuso del nostro sistema. I dipendenti non hanno accesso diretto alle informazioni che possono identificare la persona o l’account come parte di questo flusso di lavoro. Tutte le informazioni sono trattate con alta riservatezza e utilizziamo l’autenticazione a più fattori per limitare l’accesso, la crittografia dei servizi e le verifiche del nostro ambiente di controllo per proteggerlo. "

"Quando parli ad Alexa, la registrazione di quello che hai chiesto viene trasmessa ai server di Amazon per permettere ai nostri sistemi di riconoscimento vocale e di comprensione del linguaggio di elaborare la tua richiesta e di rispondere" sono le parole esatte delle norme sulla gestione della privacy di Amazon. "Associamo le tue richieste al tuo account Amazon per permetterti di usufruire di altri servizi di Amazon (in questo modo, ad esempio, puoi chiedere ad Alexa di leggere i tuoi libri Kindle) e per offrirti un’esperienza ancora più personalizzata. Per esempio, tenere traccia delle canzoni che hai ascoltato aiuta Alexa a selezionare le canzoni da riprodurre quando le chiedi ‘Alexa, metti un po’ di musica’. (…) Possiamo anche utilizzare le tue richieste per migliorare i nostri servizi, inclusi i sistemi di riconoscimento vocale e di comprensione del linguaggio". Amazon pero’ non riporta che potrebbero esserci persone ‘umane’ impiegate per migliorare il servizio.

Ricordiamo che si puo’ sapere quando i dispositivi stanno registrando l’audio: su Amazon Echo l’anello luminoso diventa blu o un indicatore blu appare su Echo Show. Alcuni dispositivi Echo possono anche essere configurati in modo che riproducano un breve suono acustico ogni volta che l’audio viene inviato al cloud.

Inoltre, all’interno dell’applicazione Amazon Alexa nella sezione ‘Attività’ è possibile ascoltare tutte le registrazioni archiviate sul cloud di Amazon, e possono anche essere eliminate. 

Per ‘par-condicio’, anche Google conserva su cloud le registrazioni delle richieste fatte dagli utenti al suo Assistente.