Demostren que Google analitza converses privades gravades pel seu assistent de veu

Moltes de les converses entre un usuari I l'assistent de veu de Google són gravades i analitzades per treballadors humans, segons revela un reportatge d'investigació de VRT, la televisió pública belga en flamenc.

Google Home és un altaveu intel·ligent que permet controlar amb la veu diversos aparells. Es va llençar al mercat el 2016 i ara el tenen milions de persones de nombrosos països que parlen llengües diferents.

El periodista Tim Verheyden va tenir accés a més de mil talls de veu en neerlandès que corresponien a ordres donades a l'assistent o bé a converses a casa o a la feina, aconseguides per Google Home a partir de telèfons, altaveus o càmeres de seguretat.

A moltes de les gravacions es podia sentir clarament l'adreça i altra informació privada dels usuaris. Això va permetre al periodista localitzar algunes de les persones, que van reconèixer de manera inequívoca que era la seva veu. Dimecres Verheyden va publicar un tuit en què donava a conèixer el reportatge i explicava que les seves troballes havien estat confirmades per tres fonts independents i per Google:

Like Amazon, Google employees are eavesdropping I discovered with my team. Confirmed by 3 sources and Google. One transcriber speaks out. https://t.co/1FuXhRePgA #vrtnws

— Tim Verheyden (@timverheyden) 10 de juliol de 2019

Sistema per millorar el servei

Els sistemes de comandament amb veu sovint fan gravacions per poder millorar el servei. La pronunciació de cada persona pot ser diferent i el tipus de veu, l'accent, les varietats dialectals o el moment i condicions en què es parla poden fer que una màquina no entengui de forma clara una ordre. L'anàlisi, feta per robots i per humans, ajuda, segons Google, a millorar contínuament el servei.

Per això, Google té milers de treballadors subcontractats a tot el món per revisar els àudios transcrits. A Flandes i a Holanda hi ha una dotzena de persones que fan aquesta feina. La cadena VRT va poder contactar amb una d'aquestes persones, que els va facilitar les gravacions i els va explicar el procés.

Segons Google, els talls de veu estan separats de la resta d'informació que permetria identificar l'usuari. Però si el missatge conté aquesta informació, es inevitable sentir-la. I en alguns casos el treballador ha de comprovar-la per assegurar-se com s'escriu o es pronuncia un cognom o el nom d'una empresa, població o carrer.

L'usuari accepta que els seus missatges siguin gravats per millorar el servei. Però, segons VRT, en l'informe de privacitat no s'especifica que alguns seran analitzats per persones i no per màquines.
 

Activat de forma accidental

D'altra banda, VRT explica que moltes vegades el sistema s'activa de forma accidental o per error. Per tant, pot gravar converses sense que l'usuari o usuaris en siguin conscients. I aquest és el problema, segons Verheyden:

"L'anàlisi de les nostres veus per Google és totalment acceptable, però no ho és escoltar-nos en els moments més íntims sense que ho sapiguem".

VRT explica que del més de miler de converses escoltades, n'hi havia 153 que no haurien d'haver estat enregistrades perquè no s'havia donat l'ordre "Okay Google". I això fa que hagin pogut sentir detalls de tota mena:

"Això significa que moltes converses són enregistrades de manera no intencionada: converses de dormitori o converses entre pares i fills, però també discussions fortes i trucades professionals amb molta informació sensible."

Les persones que analitzen els missatges també poden sentir sovint encàrrecs de materials pornogràfics, consultes mèdiques o fins i tot algú  que es troba en situació de perill. El protocol no explica què cal fer en aquest darrer cas.
 

On van a parar les dades?

Un altre dels problemes és que, com amb totes les dades que circulen, no se sap a quines mans aniran a parar, encara que s'insisteixi en la privacitat. Google mateix ho explica així:

"És possible que els serveis de tercers comparteixin informació amb Google Home d'acord amb les seves pròpies polítiques de privacitat quan decideixis utilitzar-los mitjançant Google Home."

A la pràctica, això pot significar que l'usuari no només ha de consultar la política de privacitat de Google, sinó també la de totes les empreses o serveis que contacti a través de Google Home.

I la privacitat és el que ha esmentat Google en resposta al reportatge de VRT. David Monsees, "product manager" de Google Search, va escriure dijous en un blog: "Acabem de saber que un d'aquests revisors de llenguatge ha violat les nostres polítiques de seguretat filtrant àudios confidencials en holandès". I ha anunciat que ho estan investigant per prendre mesures.

Per la seva banda, un portaveu de Google a Bèlgica ha explicat que només es transcriu una petita part dels àudios, al voltant del 0,2% del total, i que no estan relacionats amb informació personal o identificable. També insisteix que això és crucial per desenvolupar tecnologies com Google Home.

Verheyden explicava en un altre tuit les raons de Google per fer gravacions:

Follow up: Google explains why it let humans listen. "Not addressed in the blog post is how the number of overall requests workers around the world are reviewing for general natural language improvements & not just to make sure translations are accurate" https://t.co/LiLfE1QIZc

— Tim Verheyden (@timverheyden) 12 de juliol de 2019

El cas de Google Home no és l'únic que ha despertat aquesta controvèrsia. A l'abril Bloomberg va revelar que Amazon també contracta persones perquè analitzin les ordres donades al seu assistent Alexa i que Apple fa el mateix amb el seu Siri.