Alexa je nainštalovaná na viac ako 100 miliónoch zariadení po celom svete a získava miliardy používateľských dopytov. Rovnako ako všetci digitálni asistenti, aj Alexa sa spolieha na dátové modely, ktoré ponúkajú lepšie odpovede, ale vyzerá to, že Amazon tiež poskytol digitálnemu asistentovi pomocnú ruku vo forme ľudských recenzií. Vyšetrovanie Bloombergu ukázalo, že Amazon má globálny tím, ktorý prepisuje a anonuje nahrávky Alexa z celého sveta, aby „odstránil medzery v Alexovom chápaní ľudskej reči“ a umožnil asistentovi obslúžiť lepšie odpovede na vaše otázky.
Publikácia zistila, že Amazon zamestnáva tisíce ľudí na celom svete - dodávateľov aj zamestnancov na plný úväzok - na kontrolu nahrávok Alexa s tímami rozmiestnenými po Bostone, Kostarike, Indii a Rumunsku. Podľa nejmenovaného zdroja každý recenzent analyzuje viac ako 1 000 zvukových klipov počas deväťhodinovej zmeny, pričom ich komentuje a privádza ich späť do systému na zlepšenie Alexových reakcií. Z Bloombergu:
Jeden pracovník v Bostone povedal, že ťažil nahromadené hlasové údaje pre konkrétne výpovede, ako napríklad „Taylor Swift“, a pridal ich, aby naznačil, že hľadajúci myslel hudobného umelca.
Poslucháči občas vyzdvihnú veci, ktoré by vlastníci Echo pravdepodobne zostali súkromní: žena, ktorá spieva zle, povedzme, alebo dieťa kričí o pomoc. Tímy používajú interné chatovacie miestnosti na zdieľanie súborov, keď potrebujú pomoc pri analýze chybného slova - alebo ak narazia na zábavnú nahrávku.
Publikácia tiež zistila, že zamestnanci sa stretávajú s nahrávkami, ktoré majú rušivý charakter:
Niekedy začujú nahrávky, ktoré považujú za znepokojujúce alebo pravdepodobne za trestné. Dvaja z pracovníkov uviedli, že si vybrali to, čo považujú za sexuálne napadnutie. Keď sa niečo také stane, môžu zdieľať skúsenosti vo vnútornej chatovacej miestnosti ako spôsob na zmiernenie stresu.
Amazon tvrdí, že má zavedené postupy, podľa ktorých sa majú pracovníci riadiť, keď počujú niečo nepríjemné, ale dvaja zamestnanci so sídlom v Rumunsku uviedli, že po tom, čo požiadali o pomoc v takýchto prípadoch, im bolo povedané, že nie je úlohou Amazonu zasahovať.
Záznamy neobsahujú celé meno ani adresu používateľa, ale zahŕňajú meno používateľa, číslo účtu a sériové číslo zariadenia. Amazon už skôr spomínal, že sa spolieha na spracovanie prirodzeného jazyka, aby školil Alexu, ale priznal Bloombergovi, že používa ľudský prvok na označenie „malej vzorky zvukových záznamov Alexa:“
Bezpečnosť a súkromie osobných údajov našich zákazníkov berieme vážne. Za účelom zlepšenia spokojnosti zákazníkov používame iba veľmi malú ukážku hlasových záznamov Alexa. Tieto informácie nám napríklad pomáhajú trénovať naše systémy rozpoznávania reči a porozumenia prirodzenému jazyku, takže Alexa môže lepšie porozumieť vašim požiadavkám a zabezpečiť, aby služba fungovala dobre pre všetkých.
Máme prísne technické a prevádzkové záruky a uplatňujeme politiku nulovej tolerancie pri zneužívaní nášho systému. Zamestnanci nemajú priamy prístup k informáciám, ktoré môžu identifikovať osobu alebo účet ako súčasť tohto pracovného postupu. So všetkými informáciami sa zaobchádza veľmi dôverne a používame viacfaktorovú autentifikáciu na obmedzenie prístupu, šifrovania služieb a auditov nášho kontrolného prostredia na ich ochranu.
Nie je to len Amazon, ktorý sa obracia na pomocníkov pri vývoji svojho digitálneho asistenta. Bloomberg zistil, že Apple má aj ľudský tím, ktorý kontroluje, či interpretácia žiadostí Siri zodpovedá tomu, čo používatelia požadovali. Spoločnosť Google má recenzentov, ktorí školia asistenta, ale klipy nemajú žiadne informácie umožňujúce identifikáciu osôb a samotný zvuk je skreslený, aby sa zabránilo akejkoľvek identifikácii.
