Tehnoloogiahiiud kuulavad inimeste vestlusi süüdimatult pealt

Illustratsioon: Bigstockphoto.com

Hiljutised lekked kinnitavad, et tehnoloogiahiiud Google, Microsoft, Apple ja Amazon kuulavad salaja oma teenuste kasutajate, aga ka kõrvaliste isikute vestlusi pealt, saades seeläbi osa inimeste kõige intiimsematest hetkedest ning privaatsematest andmetest. Inimeste privaatsuse tagamiseks käskis nüüd Saksamaa andmekaitseamet Google’il kolmeks kuuks kasutajate pealtkuulamise Euroopa Liidus lõpetada, kuid enamus ettevõtteid jätkab siiski senise praktikaga, kuulates muuhulgas pealt nii lapsi, seksuaalsuhteid kui ka vägistamist.

Belgia riigitelevisioonile VRT lekitati möödunud kuul Google tehisintellekti põhise virtuaalse assistendi Google Assistant poolt salvestatud privaatsed vestlused. Helifailid sisaldasid arutelusid kasutajate armuelu ja laste üle ning isiklikke andmeid nagu näiteks aadresse.

Ettevõte kahtlustab, et lekke taga on üks keeleekspert, kelle nad palkasid oma hääletuvastuse täiustamiseks helisalvestiste võrdlemise läbi tehisintellekti poolt koostatud transkriptsioonidega.

Ühtlasi väidab Google, et ettevõtte töötajatel oli ligipääs maksimaalselt 0,2 protsendile heliandmetest ning et need failid ei olnud kasutajakontodega seotud. Samuti toonitati, et kasutajatel on võimalus andmefailide arhiveerimine deaktiveerida või neid faile regulaarselt automaatselt kustutada.

Saksamaa käskis Google’il inimeste pealtkuulamise Euroopa Liidus lõpetada

Selleks, et “kaitsta ajutiselt andmesubjektide õigust privaatsusele” alustas Hamburgi andmekaitsevolinik Johannes Caspar õigusmenetluse pealtkuulamise lõpetamiseks kolmeks kuuks alates 1. augustist, mis on ühtlasi maksimaalne keeluperiood, mille Euroopa Liidu isikuandmete kaitse üldmääruse (GDPR) järgi kehtestada võib.

Ettevõte otsustas kohtuliku käsu ennetamiseks peatada selleks perioodiks Euroopa Liidus inimeste kasutamise heliandmete analüüsiks.

Samuti lubab Google oma “andmekaitsemeetmed selles ruumis täielikult üle vaadata, et sellist andmete väärkasutust enam kunagi aset ei leiaks”.

Andmekaitseamet: tehnoloogiahiidude virtuaalsed assistendid on suureks ohuks privaatsusele 

Caspari sõnul on sellised virtuaalsed assistendid, mida pakuvad tehnoloogiahiiud nagu Apple, Amazon ja Google “suureks ohuks kasutajate privaatsusele”.

“Google’i poolt palgatud töötajad kogusid isiklikke ning ka tundlikke andmeid inimeste privaat- ja initiimsfäärist,” selgitas ta.

Privaatse informatsiooni pealtkuulamise oht ei varitse aga mitte ainult nende seadmete omanikke, vaid ka “kõiki neid, kes nendega kokku puutuvad”, nagu näiteks teisi leibkonna liikmeid või külalisi.

Seetõttu kutsub Saksa andmekaitseamet üles ka teisi kõneabisüsteemide pakkujaid, nagu näiteks tehnoloogiaettevõtteid Apple või Amazon, kaaluma kiiresti asjakohaste meetmete rakendamist.

Ka tehnoloogiahiid Microsoft kuulab inimeste vestlusi pealt

Väljaande Vice valdusesse sattunud dokumendid, kuvatõmmised ja helifailid paljastavad, et ka Microsofti töötajad kuulavad pealt kõnerakenduse Skype kaudu peetavaid vestlusi, kui selle tõlkefunktsioon on sisse lülitatud.

Kuigi Skype’i veebilehel on küll kirjas, et ettevõte võib analüüsida oma teenuse parandamise eesmärgil tõlkerakenduse abil peetavaid kõnesid, ei ole aga kusagil mainitud, et seda analüüsi teostatakse osaliselt inimeste abil.

Väljaandeni jõudnud helifailidest on kuulda inimesi rääkimas intiimselt oma lähedastega ning vestlemas näiteks kaalukaotusest, suhteprobleemidest või muudel isiklikel teemadel. Enamus helifaile on lühikesed, tavaliselt viie kuni kümne sekundi pikkused, kuid mõned on ka pikemad.

Teistest failidest selgub, et Microsofti lepingulised töötajad kuulavad pealt ka häälkäsklusi, mida kasutajad annavad ettevõtte virtuaalsele assistendile Cortana.

Microsofti töötajad on kuulanud pealt ka telefoniseksi

“Mõningaid asju, mida ma pealt olen kuulnud, saab selgelt kirjeldada kui telefoniseksi,” ütles Microsofti töötaja, kes failid väljaandele edastas. “Ma olen kuulnud, kuidas inimesed edastavad Cortana käsklustena terveid aadresse või paluvad Cortanal otsida pornograafiat.”

“Kuigi ma ei tea täpselt, mida keegi sellise informatsiooniga võib peale hakata, tundub mulle imelik, et seda ei käsitleta paremini kontrollitud keskkonnas,” kommenteeris anonüümseks jääda sooviv vilepuhuja Microsofti kitsaskohti. “Tõsiasi, et ma saan neid asju teiega jagada, näitab kui hooletult kasutajaandmete kaitsmisesse suhtutakse.”

Andmekaitseekspert: ettevõtted peaksid olema tundlike isikuandmete töötlemisel 100% läbipaistvad

“Inimesed kasutavad Skype’i, et helistada oma armastatule, tööintervjuude tegemiseks või oma välismaal elavate pereliikmetega ühenduses olemiseks. Ettevõtted peaksid olema 100% läbipaistvad selle osas, kuidas inimeste vestlusi salvestatakse ning kuidas neid salvestisi kasutatakse,” leiab andmekaitseorganisatsiooni Privacy International andmete kuritarvitamise vastase programmi juht Frederike Kaltheuner.

“Ning kui helisalvestus läheb (ükskõik mis põhjusel) inimese poolsele läbivaatamisele, siis peaks süsteem teilt selleks nõusolekut küsima või andma vähemalt võimaluse oma vestluste edastamisest loobuda.”

Microsofti väitel on kasutajad oma kõnede pealtkuulamisest teadlikud ning andnud selleks ka oma nõusoleku

Mitmed lekitatud helifailid pärinevad Microsofti poolt 2015. aastal välja toodud tõlkerakendusest Skype Translator, mis võimaldab kasutajatel saada peaaegu reaalajalist tõlget telefoni- ja videokõnede ajal. Kuigi rakendus on tehisintellekti põhine, kasutatakse selle täiustamiseks siiski ka inimtööjõudu.

Tõlkerakenduse korduma kippuvate küsimuste lehel on selgitatud, et “Skype kogub ja kasutab teie vestlusi, et täiustada Microsofti tooteid ja teenuseid. Selleks, et tõlke- ja kõnetuvastustehnoloogia saaks areneda ja kasvada, analüüsitakse lauseid ja automaatseid transkriptsioone ning kõik korrektuurid sisestatakse meie süsteemi, et ehitada paremini toimivaid teenuseid”.

Ühe täiendava punkti all on lisatud, et “selleks, et tõlke- ja kõnetuvastustehnoloogia saaks areneda ja kasvada, kontrollime automaatseid tõlkeid ning sisestame korrektuurid süsteemi, et ehitada paremini toimivaid teenuseid”. Sama on Microsofti sõnul ka Cortana dokumentatsioonis selgelt välja toodud.

Microsofti pressiesindaja sõnul üritavad nad olla läbipaistvad häälandmete kogumise ja kasutamise osas, “tagamaks, et kliendid saaksid teha teadlikke valikuid selle kohta, millal ja kuidas nende häälandmeid kasutatakse”. Ühtlasi väidab ta, et Microsoft küsib enne klientide häälandmete kogumist ja kasutamist ka nende nõusolekut.

Kriitikud aga Microsofti väitega ei nõustu

Samas ei ole aga kusagil täpsustatud, et Skype’i tõlkerakenduse või Cortana virtuaalse assistendi poolt salvestatud helifaile privaatsete vestlustega kuulavad kolmandad isikud. Samuti ei ole seda selgitatud Microsofti privaatsusdeklaratsioonis.

Andmekaitsefirma Privacy Matters tegevdirektori Pat Walshe’i sõnul “viitab [Skype Translator’i] reklaamtekst tehisintellekti kasutamisele, mitte sellele, et inimesed vestlusi pealt kuulavad”. Tema hinnangul vajab kogu see valdkond põhjalikku regulatiivset läbivaatamist.

Tutvunud Skype Translatori korduma kippuvate küsimuste lehel esitatud selgitustega, on ta seisukohal, et sellest lähtudes ei ole antud juhul tegemist kasutajate häälandmete “läbipaistva ja õiglase töötlemisega”.

Microsoft: privaatsus on prioriteet

Microsofti pressiesindaja sõnul on ettevõte “samuti kehtestanud mitmeid protseduure, et seada prioriteediks kasutajate privaatsus enne nende andmete jagamist oma allhankefirmadega”. Nende privaatsust tagama pidavate meetmete hulka kuuluvad näiteks andmete deidentifitseerimine ja konfidentsiaalsuslepingute sõlmimine allhankefirmade ja nende töötajatega. Samuti peavad allhankefirmad vastama Euroopa õiguses kehtestatud kõrgetele privaatsusstandarditele.

“Me jätkame oma häälandmete käsitlemise viisi ülevaatamist, et klientidele nende valikuid võimalikult hästi selgitada ning pakkuda tugevaid privaatsuskaitseid,” väideti pressiteates.

Microsofti sõnul edastavad nad häälandmed allhankefirmadele läbi turvalise veebiportaali ning eemaldavad helifailidest informatsiooni, mille abil võiks olla võimalik kasutaja isikut tuvastada (nt kasutaja või seadme ID-numbri). Koos helifailiga saadetakse ka mitmeid Skype’i tõlkesüsteemi poolt genereeritud tõlkeid, millede hulgast tuleb siis töötajal valida kõige täpsem või siis pakkuda omapoolne tõlge. Seejuures käsitletakse helifaile Microsofti poolt konfidentsiaalse informatsioonina.

Vilepuhuja: Microsofti kasutajatele ilmselt ei meeldiks, et kolmandad isikud nende vestluste üle naeravad

Hoolimata informatsiooni tundlikkusest kuulavad teiste inimeste Skype’i vestlusi ja Cortana häälkäsklusi vähemalt osaliselt allhankefirmade töötajad, kes töötavad oma kodus.

“Kuigi meil ei ole ligipääsu kasutajat tuvastavatele andmetele, on mul tunne, et Microsofti kasutajatele ei meeldiks, kui nad teaksid, et pidžaama väel kodus istuvad suvalised inimesed naeravad oma sõpradega internetis selle üle, mida nad just pealt kuulasid,” kommenteeris vilepuhuja.

Microsoft on ka varasemalt oma kasutajate privaatsust rikkunud

Kui USA Riikliku Julgeolekuagentuuri (NSA) endine töötaja Edward Snowden otsustas 2013. aastal paljastada inimeste massilise jälgimise NSA jälgimisprogrammi PRISM raames, siis selgus, et teiste seas oli ka Microsoft võimaldanud alates 2011. aastast NSA-l ja FBI-l  kuulata pealt inimeste Skype’i vestlusi ja videokõnesid ning ühtlasi neid endale alla laadida koos vestluse käigus edastatavate failidega.

Väidetavalt võimaldasid oma süsteemidele jälgimisprogrammi PRISM raames “otsese ligipääsu” ka teised tehnoloogiahiiud nagu Apple, Google, Facebook ja Yahoo.

Intiimseid vestlusi kuulas pealt ka Apple

Eelmise kuu lõpus väljaande The Guradian poole pöördunud anonüümne vilepuhuja paljastas juba eelkirjeldatud käitumismustri ka tehnoloogiahiiu Apple puhul.

Kuigi Apple ei teavita oma kliente sellest otseselt oma privaatsusdokumentides, edastatakse väikene osa ettevõtte virtuaalse assistendi Siri poolt salvestatud häälfailidest allhankefirmadele, kelle ülesandeks on hinnata Siri vastuseid erinevate tegurite alusel.

Kuna Siri on lisatud enamikesse Apple seadmetesse, siis edastatakse vilepuhuja sõnul kõige tundlikumat ja intiimsemat informatsiooni sageli kogemata, näiteks aktiveerides oma Apple’i nutikella või HomePod nutikõlareid.

“[Siri] kogemata sisselülitamise sagedus nutikellal on uskumatult kõrge,” kinnitas vilepuhuja. “Nutikell saab salvestada näiteks 30 sekundi pikkuseid helijuppe, kuid see on piisavalt pikka aeg, et saada hea arusaam sellest, mis parasjagu toimumas on.”

Tema sõnul on “olnud loendamatuid kordi, mil salvestistelt on kuulda arsti ja patsiendi vahelisi eravestlusi, äritehinguid, ilmselt ka kriminaalseid tehinguid, seksuaalset läbikäimist ja nii edasi. Koos nende salvestistega tulevad kaasa ka kasutajaandmed, mis sisaldavad asukohta, kontaktandmeid ja rakenduse andmeid”.

Apple: kuulame iga päev pealt alla 1% kõigist Siri päringutest

Apple’i sõnul kasutatakse neid andmeid, selleks, et Siri oleks võimeline paremini kasutajatest aru saama: “Siri päringutest kasutatakse väikest osa, et parandada Siri tööd ja diktsiooni”. Apple väidab samuti, et need päringud ei ole seotud kasutaja Apple ID-ga ning et Siri vastuseid analüüsitakse turvalistes asutustes, kus kõikidele töötajatele kehtib range konfidentsiaalsusnõue. Ühtlasi väidab ettevõte, et nad analüüsivad juhusliku valiku alusel vähem kui 1% Siri igapäevastest (!) häälaktiveerimistest, mis on tavaliselt vaid mõne sekundi pikkused.

Apple on esialgu Siri kaudu pealtkuulamise lõpetanud

Pärast The Guardian’i artiklis ilmunud paljastusi otsustas Apple kasutajate pahameele vaigistamiseks oma ülemaailmse Siri kvaliteedikontrolliprogrammi mõneks ajaks peatada. Apple kavatseb nüüd kogu kvaliteedi hindamise protsessi üle vaadata ning väljastab ühtlasi tarkvarauuenduse, mis laseb tulevikus Siri kasutajatel otsustada, kas nad soovivad selles programmis osaleda või mitte.

Apple vastu on algatatud ka kohtuasi ebaseadusliku ja tahtliku pealtkuulamise tõttu

Põhja-California föderaalkohtule esitati hagi, milles hagejad süüdistavad Apple’it “isikute konfidentsiaalse suhtluse ebaseaduslikus ja tahtlikus salvestamises nende nõusolekuta”.

Hagejate väitel ei ole Apple kasutustingimustes kusagil kirjas, et nende vestlusi salvestatakse ja kuulatakse ettevõtte töötajate poolt. Nende sõnul puudutab see hagi kõiki, kes on omanud Siri rakendusega seadet alates 2011. aastast.

Ka Amazon ei eita inimeste pealtkuulamist

Inimeste vestluste pealtkuulamisega tegeleb ka USA e-kaubandushiid Amazon, kes kasutab selleks oma Amazon Alexa virtuaalse assistendiga varustatud Amazon Echo nutikõlareid, mis on leidnud oma koha nüüdseks juba enam kui 100 miljonis majapidamises.

Amazon on selleks üle maailma palganud tuhandeid inimesi, kelle ülesandeks on samuti inimeste vestluste pealtkuulamise teel ettevõtte virtuaalset assistenti täiustada. Töötajad töötavad üheksatunnistes vahetustes ning kuulavad selle aja vältel igapäevaselt kuni 1000 juhuslikult valitud helisalvestist. 

Pealt on kuulatud nii piinlike olukordi kui ka vägistamist

Kuigi töötajate sõnul on töö enamasti üksluine, satuvad nad aegajalt pealt kuulama ka üsnagi piinlikke või kohutavaid olukordi, näiteks viisipidamatut naist duši all laulmas, last appi karjumas aga ka näiteks seksuaalset kallaletungi.

Töötajatel on ka asutusesisesed jututoad, kus nad jagavad omavahel faile, kui neil on näiteks vaja abi mõne halvasti arusaadava sõna tuvastamisel või kui nad leiavad mõne humoorika salvestise, mille üle koos nalja heita. Kui saadakse osa aga millestki kohutavast nagu vägistamine, siis jagatakse seal ka seda kogemust, et ennast välja elada ja stressi leevendada. Amazoni sõnul on neil selliste puhkude jaoks töötajatele kehtestatud ka teatud protseduurid, mida järgida, kuid kui kaks töölist palusid ettevõttelt kogetuga toimetulemiseks abi, siis öeldi neile, et “Amazoni ülesanne ei ole sekkuda”.

Kuigi Amazon väidab, et protsess on anonüümne, ei vasta see täiesti tõele

Amazoni sõnul suhtuvad nad “oma klientide isikliku informatsiooni turvalisusse ja privaatsusesse tõsiselt” ning kuulavad läbi vaid “äärmiselt väikese osa salvestistest, selleks et kliendikogemust parandada”:

“Meil on paigas ranged tehnilised ja operatiivsed kaitsemeetmed ning meil kehtib nulltolerants meie süsteemi kuritarvitamise suhtes. Töötajatel ei ole tööprotsessi vältel otsest juurdepääsu informatsioonile, mille abil oleks võimalik vastavat isikut või kontot tuvastada. Kogu informatsiooni käsitletakse kõrge konfidentsiaalsusega ning me kasutame mitmefaktorilist autentimist ligipääsu piiramiseks, teenuse krüpteerimist ning oma kontrollimiskeskkonna auditeerimist selle kaitsmiseks.”

Samas on väljaande Bloomberg omandusse sattunud kuvatõmmiselt näha, et kuigi läbikuulamisele saadetava helifailiga ei ole kaasas kasutaja täielikku nime ja aadressi, on seal siiski ära toodud kasutaja kontonumber, eesnimi ning seadme seerianumber.

Nagu ka teiste selliste ettevõtete puhul ei ole ei Amazoni reklaammaterjalides ega privaatsusavalduses otseselt öeldud, et kasutaja vestlusi võivad pealt kuulata kolmandad isikud.

Pealt kuulatakse ka kõrvalisi isikuid ning talletatakse nö taustamüra

Töötajad märgivad üles kõik, mida nutikõlarid salvestavad, kaasaarvatud taustal toimuvaid vestlusi, isegi kui vestlejateks on lapsed. Kui nad kuulevad vestluse käigus privaatseid üksikasju nagu nimesid või pangaandmeid, siis tuleb neil teha faili juurde märge, et tegemist on “kriitiliste andmetega” ning liikuda edasi järgmise helifailini.

Töötajad peavad transkribeerima privaatsed vestlused ka siis, kui Alexa aktiveeritakse kogemata, nagu sageli ka juhtub. Ühe töötaja sõnul kirjutavad nad päeva vältel mõnikord üles kuni 100 kogemata jäädvustatud salvestist.

Samuti on varasemalt olnud korduvalt juhuseid, kus Amazon on kogemata saatnud salvestisi (ühel juhul koguni 1700 helifaili) edasi kas inimeste tuttavatele või siis täiesti võõrastele isikutele.

Samuti õnnestus mullu turvaekspertidel muuta Amazon Echo luureseadmeks, kui nad lõid selle jaoks pahavaralise Alexa rakenduse, mis on võimeline pahaaimamatute kasutajate vestlusi salvestama ning nende vestluste transkriptsioone ründajale saatma.

Amazoni õigustus: klientidel on võimalik Alexa täiustamise programmist loobuda (mis ei vasta samuti täiesti tõele)

Amazoni sõnul on kasutajatel võimalik ka juba praegu Alexa täiustamise programmist loobuda, nii et nende häälsalvestisi enam nende virtuaalse assistendi uute funktsioonide väljatöötamiseks ei kasutata. Samuti jõuab nende väitel selle protsessi käigus kolmandate isikuteni kõigest “ühe protsendi murdosa” salvestistest.

Teisalt väidab aga ettevõte, et tavapärase läbivaatamisprotsessi käigus võidakse töötajate poolt analüüsida isegi nende kasutajate helisalvestisi, kes seda selgesõnaliselt ei soovinud.

Samsung ei kommenteeri

Samsung ei soostunud vastama kuu alguses väljaande The Daily Beast saadetud järelepärimisele selle kohta, kas ka nemad kasutavad oma virtuaalse assistendi Bixby täiustamiseks helisalvestiste läbikuulamist oma töötajate poolt.

Kui peate Objektiivi tegevust oluliseks, siis toetage seda annetusega! Annetuse vormistamine annetustelehel võtab vaid mõne hetke. Täname!