Anställda som jobbar med att lyssna på kommandon som finländare ger sina röststyrda högtalare och telefoner har kommit över känsliga uppgifter, enligt en artikel av Helsingin Sanomat. Hankens datasäkerhetschef säger att risken är liten för att privatpersoners information läcker ut, men skulle inte hantera klassificerad arbetsinformation i närheten av en smartapparat.
Finländarna som Helsingin Sanomat intervjuat har jobbat med att lyssna på finskspråkiga röstmeddelanden för utländska företag. Tre av fyra var anställda på kontor i Sydeuropa, medan en person jobbade på distans i Finland.
Deras arbete gick ut på att lyssna på korta pratsnuttar för att kontrollera att teknologiföretagens programvara klarat av att omvandla talet till korrekt finskspråkig text.
Enligt artikeln hanterade de intervjuade röstmeddelanden från Apple-apparater och röststyrda Google-program, oftast i form av dikteringar eller kommandon.
De anställda kände inte till upphovsmännens identitet, men i vissa fall röjdes anonymiteten - exempelvis då en person signerade ett röstmeddelande med sitt fullständiga namn. En av de anställda uppger sig också ha känt igen en bekant utgående från ett röstmeddelande.
Jag tror det är ganska svårt att försäkra sig om att alla de här människorna förstår sin tystnadsplikt och verkligen håller den
Mikael Albrecht, datasäkerhetschef på Hanken
”Människor är nödvändiga som mellanhand i processen”
De flesta smarttelefoner, smarta högtalare och en del teven ger möjlighet att göra röstsökningar och använda diktering. I praktiken betyder det att användaren kan beordra apparaten att göra en sökning på webben eller diktera text- eller e-postmeddelanden.
Kommandona överförs från apparaten till teknologiföretagets servrar, där algoritmer hjälper tekniken att förstå vad användaren säger. En del sampel skickas sedan vidare för kvalitetskontroll, där människor övervakar hur algoritmen tolkar talet.
Eftersom processen går ut på att träna upp en dator att känna igen människans tal, behövs människan som mellanhand, säger Mikael Albrecht som är datasäkerhetschef på Svenska Handelshögskolan.
- Det handlar om lära datorn göra en jämförelse: hur skrivs ett ord som låter så här? För att kunna veta vad folk egentligen säger, måste man blanda in en människa som på riktigt förstår innebörden, förklarar han.
Och det krävs rutinmässiga kvalitetskontroller för att kontrollera att det inlärda blir rätt. Alltså måste människor vara iblandade.
Omöjligt att bevaka om tystnadsplikten håller
Kvalitetskontrollen sköts i dagens läge av ett nätverk av underleverantörer - bland annat i företag där finländare som Helsingin Sanomat talat med arbetar.
Vid en del företag är lönen bunden till mängden avlyssnade meddelanden. En anställd uppgav att hen förväntades lyssna igenom minst 1 100 röstfiler under en dag.
En del anställda som Helsingin Sanomat talat med berättar om att de stött på osakliga meddelanden, som exempelvis handlar om sex. En del hade tagit del av bland annat sökningar av adresser och namn.
Därtill verkade en del meddelanden som skickats till kvalitetskontrollanterna vara oavsiktligt inbandade, och en del på annat språk än finska.
Om systemet är korrekt uppbyggt, borde kvalitetskontrollanterna emellertid inte få veta vem de lyssnar på, säger Mikael Albrecht. Dataföretagen har ett starkt incitament att göra rätt eftersom de har ett rykte att värna om, menar han.
- Företagen är väl medvetna om att de själv kommer att lida av skandaler och läckor. Men om användare av någon orsak till exempel räknar upp kontaktuppgifter och sitt namn, avslöjas ju identiteten. Då är det väldigt viktigt att kvalitetskontrollanten verkligen har en tystnadsplikt och förstår att följa den.
Men eftersom kontrollanterna kommer från ett globalt nätverk av underleverantörer kan datajättarna ha svårt att hålla koll på säkerheten i praktiken, tror Albrecht.
- Att sitta och lyssna på ljud kräver ju inte värst mycket utbildning, så man kan väl anta att de anställda är rätt unga och lågutbildade. Därtill kan personalomsättningen vara ganska stor.
- Därför tror jag det är ganska svårt att försäkra sig om att alla de här människorna förstår sin tystnadsplikt och verkligen håller den, säger han.
Företagen har rätt att lagra ljud
Avlyssningen har skapat en hel del debatt. Belgiens rundradiobolag uppgav på onsdagen att det kommit över ljudfiler som lagrats av smarta högtalare av märket Google Home.
I enlighet med Helsingin Sanomats information skriver man att Google anställt människor runt om i världen för att systematiskt lyssna igenom filer som lagrats av smarta högtalare och applikationen Google Assistant.
Också nyhetsbyrån Bloomberg har tidigare rapporterat om att kvalitetskontrollen av röstmeddelanden för smartapparater tillverkade av Amazon, Google och Apple görs av människor.
Som privatperson rekommenderar jag att man är medveten om riskerna och tänker sig lite för vad man säger till röststyrda apparater
Mikael Albrecht
Företag som Google och Apple har rätt att lagra ljud i anknytning till sina tjänster, om detta uppges i användarvillkoren. Användningen av ljudet klassificeras som produktutveckling. Däremot är lagringen av exempelvis meddelanden som bandats in av misstag mer problematisk.
Apple vägrar kommentera uppgifterna i Helsingin Sanomats artikel. I ett utlåtande till tidningen skriver Google att språkexperter används för att utveckla bolagets språkteknologi, men att bara en bråkdel av det lagrade materialet används. Google lovar också att informationen inte kopplas ihop med specifika användare.
Har du en röststyrd apparat, blir du sannolikt inbandad
Finns det då former av smart teknologi som respekterar ens integritet mer än andra? Mikael Albrecht tror inte det.
- Finns det röststyrning i en apparat som är uppkopplad till nätet är det nog mycket sannolikt att ljudet som plockas upp går vidare till nätet för någon slags analys. Oberoende om det är en dator, en telefon, en surfplatta, en teve, en leksak, en högtalare eller någon annan form av hjälpreda som man har i hemmet.
Han tror emellertid att privatpersoner inte behöver oroa sig över att en kvalitetskontrollant skulle komma över eller läcka ut skadlig information om ens privatliv, eftersom ljudet som kvalitetskontrolleras av en människa är så pass slumpmässigt utvalt.
- Det är väldigt svårt att rikta spionage mot en viss person via den här egenskapen. Men risken finns, och den är bra att komma ihåg.
- Som privatperson rekommenderar jag att man är medveten om riskerna och tänker sig lite för vad man säger till röststyrda apparater. Men det är kanske ingen direkt orsak att låta bli att använda dem, säger Albrecht.
Däremot skulle han tänka till innan han okritiskt började hantera affärshemligheter i närvaron av en smartapparat.
- Om du till exempel jobbar hemma med kritisk information, då ska det inte finnas en Alexa* eller röstkontrollerad teve i närheten, säger Mikael Albrecht.
*Amazons röststyrningsassistent.
