Det sociala nätverket Tiktok har många gånger kritiserats för att inte göra tillräckligt för att skydda yngre användare.
Det finns till exempel oro över att barn kan exponeras för olämpligt innehåll, och att innehållet kan påverka användares mentala hälsa negativt.
Att plattformen är beroendeframkallande i och med att den effektivt skräddarsyr sig till vad folk vill se är också något som ofta lyfts fram.
Dessutom visar forskning att mycket skärmtid är negativt för barn – särskilt för yngre barn.
Svenska Yle träffade Chloe Setter, policychef på Tiktok med specifikt ansvar för barns säkerhet, under hennes Finlandsbesök i veckan.
Vi fick en 10 minuter lång intervju med henne och kunde då ställa en del aktuella frågor med anknytning till deras unga användare, för att ge företaget en möjlighet att ge sin syn på saken.
En del följdfrågor fanns det däremot inte möjlighet att ställa i det här sammanhanget.
Det framkom den här veckan att Australien planerar förbjuda användning av sociala medier för yngre barn – troligen för unga under 14 år. Hur kommenterar du det?
– Jag har ännu inte fått alla detaljer om det. Men jag är medveten om att det är en diskussion som faktiskt pågår i andra länder också. Det har varit mycket debatt om vad som är rätt ålder för samtycke till sociala medier. Allt jag kan säga till dig här är att vi har utformat Tiktok för att vara säkert och lämpligt för dem som är 13 år och äldre.
Tiktok gallrar bort användare under 13 år
Chloe Setter påpekar att Tiktok har flera inställningar som anpassar sig enligt unga användares ålder.
Det finns särskilda inställningar för dem som är 13–15 år, 16–17 år eller de som är mer än 18 år.
– Jag skulle också säga, som någon som har arbetat med barns rättigheter i mer än 15 år, att jag tycker att det är mycket viktigt att vi låter unga människor delta i den digitala världen. Vi lever alla i en digital värld nu. Och jag tycker att tonåringar har rätt att kunna delta så länge det sker på ett säkert sätt.
Åldersgränsen för Tiktok är 13 år. Hur kontrollerar ni då att barn som är yngre än det inte registrerar sig eller använder er app?
– Vi tar frågan om minderåriga användare på allvar. Det börjar verkligen redan innan någon ens laddar ner appen i första hand. Om användaren har rätt kontoinställningar på en av appbutikerna borde de inte kunna ladda ner Tiktok.
Hon nämner att man måste ange födelsedatum när man registrerar sig på Tiktok. Där nämns inte hur gammal man måste vara för att få registrera sig.
– Naturligtvis vet vi att unga människor ibland inte anger rätt information vid den tidpunkten. Så det är därför vårt engagemang för att upprätthålla vår minimiålder inte slutar där.
31 procent av 5–12-åringarna i Finland använder Tiktok minst flera gånger i veckan
teleoperatören DNA:s skolelevsundersökning
Tiktok uppger sig försöka upptäcka unga användare till exempel utifrån vad de tittar på.
Globalt tog man bort 22 miljoner användare under det första kvartalet i år, eftersom man misstänkte att de var under 13 år gamla.
Men ändå är det så att 31 procent av 5–12-åringarna i Finland använder Tiktok minst flera gånger i veckan, enligt teleoperatören DNA:s skolelevsundersökning tidigare i år – och 17 procent gör det varje dag.
– Jag tror att de data som vi publicerar visar hur många konton vi tar bort och hur seriöst vi tar det åtagandet. Alla våra moderatorer är utbildade att leta efter minderåriga användare.
Stänger av konton med låg tröskel
Chloe Setter nämner ändå att det kan vara ganska svårt för en moderator att se vilka som faktiskt är unga barn, men säger att moderatorerna är utbildade att ta det säkra före det osäkra och att ta bort och stänga av konton med låg tröskel.
Hon säger att Tiktok i praktiken förlitar sig mycket på att utomstående personer anger användare som är under 13 år.
– Ofta är det personer som inte ens är på plattformen eftersom vi har ett webbformulär på vår webbplats där föräldrar, lärare, andra kan rapportera om de tror att någon är yngre än 13 år.
Hur hoppas ni att ålderskollen ska fungera i framtiden?
– Det är en mycket komplex sak att göra på ett sätt som bevarar integriteten för alla användare.
Setter säger att man på Tiktok hoppas på att teknikbranschen och myndigheter tillsammans ska kunna bygga upp ett bättre, globalt system för att kolla användarnas åldrar, för problemet gäller många olika sociala nätverk och digitala tjänster.
Hon säger att lösningen behöver bevara integriteten för alla användare, men också vara både effektivt och transparent.
Om innehållet på plattformen
Tiktok har mer än 1,6 miljoner månatliga användare i Finland. Många av dem är barn och unga.
Hur svarar du på kritiken att plattformen kan vara beroendeframkallande och potentiellt skadlig, särskilt för unga människors mentala hälsa och självbild?
– Vi vill att Tiktok ska vara en plats där människor kan ha roligt, där de kan koppla upp sig, där de kan lära sig nya saker, socialisera. Vi jobbar hårt för att försöka se till att unga människor har en mångsidig upplevelse på Tiktok när det gäller typen av innehåll de ser, men vi läger också mycket arbete på säkerhetsaspekterna, säger Chloe Setter.
Hon poängterar att 99 procent av innehållet på Tiktok inte bryter mot plattformens riktlinjer.
Att många använder plattformen regelbundet talar enligt henne för att läget är okej.
– Om de hade det alldeles hemskt skulle de inte vilja komma tillbaka till appen.
Efter 5–6 timmar på Tiktok var nästan varannan video relaterad till mental hälsa och potentiellt skadlig
studie som Amnesty International låtit göra
Chloe Setter säger att Tiktok har mycket robust automatiserad innehållsmoderering för att snabbt upptäcka innehåll som kan vara skadliga för barn.
Oklara fall som fångas upp skickas vidare till mänskliga moderatorer.
Företaget har drygt 100 personer som modererar innehåll på svenska och ett drygt 30-tal som gör det på finska.
Setter säger att privatmeddelanden är blockerade till personer under 16 år och att minderåriga inte heller får streama live på plattformen.
Amnesty International publicerade i fjol en rapport som kom fram till att Tiktoks flöde riskerar att lätt leda barn och unga till en hel del innehåll som är skadligt för den mentala hälsan. Hur kommenterar du det och vad har ni gjort för förändringar efter att den rapporten kom?
– Vi anser att sådan forskning ibland inte riktigt återspeglar det verkliga sättet som användare faktiskt använder Tiktok på.
Mellan tre och tjugo minuter in i Amnestys manuella forskning var mer än hälften av videorna i deras flöde relaterade till mentala hälsoproblem. Inom en timme råkade forskarna ut för flera rekommenderade videor som romantiserade, normaliserade eller uppmuntrade till självmord.
Efter 5–6 timmar på Tiktok var nästan varannan video relaterad till mental hälsa och potentiellt skadlig.
Setter menar att Amnesty i sin rapport försökte hitta massvis med depressivt eller obehagligt innehåll, vilket inte är vad unga människor normalt skulle använda Tiktok för.
– Vad jag vet har vi inte förändrat vår verksamhet till följd av den här rapporten.
Användning i många timmar
Skärmtid för barn har diskuterats en hel del under senare tid. Hur ser ni på det att många användare använder Tiktok mycket?
– Jag tycker att balans är viktigt. Måtta med allt är ett bra sätt att se på livet och detsamma gäller skärmtid. Experter har ännu inte kommit överens om vad som är en bra mängd skärmtid. Jag tror att forskningen inom detta område fortfarande växer och vi hjälper till att stödja forskning på detta område för att hjälpa till att förstå det.
Hon säger ändå att det är viktigt att unga personer har kontroll över sin egen skärmtid, och att det är därför Tiktok införde en begränsning av skärmtiden för barn under 18 år.
När man har använt appen i 60 minuter får man en fråga om man vill fortsätta använda den.
Det går också att koppla ett barns Tiktokkonto till en förälders konto och då krävs det att föräldern går med på förlängningen. Föräldern kan också bestämma hur mycket skärmtid barnet får ha i appen.
Farliga utmaningar förekommer
Det har funnits farliga utmaningar som spridits på Tiktok i Finland, till exempel som leder till olagliga handlingar – till exempel att ta en kniv med till skolan. Det finns moderatorer men ändå händer sådana här saker. Hur kommenterar du det?
– Vi förbjuder strängt alla farliga eller potentiellt skadliga handlingar eller utmaningar på Tiktok. Och vi arbetar proaktivt för att ta bort den typen av innehåll. När vi är medvetna om någon känd skadlig utmaning blockerar vi alla sökresultat för det. Och i stället visar vi hjälpsamma resurser.
I praktiken kan det ändå dröja innan plattformen reagerar på farliga utmaningar, även om det i bästa fall kan gå på bara några minuter, eller helt automatiskt.
Hon betonar ändå att de allra flesta utmaningar på Tiktok är ”roliga och ofarliga”.
– De är dansande matutmaningar, intressanta saker som du kan göra med din familj kring insamlingar som händer. Det är viktigt att påpeka det.
