Foto: ColourboxTikTok promoverer selvskaderelateret indhold til sårbare brugere
En ny dansk undersøgelse afslører, at TikToks algoritme hurtigt promoverer selvskaderelateret indhold til brugere, der viser interesse for emnet.
Undersøgelsen blev udført af tænketanken Digitalt Ansvar, der oprettede profiler på TikTok, som udelukkende interagerede med selvskaderelateret indhold.
Allerede efter 15 minutter bestod op til 80-100% af det anbefalede indhold på disse profiler af selvskaderelateret materiale. Indholdet refererede til selvskade og selvmord gennem omskrivninger som ”depression will probably win” og ”I’m ready to grow my wings” i stedet for direkte ord.
Der blev ikke vist billeder af selvskadehandlinger, men temaerne var tydelige.
Undersøgelsen viser, at jo mere brugeren interagerer med selvskaderelateret indhold, desto mere af dette fremmes af TikToks algoritme.
Denne effekt indtræder allerede efter ganske kort tid og uafhængigt af brugerens alder.
Ifølge Digitalt Ansvar er resultaterne alarmerende, da børn helt ned til 9 år bruger TikTok i gennemsnit 1 time og 18 minutter om dagen.
Et barn kan dermed allerede efter 15 minutter blive fanget i et univers af skadeligt indhold i resten af tiden. Dette gentages dagligt, når barnet logger på.
TikTok har ingen aldersverifikation, så børn under den officielle aldersgrænse på 13 år kan nemt oprette en profil.
Digitalt Ansvar opfordrer derfor EU til at kræve aldersverifikation på TikTok og andre sociale medier.
Derudover anbefales et særligt børnevenligt feed uden selvskadepromovering samt implementering af "guardrails", der sikrer etisk forsvarlige algoritmer.
Disse tiltag støttes af en række danske organisationer for børns trivsel og rettigheder.
Ifølge Digitalt Ansvar viser forsøget, at TikToks algoritme ikke har tilstrækkelige sikkerhedsmekanismer til at forhindre promotion af skadeligt indhold.
Selvom TikTok fjerner eksplicitte billeder, kan sårbare brugere stadig hurtigt havne i et univers fyldt med henvisninger til selvskade og selvmord.
Undersøgelsen kommer efter flere internationale rapporter om selvskadefremme på TikTok. Den bidrager med konkret dokumentation af det hurtige skred mod et skadeligt indholdsunivers for sårbare danske brugere. Digitalt Ansvar opfordrer derfor til handling fra politisk side for at beskytte børn og unge.
