Auteur: Cormac Keenan, Head of Trust and Safety, TikTok

Dit artikel is onderdeel van een serie over de basisprincipes van veiligheid. In deze serie nemen we een kijkje achter de schermen van de veiligheidsteams van TikTok.

Bij TikTok helpen duizenden mensen mee om van ons platform een veilige plek te maken waarop onze community veilig leuke content kan ontdekken en hun creativiteit kan delen. Het Trust and Safety-team van TikTok voert verschillende taken uit om onze community te beschermen. We zijn graag open en transparant over hoe wij omgaan met veiligheid. In dit blog geven we je een inkijkje in onze werkwijze.

Opstellen en bijwerken van onze communityrichtlijnen

Onze communityrichtlijnen zijn een reeks normen en gedragsregels voor TikTok. In deze richtlijnen staat wat wel en niet mag, zodat TikTok een uitnodigende plek blijft voor iedereen. Onze beleidsexperts zijn verantwoordelijk voor continue toetsing van deze richtlijnen, om te bepalen hoe we creatieve expressie kunnen toestaan terwijl we onze gebruikers beschermen tegen mogelijke gevaren.

Deze experts zijn veelal specialisten op een bepaald vlak. Zij zijn gewone burgers of werken bijvoorbeeld in de technologische industrie of voor de overheid. Het is hun taak om zich vast te bijten in complexe en uitdagende vraagstukken - bijvoorbeeld waar we de grens moeten trekken bij content over eetstoornissen. Vanuit samenwerking met experts op dit vlak weten we dat content over eetstoornissen schadelijk kan zijn, hoewel content die zich richt op herstel juist een positieve invloed kan hebben. Bij het verfijnen van ons beleid is het belangrijk om voortdurend over dit soort nuances na te blijven denken.

Herkennen van mogelijke gevaren en handhaven van ons beleid

Product- en procesteams ontwerpen strategieën en technieken om mogelijke gevaren efficiënter op te sporen en onze communityrichtlijnen op grote schaal te handhaven. Een voorbeeld hiervan is ons gebruik van ‘hashing’ om een uniek digitaal identificatiekenmerk te maken van een afbeelding of video. In lijn met de industriestandaarden kunnen wij zo bekende schadelijke content markeren als in strijd met ons beleid en deze content eenvoudiger op grote schaal verwijderen. Als er bijvoorbeeld content wordt verwijderd omdat het in strijd is met ons beleid ter bescherming tegen het delen van afbeeldingen van seksuele uitbuiting van kinderen, helpt het unieke identificatiekenmerk ons om gelijksoortige content op te sporen en te verwijderen en om nieuwe uploads te voorkomen.

Zoals ook in ons laatste transparantierapport staat, werd meer dan 80% van de video's die inbreuk maakten op ons beleid verwijderd voordat ze werden bekeken. We vinden het zeer belangrijk om onze effectiviteit op dit gebied te blijven ontwikkelen. Technologie kan helpen om content die overduidelijk inbreuk maakt te verwijderen, maar mensen blijven een grote rol spelen in de moderatie van content. Onze teams staan dag en nacht klaar om actie te ondernemen wanneer content wordt gerapporteerd. Bij deze extra beoordeling door mensen geven onze moderators feedback aan de technologie, waardoor we onze algoritmes trainen. Zo leggen we opkomende trends in content vast en verbeteren we de mogelijkheden voor opsporing in de toekomst.

Een andere essentiële functie van ons team is het identificeren en analyseren van content om de nauwkeurigheid van onze moderatie continu te verbeteren. Als een video populair wordt, kunnen wij deze bijvoorbeeld opnieuw bekijken om te voorkomen dat content die inbreuk maakt op ons beleid op TikTok blijft staan. Daarnaast analyseren we onze moderatiekeuzes om na te gaan waarom content die inbreuk maakt op ons beleid soms niet eerder is gedetecteerd en om trends van dit soort content op ons platform op te sporen. Zo kunnen we bijvoorbeeld zien dat we betere technologie moeten ontwikkelen om automatisch bepaalde soorten potentiële schendingen te detecteren. Ook kan hieruit voortkomen dat we extra doelgerichte trainingssessies inplannen voor onze moderatieteams over bepaalde beleidsmaatregelen en nuances, om onze teams te steunen bij het maken van de juiste keuzes bij het beoordelingsproces.

Focus op welzijn van medewerkers

Het is de belangrijkste taak van ons team om onze community altijd een veilige plek te laten zijn. Soms betekent dit dat onze moderators schadelijke content moeten bekijken. Daarom moeten wij ons team de juiste ondersteuning bieden. De gezondheid, veiligheid en het welzijn van onze mensen staan voorop. Onze teams hebben toegang tot programma's om hun welzijn te ondersteunen met trainingen, wetenschappelijk onderbouwde informatie en professionele hulp. Daarnaast voeren we regelmatig analyses uit om inzichtelijk te maken hoe we onszelf kunnen blijven verbeteren, en willen we toonaangevend zijn door onze mensen op de meest ambitieuze en effectieve manier te ondersteunen.

We hopen binnenkort weer meer te delen over het werk van onze Trust and Safety-teams. Hieronder lees je meer over ons team!

Over TikTok

TikTok is het toonaangevende platform voor korte mobiele video's. Onze missie is om mensen te inspireren en verrijken door ze een creatief thuis te geven en een authentieke, onderhoudende en positieve ervaring te bieden. TikTok heeft wereldwijd kantoren in Los Angeles, New York, Londen, Parijs, Berlijn, Dubai, Mumbai, Singapore, Jakarta, Seoul en Tokio.

Voor journalisten: als u vragen of feedback heeft, neem dan contact op met tiktok@coopr.nl.