Auteur: Cormac Keenan, Head of Trust & Safety, TikTok

Bij TikTok streven we naar een plezierige en inclusieve omgeving waar mensen kunnen creëren, zich vermaken en een community kunnen vinden. Om dit voort te zettten, nemen we maatregelen om content die onze Community Guidelines schendt te verwijderen en beperken we het bereik van content die mogelijk niet geschikt is voor een breed publiek.

Veiligheid kent geen finishlijn en we delen dan ook elk kwartaal updates over onze vooruitgang om verantwoording af te leggen. Vandaag geven we context over ons Q4 2022 Communityrichtlijnen Enforcement Report, inclusief updates die we hebben gemaakt om de nauwkeurigheid en efficiëntie van content moderatie bij TikTok te verbeteren.

Moderatie op schaal

Ons doel is om zo snel mogelijk content te identificeren en te verwijderen die in strijd is met de wet, en dat is geen sinecure gezien de omvang van TikTok. Om onze inspanningen te concentreren, werken we aan:

  1. Het prioriteren van het snel verwijderen van zeer schadelijke content, zoals materiaal over seksueel misbruik van kinderen en gewelddadig extremisme.
  2. Het minimaliseren van de algehele zichtbaarheid van content die in strijd is met onze Communityrichtlijnen.
  3. Het zorgen voor transparantie, duidelijkheid en openheid richting creators.

Om dit te bereiken zetten we een combinatie in van geautomatiseerde technologie en ervaren, menselijke moderatoren die contextuele beslissingen kunnen nemen over genuanceerde onderwerpen zoals desinformatie, haatzaaien en intimidatie.

Onze aanpak verder ontwikkelen

In het verleden hebben we de moderatie uitgebreid door een breder vangnet uit te zetten en zo veel mogelijk schendende content te verwijderen. Hoewel dit het aantal video's dat we verwijderden deed toenemen, is het geen maatstaf voor onze algemene veiligheidsdoelen om prioriteit te geven aan ongewenste content, de totale hoeveelheid views te minimaliseren en te zorgen voor accurate en consistente beslissingen. Omdat onze community is blijven groeien en zich is blijven uiten - onder andere via nieuwe mogelijkheden zoals langere video's, LIVE en TikTok Now - is onze aanpak van content moderatie ook geëvolueerd. We richten ons steeds meer op het voorkomen van algehele nadelige gevolgen voor alle functies, terwijl we een eerlijke, betrouwbare ervaring willen realiseren voor onze creators.

Als gevolg daarvan zijn we de afgelopen maanden begonnen met het verfijnen van onze aanpak om meer prioriteit te geven aan nauwkeurigheid, het minimaliseren van weergaven van schendende inhoud en het snel verwijderen van schadelijke content. We hebben de systemen voor het beoordelen van content verbeterd, zodat de ernst van de schadelijke gevolgen van een video (op basis van het soort potentiële schending) en het verwachte bereik (op basis van de volgers van een account) beter worden meegenomen in de beslissing om de video te verwijderen, door te sturen naar een menselijke beoordeling of een andere actie te ondernemen. We maken vaker en transparanter gebruik van maatregelen zoals leeftijdsbeperkingen, het niet in aanmerking komen voor aanbevelingen en ons nieuwe systeem voor contentniveaus om de mogelijke nadelige gevolgen te reduceren door te beperken wie bepaalde content kan maken of zien. En onze proactieve technologie vermindert de hoeveelheid content die moet worden beoordeeld, naarmate deze verfijnder wordt in het opsporen van zaken als spamaccounts bij inschrijving of dubbele content.

Ons Transparantierapport van Q4 2022

Het effect van deze veranderingen is al zichtbaar in de resultaten van ons rapport over de handhaving van de Community Guidelines in het vierde kwartaal. Zo daalde het totale aantal verwijderde content, omdat we meer content met een laag risico ongeschikt maakten voor de For You Feed in plaats van deze volledig te verwijderen. Tegelijkertijd nam het deel van de content dat automatisch werd verwijderd toe, doordat onze systemen nauwkeuriger zijn geworden. Deze schommeling ligt binnen onze verwachte marge - we verwijderen consequent 1% of minder van de gepubliceerde content wegens schending - en maakt deel uit van een gezamenlijke inspanning om onze groeiende community veiliger te houden en onze creators een consistentere ervaring te bieden.

Het is mogelijk dat dergelijke metrische schommelingen doorzetten, omdat we onze systemen het komende jaar blijven ontwikkelen. We hebben dit jaar bijvoorbeeld aanzienlijke verbeteringen aangebracht, zoals de invoering van een nieuw systeem voor de handhaving van accounts en een grondige vernieuwing van onze Community Guidelines met nieuwe beleidsgroepen die in toekomstige handhavingsrapporten worden opgenomen. We blijven ook de moderatieprocessen achter de schermen verfijnen, bijvoorbeeld door meer contentmoderatieteams te specialiseren rond expertisegebieden.

Terwijl we verder werken aan een veilig, inclusief en authentiek thuis voor onze wereldwijde community, kijken we ernaar uit om meer te kunnen delen over onze continue inspanningen om nadelige consequenties te voorkomen.

Over TikTok
TikTok is het toonaangevende platform voor korte mobiele video's. Onze missie is om mensen te inspireren en verrijken door ze een creatief thuis te geven en een authentieke, onderhoudende en positieve ervaring te bieden. TikTok heeft wereldwijd kantoren in Los Angeles, New York, Londen, Parijs, Berlijn, Dubai, Mumbai, Singapore, Jakarta, Seoul en Tokio. www.tiktok.com


TikTok
Andrea Rungg
Communications for TikTok in Germany, Austria, Switzerland, and the Netherlands
dachcomms@tiktok.com