Autor: Cormac Keenan, Head of Trust & Safety, TikTok

Wir möchten ein unterhaltsames und inklusives Umfeld schaffen, in dem Menschen ihrer Kreativität freien Lauf lassen, sich miteinander austauschen und unterhalten werden können. Um dieses Umfeld aufrechtzuerhalten, entfernen wir Inhalte, die gegen unsere Community-Richtlinien verstoßen und schränken die Reichweite von Inhalten ein, die für ein breites Publikum ungeeignet sind.

Das Thema Sicherheit ist ein stetiger Prozess und deshalb teilt TikTok – als Maßnahme der stetigen Selbstkontrolle – vierteljährlich Updates zu den gemachten Fortschritten. Der nachfolgende Überblick befasst sich mit dem neuesten Bericht zur Durchsetzung der Community-Richtlinien im vierten Quartal 2022; einschließlich der Aktualisierungen, die wir vorgenommen haben, um die Genauigkeit und Effizienz der inhaltlichen Moderation zu verbessern.

Moderationsmaßnahmen für ein steigendes Volumen

Unser Ziel besteht darin, verletzende Inhalte so schnell wie möglich zu identifizieren und zu entfernen. Das ist angesichts der großen Menge an Inhalten, die täglich auf TikTok geteilt werden, kein einfaches Unterfangen. Um unsere Bemühungen in diesem Bereich zu konzentrieren, arbeiten wir an:

  1. der Priorisierung zur schnellstmöglichen Entfernung von besonders schädlichen Inhalten wie Material über sexuellen Kindesmissbrauch oder gewalttätigen Extremismus.
  2. der Minimierung der Aufrufzahlen von Inhalten, die gegen die Community-Richtlinien verstoßen.
  3. der Gewährleistung von Genauigkeit, Kohärenz und Fairness der Maßnahmen für die Creator*innen.

Um diese Ziele zu erreichen, setzen wir auf eine Kombination aus automatisierter Technologie und erfahrenen Moderator*innen, die kontextbezogene Entscheidungen zu sensiblen Themen wie Fehlinformation, Hassrede und Belästigung treffen können.

Weiterentwicklung unseres Ansatzes

In der Vergangenheit haben wir die Moderation ausgeweitet, indem wir ein breiteres Kontrollnetz installiert haben, um so viele Inhalte wie möglich zu erfassen, die gegen die Community-Richtlinien verstoßen. Dieser Schritt hat die Anzahl der entfernten Inhalte zwar erhöht, doch die übergreifenden Sicherheitsziele konnten wir damit nicht messen: die Priorisierung besonders schädlicher Inhalte, die Minimierung der Aufrufzahlen und konsistentere Entscheidungen. Da die Community weiter wächst und sich dabei immer öfter auch durch längere und neue Formate wie Videos, LIVEs und TikTok Now ausdrückt, hat sich auch unser Ansatz zur Moderation der Inhalte weiterentwickelt. Wir konzentrieren uns zunehmend darauf, Schaden über alle Formate hinweg abzuwenden und gleichzeitig ein faires und zielgenaues Prozedere zum Schutz unserer Creator*innen zu etablieren.

Neben der Weiterentwicklung des Ansatzes, dass schädliche Inhalte zielgenauer identifiziert, die Aufrufzahlen schädlicher Inhalte minimiert und besonders schädliche Inhalte so schnell wie möglich entfernt werden, haben wir die Systeme, die Inhalte zur Überprüfung an unser Moderator*innenteam weiterleiten, gezielt verbessert. Dadurch kann der Schweregrad eines Videos (basierend auf der Art des potenziellen Verstoßes) und die erwartete Reichweite (basierend auf den Follower*innen eines Kontos) bei der Entscheidung, ob ein Video direkt entfernt, zur Überprüfung durch eine*n Moderator*in weitergeleitet oder eine andere Vorgehensweise gewählt werden soll, besser berücksichtigt werden. Wir setzen Maßnahmen wie Funktionen zur Altersbeschränkung, die Unzulässigkeit für Empfehlungen sowie unser neues System für Inhaltsebenen immer häufiger und transparenter ein, um den Schaden so gering wie möglich zu halten, indem wir einschränken, wer bestimmte Inhalte sehen oder erstellen kann. Gleichzeitig sorgt Technologie dafür, dass die Menge der zu prüfenden Inhalte immer geringer wird, indem sie die Erstellung von Spam-Konten schon bei der Anmeldung verhindert und doppelt gepostete Inhalte umgehend erkennt.

Der Transparenzbericht für das vierte Quartal 2022

Die Auswirkungen dieser Änderungen spiegeln sich bereits in den Daten des aktuellen Berichts zur Durchsetzung der Community-Richtlinien im vierten Quartal 2022 wider. So ist beispielsweise die Gesamtzahl der entfernten Inhalte gesunken, da mehr Inhalte mit geringer Schädlichkeit für eine Empfehlung im Für-dich-Feed unzulässig gemacht wurden, statt sie vollständig zu entfernen. Gleichzeitig stieg der Anteil der Inhalte, die automatisch entfernt wurden, da unsere Systeme bei der Erkennung immer präziser werden. Diese Dynamik liegt innerhalb der von TikTok erwarteten Spanne: Wir entfernen durchweg bis zu 1 Prozent der veröffentlichten Inhalte, weil sie verletzend sind. Dies fördert die Bemühungen der Plattform, TikTok und seine wachsende Community sicherer zu machen und Creator*innen eine einheitlichere Erfahrung zu bieten.

Es ist möglich, dass es künftig zu weiteren Schwankungen in den Zahlen kommen wird, da wir unsere Systeme kontinuierlich weiterentwickeln. Allein in diesem Jahr konnten bereits erhebliche Verbesserungen erzielt werden, die sich von der Einführung eines neuen Systems zur Durchsetzung von Konto-Beschränkung bis hin zur umfassenden Aktualisierung der Community-Richtlinien erstrecken, mit unter anderem neuen Richtliniengruppen. Auch hinter den Kulissen arbeiten wir weiter an der Optimierung der Moderationsprozesse, zum Beispiel durch die Spezialisierung weiterer Moderationsteams für Inhalte bestimmter Fachgebiete.

Wir setzen unsere Arbeit fort, um unserer Verantwortung gerecht zu werden, eine sichere, integrative und authentische Plattform für unsere globale Community zu schaffen. So werden wir auch zukünftig unsere Fortschritte in diesem Bereich transparent kommunizieren.

Über TikTok
TikTok ist die führende Plattform für mobile Kurzvideos. Unsere Mission ist es, Menschen zu inspirieren und zu bereichern, indem wir ihnen ein kreatives Zuhause geben und ihnen ein authentisches, unterhaltsames und positives Erlebnis bieten. TikTok hat weltweit Büros in Los Angeles, New York, London, Paris, Berlin, Dubai, Mumbai, Singapur, Jakarta, Seoul, und Tokio. www.tiktok.com

Pressekontakt TikTok
Andrea Rungg
Senior Director Communications TikTok Deutschland, Österreich, Schweiz, Niederlande
dachcomms@tiktok.com

Pressestelle TikTok D-A-CH
FAKTOR 3 AG
Kattunbleiche 35 | 22041 Hamburg
tiktok@faktor3.de