Von Cormac Keenan, Head of Trust & Safety

TikTok ermöglicht es Nutzer*innen, ihre Kreativität, ihr Wissen und ihre Leidenschaft mit anderen zu teilen und die Community zu unterhalten. Um auch weiter zu gewährleisten, dass die Plattform einladend und authentisch für alle bleibt, entfernt TikTok Inhalte, die gegen die eigenen Richtlinien verstoßen. Dieses Vorgehen und die Entfernungen werden in den Berichten zur Durchsetzung der Community-Richtlinien gegenüber den Creator*innen transparent gemacht. Unser heute veröffentlichter aktueller Bericht für den Zeitraum April bis Juni, zeigt Verbesserungen bei der Bekämpfung von Fehlinformationen und wir geben einen Einblick, was zu diesem Fortschritt geführt hat.

Fehlinformationen sind kein neu auftretendes Problem, aber das Internet bietet einen neuen Weg über den sie sich verbreiten können. Wir sind uns der Auswirkungen bewusst, die Fehlinformationen auf das Vertrauen in die öffentliche Gesundheit, in Wahlprozesse, Fakten und die Untergrabung von Wissenschaft haben können. Deshalb sind wir entschlossen, ein Teil der Lösung zu sein. Wir nehmen Fehlinformationen äußerst ernst und schränken ihre Verbreitung mit einem mehrgleisigen Ansatz ein: Während wir verlässliche Informationen verbreiten, investieren wir gleichzeitig in digitale Bildung, um das Problem breitgefächert zu bekämpfen.

Unsere Richtlinien

Unsere Integritätsrichtlinien zielen darauf ab, ein vertrauenswürdiges, authentisches Erlebnis für Nutzer*innen zu fördern. Unsere Richtlinien gegen schädliche Fehlinformationen verbieten Inhalte, die unsere Community in Bezug auf zivilgesellschaftliche Prozesse, das Gesundheitswesen oder ihre eigene Sicherheit irreführen könnten. So erlauben wir weder medizinische Fehlinformationen über Impfstoffe oder COVID-19, noch Fehlinformationen über Wahlen. Diese Richtlinien können beabsichtigt auf eine große Auswahl an Inhalten angewendet werden, da sich die Inhalte auf der Plattform fortlaufend, oft aufgrund aktueller Ereignisse in der Welt, verändern.

Zusätzlich zu der Entfernung von Inhalten, die fehlerhaft sind oder unseren Nutzer*innen und der Community schaden, entfernen wir Konten, die Menschen täuschen oder TikTok nutzen, um die öffentliche Meinung irreführend zu manipulieren. Diese Aktivitäten reichen von der Erstellung gefälschter Konten bis hin zu Bemühungen, das öffentliche Vertrauen zu untergraben. Diese Akteur*innen entwickeln ihre Taktiken ständig weiter, und wir versuchen stetig, unsere Richtlinien zu verbessern, wenn wir neue Arten von Fehlinformationen und falschen Verhaltensweisen entdecken.

Durchsetzung unser Richtlinien

Zur Durchsetzung unsere Community-Richtlinien arbeiten wir mit einer Kombination aus Technologie und tausenden von Sicherheitsexpert*innen. Um dies effektiv und in großem Umfang zu tun, investieren wir weiterhin in technologiebasierte Kennzeichnung und Moderation. Wir verlassen uns auf automatisierte Moderation, wenn unsere Systeme einen hohen Wahrscheinlichkeitsgrad aufweisen, dass Inhalte unsere Richtlinien verletzen, sodass wir Verstöße gegen die Richtlinien schnell entfernen können.

Nichtsdestotrotz unterscheiden sich Fehlinformationen von anderen Inhalten. Kontext und die Faktenüberprüfung sind entscheidend für die konsequente und genaue Durchsetzung unserer Richtlinien gegen Fehlinformationen. Wir setzen zwar maschinelle Lernmodelle ein, um potenzielle Fehlinformationen aufzuspüren, aber letztendlich ist es unser Moderationsteam, das Fehlinformationen bewertet, bestätigt und entfernt. Wir haben auf Fehlinformationen spezialisierte Moderator*innen, die über eine erweiterte Ausbildung, besondere Expertise sowie Werkzeuge verfügen, um gegen Fehlinformationen vorzugehen. Dazu gehört auch der direkte Zugang zu unseren Fact-Checking-Partnern, die uns helfen, die Richtigkeit der Inhalte zu bewerten.

Wir haben mehr als ein Dutzend Partner-Institutionen für Faktenchecks rund um die Welt, die Inhalte in über 30 Sprachen prüfen. Alle unsere Fact-Checking-Partner sind vom International Fact-Checking Network's code of principles als verifizierte Unterzeichner akkreditiert. Aus Gründen der Vorsicht werden Inhalte, die einer Faktenprüfung unterzogen werden, oder Inhalte, die durch eine Faktenprüfung nicht bestätigt werden können, nicht für die Empfehlung in Für-dich-Feeds zugelassen. Wenn die Faktenprüfer*innen bestätigen, dass der Inhalt falsch ist, können wir das Video von unserer Plattform entfernen oder das Video nicht mehr für die Empfehlung in Für-dich-Feeds zulassen.

Um die Erkennung und Entfernung von Fehlinformationen auch weiterhin zu verbessen, haben wir dieses Jahr in folgende Bereiche investiert:

  • Fortlaufende Investitionen in Modelle für maschinelles Lernen und eine erhöhte Kapazität, diese Modelle zügig weiterzuentwickeln, angesichts des schnellen Wandels, den Fehlinformationen durchlaufen
  • Verbesserte Erkennung bereits bekannter, irreführender Audio-Inhalte und Bilder, um manipulierte Inhalte zu reduzieren
  • Eine Datenbank mit bereits überprüften Behauptungen eingeführt, die Moderator*innen bei der Bewertung von Inhalten hilft, schnelle und genaue Entscheidungen zu treffen
  • Ein proaktives Erkennungsprogramm mit unseren Faktenprüfer*innen gestartet, die proaktiv neue und sich entwickelnde Behauptungen, die sie im Internet entdecken, markieren. Das erlaubt es uns, die Initiative zu übernehmen und diese Behauptungen aktiv auf unserer Plattform aufzufinden und Verstöße gegen unsere Richtlinien zu entfernen. Seitdem wir dieses Programm im letzten Quartal ins Leben gerufen haben, haben wir 33 neue Fehlinformationen identifizieren können, die zur Entfernung von 58.000 Videos von unserer Plattform geführt haben.

Obwohl Verstöße gegen unsere Integritäts- und Authentizitätsrichtlinien weniger als 1 % der gesamten Videoentfernungen ausmachen, haben unsere kontinuierlichen Investitionen unmittelbare Auswirkungen auf die proaktive Erkennung und Durchsetzung dieser Richtlinien.

Zusammenarbeit mit Expert*innen

Wir sind der festen Überzeugung, dass die Zusammenarbeit mit Expert*innen der Schlüssel zur Bewältigung der oben genannten Herausforderung ist. Wir arbeiten regelmäßig mit unserem Sicherheitsbeirat, sowie Wissenschaftler*innen, zivilgesellschaftlichen Organisationen und Expert*innen für Medienkompetenz zusammen. Diese Zusammenarbeit trägt nicht nur dazu bei, unsere Richtlinien und unser allgemeines Wissen über Trends und Probleme zu verbessern, sondern ermöglicht es uns auch, wichtige Stimmen in unserer App zu Wort kommen zu lassen.

So haben wir beispielsweise einen Hub für Medienkompetenz in unserer App eingerichtet, in dem Inhalte von Expert*innen von MediaWise und der National Association of Media Literacy Education vorgestellt werden. Diese Inhalte zielen darauf ab, Menschen in die Lage zu versetzen, die von ihnen konsumierten Inhalte zu bewerten. Um die Integrität von Wahlen zu fördern, haben wir Wahlzentren eingerichtet, die Zugang zu verlässlichen Informationen über Wahlen und Kommunalwahlen bieten. In Deutschland haben wir z.B. für die Bundestagswahl 2021 gemeinsam mit dem öffentlich-rechtlichen Sender ARD eine In-App-Informationsseite veröffentlicht. Um das Gesundheitswesen zu unterstützen, können die Menschen über Hashtag-PSAs (Public Service Announcements / öffentliche Bekanntmachnungen) und Kennzeichnungen auf Videos Informationen über COVID-19 und Affenpocken von der Weltgesundheitsorganisation erhalten.

Wir werden diese Herausforderung auch in Zukunft immer wieder neu angehen und wissen, dass unsere Arbeit nie abgeschlossen sein wird. Mehr Informationen zu unseren Bemühungen zum Schutz unserer Plattform gibt es in unserem Transparenzzentrum.


Über TikTok
TikTok ist die führende Plattform für mobile Kurzvideos. Unsere Mission ist es, Menschen zu inspirieren und zu bereichern, indem wir ihnen ein kreatives Zuhause geben und ihnen ein authentisches, unterhaltsames und positives Erlebnis bieten. TikTok hat weltweit Büros in Los Angeles, New York, London, Paris, Berlin, Dubai, Mumbai, Singapur, Jakarta, Seoul, und Tokio. www.tiktok.com

Pressekontakt TikTok
Simone Schiefke
Head of Communications TikTok Deutschland, Österreich, Schweiz, Niederlande
dachcomms@tiktok.com

Pressestelle TikTok D-A-CH
FAKTOR 3 AG
Kattunbleiche 35 | 22041 Hamburg
tiktok@faktor3.de