Von Alexandra Evans, Head of Safety Public Policy, Europa

Neue Maßnahmen, Hinweise und Infomaterial sollen dafür sorgen, dass Jugendliche auf TikTok noch sicherer unterwegs sind und Hoaxes oder gefährdende Challenges sich nicht mehr verbreiten.

TikTok inspiriert Millionen Menschen auf der ganzen Welt und wir finden es toll, dass unsere Plattform für so viel Freude und Verbundenheit sorgt. Egal, ob unsere Community nun einen komplett neuen Trend erfindet oder die „Duett“-Funktion nutzt, um mit anderen zusammen, Neues zu erschaffen – die Kreativität unserer Nutzer*innen ist auf TikTok jederzeit sichtbar.

Damit wir weiterhin eine Plattform zur Verfügung stellen können, auf der Ideenreichtum und Kreativität gedeihen kann, wollen wir die Sicherheit unserer Community noch stärker in den Vordergrund stellen. Gerade für junge Nutzer*innen soll TikTok ein sicheres Umfeld bleiben – das ist uns genauso wichtig, wie Eltern und Erziehungsberechtigten. Um dieses Ziel zu erreichen, arbeiten wir mit externen Sicherheitsexpert*innen zusammen und folgen ihren Ratschlägen.

Um besser zu verstehen, wie junge Menschen mit potenziell gefährlichen Challenges oder Hoaxes in Berührung kommen, haben wir vor einigen Monaten eine weltweite Studie gestartet. Obwohl dieses Thema nicht auf TikTok als Plattform beschränkt ist, verstehen wir die Herausforderungen und Sorgen, die solche Inhalte mit sich bringen. Deshalb war es uns ein besonderes Anliegen, mehr über derartige Tendenzen herauszufinden.

Außerdem ist es uns wichtig, dass wir – sollte so etwas vorkommen – eine adäquate Antwort darauf parat haben, um Teenager, Eltern und Pädagog*innen besser zu unterstützen. Wir hoffen, mit dieser Studie zu einem breiteren Verständnis auf diesem Gebiet beizutragen und möchten heute erste Ergebnisse der Studie präsentieren und Maßnahmen vorstellen, wie wir mit diesen Erkenntnissen umgehen.

Für das Projekt haben wir…

  • …mehr als 10.000 Teenager, Lehrer*innen und Eltern aus Argentinien, Australien, Brasilien, Deutschland, Italien, Indonesien, Mexiko, Großbritannien, den USA und Vietnam befragt.
  • …„Praesidio Safeguarding“, eine unabhängige Agentur für Schutz im Netz, mit der Erstellung eines Berichts beauftragt, in dem die wichtigsten Ergebnisse und Empfehlungen festgehalten werden. Der von Dr. Zoe Hilton, Direktorin und Gründerin von „Praesidio Safeguarding“, verfasste Report kann <hier> nachgelesen werden.
  • …ein Gremium von zwölf führenden Jugendschutzexpert*innen aus der ganzen Welt einberufen, um den Bericht von Hilton zu prüfen und gegebenenfalls zu ergänzen.
  • …mit Dr. Richard Graham, einem klinischen Kinderpsychiater, der sich auf das gesunde Heranwachsen von Jugendlichen spezialisiert hat, und Dr. Gretchen Brion-Meisels, einer Verhaltensforscherin, die sich auf Risikoprävention im Jugendhalter fokussiert, zusammengearbeitet, damit sie uns beraten und uns anleiten.

Was uns Jugendliche über ihre Risikobewertung erzählt haben

Die meisten Challenges auf TikTok machen Spaß und sind völlig ungefährlich. Die Ice-Bucket-Challenge von 2014 hat sogar etwas sehr Gutes bewirkt: Sie verstärkte das Bewusstsein für amyotrophe Lateralsklerose (ALS). Und auch die #BlindingLightsChallenge wurde ein Hit auf TikTok und brachte Familien wieder näher zusammen.

Die Ärzt*innen Graham und Brion-Meisel erklärten uns, dass gerade Heranwachsende gern ein größeres Risiko eingehen. Wir wollten deshalb verstehen, wie diese Neigung, sich mehr zu trauen und Risiken auszutesten, Teenager dazu bringt, an Challenges teilzunehmen. Denn nur, wenn wir diesen Zusammenhang verstehen, können wir mithilfe von Expert*innen Maßnahmen erarbeiten, wie wir die jüngeren Nutzer*innen von TikTok dabei unterstützen können, sicherere Entscheidungen zu treffen.

In der Studie wurden Jugendliche nun gebeten, den Risikograd der Challenges einzuschätzen, die sie kürzlich gesehen hatten. Fast die Hälfte (48 %) sagte, dass die letzten Challenges, die sie gesehen hatten, völlig ungefährlich gewesen seien und stuften sie sogar als lustig ein. 32 Prozent enthielten, laut den befragten Jugendlichen, ein gewisses Risiko, waren aber dennoch sicher. 14 Prozent wurden als riskant und gefährlich beschrieben, während 3 Prozent der Challenges als sehr gefährlich bezeichnet wurden. Dass sie schon einmal an einer dieser als sehr gefährlich eingestuften Challenges teilgenommen hätten, gaben jedoch lediglich 0,3 Prozent der Befragten an.

Die Studie zeigte auch, dass Jugendliche jetzt schon eine Reihe von Methoden entwickelt haben, um die Risiken einer Challenge abzuwägen, bevor sie an ihr teilnehmen. So schauen sie sich beispielsweise vorher Videos von Menschen an, die schon bei der Challenge mitgemacht haben, lesen die Kommentare unter den Clips und sprechen mit ihren Freund*innen darüber. Um Jugendlichen noch mehr Hilfestellung zu geben, das potenzielle Risiko einer Challenge einzuschätzen, wurden verschiedene Maßnahmen festgelegt. Fast die Hälfte (46 %) der Teenager gab an, dass sie sich „mehr Informationen über die Risiken im Allgemeinen“ wünschten und Infos darüber, „was zu weit geht“.

Wir nehmen die Sorgen von Eltern ernst

Als Hoaxes werden Falschmeldungen bezeichnet, die ihren Rezipient*innen Angst vor etwas machen, das nicht existiert. Viele Hoaxes oder Falschmeldungen weisen ähnliche Merkmale auf; beispielsweise kursierten in der Vergangenheit häufiger falsche Warnungen, Kinder würden Online von Fremden dazu aufgefordert, sich an „Spielen“ zu beteiligen, die zu Selbstverletzungen führten. Einmal in Umlauf gebracht, verbreiten sich diese Hoaxes schnell.

Meist werden sie von Menschen aus dem guten Glauben heraus geteilt, dass man durch die Verbreitung auch andere vor der vermeintlichen Gefahr warnt. Die Weitergabe solcher Falschmeldungen als „Warnungen“ erscheint zunächst harmlos, doch unsere Studie hat ergeben, dass 31 Prozent der Jugendlichen, die diese Hoaxes gesehen oder gelesen haben, sie ernst nahmen und sich davon negativ beeinflusst fühlten. Zwei Drittel (63%) gaben an, dass es ihnen danach psychisch schlecht ging.

Häufig sind sich Erziehungsberechtigte nicht sicher, wie sie mit ihren Heranwachsenden über solche Hoaxes sprechen sollen. Sie machen sich Sorgen, dass sie, wenn sie den Hoax erwähnen, ihre Teenager erst auf eine Meldung aufmerksam machen, von der sie zuvor noch gar nichts gehört hatten. Mehr als die Hälfte (56 %) der Eltern gaben an, dass sie einen Hoax, der zu Selbstverletzung führen könnte, nur dann erwähnen würden, wenn sie wüssten, dass ihr Kind ihn kennen würde. 37 Prozent der Eltern sagen, dass es schwierig ist, über solche Hoaxes zu sprechen, ohne so gerade das Interesse an ihnen zu wecken.


TikTok verstärkt seine Schutzmechanismen

Wir haben uns eingehend mit dem Bericht von Zoe Hilton von „Praesidium Safeguarding“ beschäftigt und unsere Richtlinien und Prozesse anhand dessen noch einmal überprüft. Eine Reihe von Maßnahmen wird den bereits bestehenden Jugendschutz und den Schutz vor Hoaxes verbessern.

Die Studie hat gezeigt, wie solche Hoaxes und Falschmeldungen – selbst wenn sie in bester Absicht verbreitet werden – das Wohlbefinden von Jugendlichen beeinflussen können. Wir arbeiten bereits daran, solche Hoaxes zu entfernen und deren Verbreitung einzudämmen, um die Community dauerhaft zu schützen, da diese Falschmeldungen von einigen Nutzer*innen als wahr angesehen werden. Weiterhin ein wichtiger Bestandteil von TikTok bleiben allerdings Aussagen, die richtig sind und Angst eindämmen, gleichzeitig wahrheitsgemäße Informationen verbreiten sollen.

Auf der einen Seite ist es für uns ermutigend, dass nur 0,3 Prozent der befragten Teenager angaben, dass sie jemals an einer gefährlichen Challenge teilgenommen haben. Auf der anderen Seite wollen wir nicht so tun, als sei unser Job damit erledigt. Strenge Richtlinien sind ein wichtiger Teil unserer Sicherheitsstrategie und es ist unerlässlich, dass sie mit sinnvollen Maßnahmen zur Erkennung solcher Tendenzen gekoppelt sind und wir über Möglichkeiten verfügen, dagegen vorzugehen.

Um das zu gewährleisten, haben wir Technologien entwickelt, die bei unseren Sicherheitsteams Alarm schlagen, wenn sich unter einem bestimmten Hashtag plötzlich andersartige oder gar gefährdende Inhalte sammeln. Beispielsweise wird der Hashtag #FoodChallenge oft verwendet, um Kochrezepte und -Inspirationen zu teilen. Sollte es zu einer Zunahme von Inhalten kommen, die mit dem eigentlichen Inhalt des Hashtags nichts zu tun haben und unsere Richtlinien verletzen, werden wir die Ursache dafür untersuchen und Maßnahmen ergreifen, um gegen solche potenziell gefährlichen Trends oder Verhaltensweisen vorzugehen.

Neues Informationsmaterial für die Community

Eine der wichtigsten Erkenntnisse aus unserer Studie ist, dass sowohl Teenager als auch Eltern und Pädagog*innen bessere Informationen über Challenges und Hoaxes benötigen, um adäquat mit ihnen umzugehen. Deshalb haben wir mit den Expert*innen Graham, Brion-Meisels und Anne Collier (Gründerin und Vorstandsmitglied von The Net Safety Collaborative) daran gearbeitet, neues Info-Material für unser Sicherheitszentrum zusammenzustellen – alles im Bezug auf Challenges und Hoaxes. Dazu gehören auch Ratschläge für Erziehungsberechtigte, wie sie das Thema mit ihren Teenager ansprechen können. Diese Inhalte werden ab Anfang 2022 im Sicherheitszentrum verfügbar sein.

Für den Fall, dass Nutzer*innen auf TikTok gezielt nach derartigen Hoaxes suchen, werden wir gemeinsam mit den Expert*innen Graham und Brion-Meisels die Warnhinweise auf unserer Plattform verbessern. Community-Mitglieder, die explizit nach gefährdenden Inhalten suchen, werden ermuntert, dass Sicherheitszentrum zu besuchen, um dort mehr über derartige Hoaxes zu lernen. Außerdem zeigen wir ihnen zusätzliche Infos zu Challenges und Hoaxes und deren Einfluss auf.


Als wir unser Studienprojekt begonnen haben, sprachen wir mit zahlreichen Expert*innen für Sicherheit. Ihre größte Sorge war, dass Erziehungsberechtigte, Lehrer*innen oder NGO-Mitarbeiter*innen häufig nicht wüssten, wie sie einschreiten sollen, wenn sie von solchen Inhalten erfahren. Wir hoffen, dass die Maßnahmen, die wir mit unseren Expert*innen getroffen haben, einen sinnvollen Beitrag zu diesem Thema leisten können und auch andere Plattformen von uns etwas über das Thema lernen können. Wir wissen, dass die Maßnahmen, die wir jetzt erarbeitet haben nur ein Teil der wichtigen Arbeit ist, die wir und die gesamte Branche kontinuierlich fortführen müssen. Wir werden auch weiterhin daran arbeiten, unsere Plattform so sicher wie möglich zu machen, damit sich unsere Community jederzeit wohl fühlt.