TikTokTikTokは、世界中の人々が集まり、皆が安心して創造的で多様なエンターテイメントを楽しめる場所です。新しいトレンドにも、デュエット機能を使ってコラボレーションするときも、TikTokコミュニティは創造性であふれています。このように創造的な表現が盛んな環境を育むには、TikTokコミュニティが安全であることが最も重要だと考えています。特に青少年のコミュニティのメンバーにとって安全であることは重要です。TikTokは、このミッションに基づき、保護者と教育者の関心を調査し、専門家の意見を聞き、協力し、TikTokコミュニティに共有していきます。
数ヶ月前、TikTokは、有害な可能性のあるチャレンジやデマに対する若者の関わり方を理解するためのグローバルプロジェクトを立ち上げました。若者、保護者、教育者へのサポートを強化するために、より効果的な対策を模索しています。また、この分野への理解を深めることにも貢献したいと考えており、本日、調査結果と、それに対する私たちの取り組みをご紹介します。
プロジェクト概要
- アルゼンチン、オーストラリア、ブラジル、ドイツ、イタリア、インドネシア、メキシコ、イギリス、アメリカ、ベトナムで1万人以上を対象に調査を実施。
- この報告書は、独立した保護団体であるPraesidio Safeguardingに委託して作成されたもので、主な調査結果と提言がまとめられています。 報告書は、Praesidio Safeguardingの創設者であるゾーイ・ヒルトン博士によって書かれたもので、こちらからご覧いただけます。
- 世界各国の青少年の安全に関する専門家12名による討議を実施、ヒルトン博士の報告書を検討し、意見をいただきました。
- 青少年の健全な育成を専門とする臨床児童精神科医のリチャード・グラハム博士と、青少年のリスク予防を専門とする行動科学者のグレッチェン・ブリオン=マイゼル博士をパートナーに迎え、指導と助言を受けました。
10代の若者のチャレンジに対するリスク評価
ほとんどのチャレンジは楽しく安全なものです。2014年に行われたアイスバケツチャレンジは筋萎縮性側索硬化症（ALS）の認知度向上に貢献し、TikTokで始まった#BlindingLightsChallengeは「家族の絆を深めるブーム」と呼ばれ、家族の親交を深めるのに役立ちました。一方、グラハム博士とブリオン=マイゼル博士からは、思春期は常にリスクを常に好む時期であるという話を聞きました。TikTokは、このような傾向が、10代の若者にどのような動機を与えてチャレンジへの参加を促すのかを理解し、専門家と協力して、彼らが安全な選択をすることをより良くサポートする機会を見出したいと考えました。
今回の調査では、10代の若者に、最近見たオンラインチャレンジのリスクレベルについて尋ねました。その結果、ほぼ半数（48％）のチャレンジが安全だと考えており、楽しいもの、リスクの少ないものであると分類されました。32％は多少のリスクはあるが安全である、14％はリスクがあり危険である、3％は非常に危険であるとしました。非常に危険なチャレンジに参加したことがあると答えた10代の若者はわずか0.3％でした。
今回の調査では、10代の若者は、オンラインチャレンジに参加する前に、そのリスクを理解するためにさまざまな方法を用いていることがわかりました。これには、他の人がチャレンジに参加している動画を見る、コメントを読む、友人に話を聞くなどの方法がありました。10代の若者の安全を守るために最も重要な手段の一つは、潜在的なリスクに気づき、評価する方法を教えることでした。10代の若者の半数近く（46％）が、「リスクに関する情報をもっと広く伝えてほしい」、「何が危険なのかを教えてほしい」と回答しています。
デマの影響に対する保護者の懸念
自殺や自傷行為のデマは、事実ではないことを人々に信じ込ませようとするものです。このようなデマは似たような特徴を持っていることが多く、過去には、子どもたちが自傷行為につながる「ゲーム」に参加するように促されているというデマが流されたこともあります。このようなデマは、いったん仕掛けられると、悪い結果を避けるためにできるだけ多くの人に注意を促すような警告メッセージとなり大きく広がります。このような警告メッセージは一見無害に見えますが、今回の調査では、これらのデマにさらされた10代の若者の31％が「悪影響を受けた」と回答しています。そのうち63％は、「精神的な影響を受けた」と答えています。
このようなデマについて、保護者が10代の若者にどのように話してよいかわからないという声も聞きました。デマの名前を口にしてしまうと、それまで知らなかった潜在的に有害な行動に、10代の若者が気づいてしまうのではないかと心配しているのです。半数以上（56％）の保護者が、自傷行為に関するデマについては、10代の若者が最初に口にしない限り、口にしないと回答しており、37％の保護者は、デマへの関心を持たせずに話をするのは難しいと感じています。
保護活動の強化
ヒルトン博士の報告書の結果を利用して、ポリシーやプロセスの見直しを行い、既存の安全措置に基づいていくつかの改善を行っています。
今回の調査では、自傷行為のデマに関する警告メッセージが、たとえ良かれと思って共有されたものであったとしても、10代の若者の健全な生活に影響を与える可能性があることが示されました。TikTokでは既に自傷行為のデマの拡散の防止に努めていますが、自傷行為のデマに対する警告メッセージが、デマを本当のものであると見せてしまう恐れがある為、今後削除していきます。ただし、パニックを払拭し、正確な情報を広めることを目的としたコミュニケーションは引き続き許可していきます。
一方で、非常に危険なチャレンジに参加したことがあると答えた10代の若者がわずか0.3％であったことは心強いことですが、さらに改善の余地があると考えています。強力なポリシーを持つことは、コミュニティを守るための活動として重要であり、これらのポリシーに違反するコンテンツの検知検知と処理の実行と結びついていることが不可欠です。私たちは、ハッシュタグに関連した違反コンテンツが急激に増加した場合に、安全管理チームに警告する技術を開発しました。例えば、「#FoodChallenge」のようなハッシュタグは、料理のレシピや料理のインスピレーションを共有するためによく使われています。このようなハッシュタグに関連するコンテンツが急増し、当社のポリシーに違反していることに気づいた場合、当社のチームは警告を受けてその原因を探り、潜在的に有害な傾向や行動を防ぐための対策を講じることができます。
コミュニティメンバーをサポートするための新しいリソース
この報告書から得られた主な知見の1つは、10代の若者、保護者、教育者が、チャレンジとデマに関するより良い情報を必要としているということです。私たちは、グラハム博士、ブリオン=マイゼル博士、アン・コリアー（The Net Safety Collaborativeの創設者兼エグゼクティブ・ディレクター）と協力して、チャレンジとデマをテーマとした新しい情報リソースをセーフティセンターに追加しました。この資料には、10代の子どもたちとこの話題について話し合うことに不安を感じている保護者の方々に向けたアドバイスも含まれています。
最後に、グラハム博士とブリオン=マイゼル博士と協力して、有害なチャレンジやデマに関連するコンテンツを検索した人に表示される警告ラベルの表現を改善しました。また、自殺や自傷行為に関連するデマを検索した場合には、検索結果に追加の情報リソースを表示するようにしました。
このプロジェクトを始めるにあたり、オンライン・セーフティの専門家からは「保護者や教育者、NGOの方々が効果的な対処方法を知らない」という意見を何度も耳にしました。TikTokは、世界をリードする専門家の方々と一緒に実施した今回の調査が、このテーマに深い貢献をし、広く洞察を得られる機会となることを願っています。現在の活動は、業界全体で行われるべき重要な活動の一部に過ぎないと考えており、コミュニティのためにさらなる対策を検討・実施していきます。
