AI生成コンテンツに対して自動でラベル付けを開始。C2PAと連携し、「コンテンツクレデンシャル（Content Credentials）」機能を動画プラットフォームとして初めて実装


ショートムービープラットフォーム「TikTok（ティックトック）」では、クリエイターの皆さんがAI生成コンテンツ（以下、AIGC）を使用して安全かつ責任感を持って創造性を発揮できるよう、継続的な取り組みを行っており、この度その最新情報をお知らせします。

TikTokは、AIGCが他のプラットフォームからTikTokにアップロードされた際に、自動的にラベル付けすることを開始します。これを実現するために、コンテンツの出所と信頼性に関する標準化団体Coalition for Content Provenance and Authenticity (以下、C2PA)と連携し、C2PAの「コンテンツクレデンシャル（Content Credentials）」機能を動画プラットフォームとして初めて実装します。また、クリエイターの皆さんにAIGCや誤情報について正しく理解いただけるよう、MediaWiseを含む専門家の指導のもと開発した新しいメディアリテラシーに関する教材を公開します。

AIの進化に伴う、透明性への投資
AIは素晴らしい創造的な機会を提供しますが、コンテンツがAIによって生成されたものであることを知らないと、ユーザーを混乱させたり誤解を招くことがあります。動画にラベル付けを行うことは、そのコンテンツの文脈を明確にするのに役立ちます。そのため、私たちは昨年からTikTokのAIエフェクトを使用したAIGCにラベルを付けており、クリエイターの皆さんには現実に存在するようなAIGCにラベル付けすることを義務付けています。さらに、クリエーターがこれを簡単に行えるように、業界初のツールを開発し、昨年秋以来、3,700万人以上のクリエイターの皆さんに利用いただいています。

業界と協力してAIGCへのラベル付けを実施
本日より、C2PAの技術である「コンテンツクレデンシャル」機能を導入し、他のプラットフォームで作成されたAIGCにも自動的にラベル付けを実施します。「コンテンツクレデンシャル」機能は、コンテンツに「メタデータ」を付加するもので、これを利用してAIGCを即座に認識し、ラベルを付けることができます。本機能は本日より画像と動画コンテンツに対して適用され、近日中に音声のみのコンテンツに対しても適用される予定です。

また今後数ヶ月の間に、TikTokのコンテンツにもダウンロードした際に「コンテンツクレデンシャル」を付与し始めます。つまり、誰でもC2PAの認証ツールを使って、TikTokで作成されたAIGCを特定し、コンテンツがいつ、どこで、どのように作成または編集されたかを知ることができるようになります。「コンテンツクレデンシャル」を採用している他のプラットフォームでは、自動的にラベルを付けることができるようになります。


業界における導入の推進
業界での「コンテンツクレデンシャル」の導入を促進するため、当社はContent Authenticity Initiative（CAI）にも参加しています。TikTokは、「コンテンツクレデンシャル」機能を実装した最初の動画プラットフォームです。TikTok上で自動的にAIGCを識別し、ラベル付けするためには、「コンテンツクレデンシャル」のメタデータが必要です。そのため、最初のうちは自動でラベル付けされたAIGCは緩やかに増加することが予想されます。しかし、他のプラットフォームでも「コンテンツクレデンシャル」機能が実装されれば、私たちはより多くのコンテンツにラベルを付けることができるようになります。

　　　　Dana Rao, General Counsel and Chief Trust Officer, Adobe
　　　　「TikTokは世界中の広大なクリエイターとユーザーのコミュニティを有しており、プラットフォーム上でより透明性と信頼性を提供する道を歩み始める彼らをC2PAとCAIの両方にお迎えできることを嬉しく思います。どのようなデジタルコンテンツも改ざんされ得るこの時代に、何が真実なのかを一般の方々が見分ける方法を提供することは必要不可欠です。本日のこの発表は、その成果を達成するための重要な一歩です。」


メディアリテラシーの向上
専門家の皆さんは、責任のあるコンテンツ制作を支援する方法としてAIGCへのラベル付けを広く推奨しています。一方で、ラベルが何を意味するのかについて、文脈をユーザーの皆さんが理解していないと、混乱が生じる可能性があることも指摘しています。そのため、私たちは専門家の皆さんと協力し、コミュニティの皆さんがAIGCや誤情報を識別し、論理的に論理的に理解することを支援するためのメディアリテラシーキャンペーンに取り組んでいます。

　　　Alex Mahadevan, Director, MediaWise
　　　「私たちのTeen Fact-Checking Networkは2019年以来、TikTokで革新的なメディアリテラシー動画を投稿することで視聴者を獲得してきました。5年が経ち、さらに多くの人々にオンラインで事実とフィクションを区別する力を提供できることを嬉しく思います。」


有害なコンテンツへの継続的な対応
ほとんどの方がAIGCを責任を持って楽しみたいと思っている一方で、AIGCを利用して意図的に他人を欺こうとする悪質な行為者も存在します。私たちは、そのようなリスクに対して警戒しており、TikTokのポリシーでは、ラベルの有無にかかわらず、有害な誤解を招くようなAIGCを固く禁じています。また、TikTokは今年、選挙における欺瞞的なAIの使用に対応する業界協定（A Tech Accord to Combat Deceptive Use of AI in 2024 Elections）に署名しました。AIの進化に伴い、私たちは積極的な検出モデルを進化させ、専門家の皆さんと協議し、同業他社と共同で解決策を模索することで、有害なAIGC対策への投資を続けています。 詳しくは、TikTok透明性センターをご覧ください。