Сегодня мы делимся последними достижениями, направленными на то, чтобы помочь авторам контента безопасно и ответственно делиться творчеством с использованием помощью контента, созданного с помощью искусственного интеллекта (AIGC). TikTok начинает автоматически маркировать контент, созданный искусственным интеллектом (AIGC), когда он загружается с некоторых специализированных платформ. Для этого мы сотрудничаем с Коалицией по проверке происхождения и аутентичности контента (C2PA) и стали первой платформой для обмена видео, которая внедрила их технологию Content Credentials. Чтобы помочь нашему сообществу ориентироваться в контенте AIGC и остерегаться дезинформации в Интернете, мы также запускаем новые ресурсы по медиаграмотности, которые мы разработали с помощью экспертов, включая MediaWise и WITNESS.

Инвестиции в прозрачность по мере развития ИИ

ИИ открывает невероятные возможности для творчества, при этом может запутать или ввести в заблуждение пользователей, если они не знают, что контент был сгенерирован ИИ. Маркировка помогает прояснить этот контекст - именно поэтому мы маркируем контент AIGC, созданный с помощью AI-эффектов TikTok, и уже более года требуем от авторов маркировать реалистичный контент AIGC. Мы также создали первый в своем роде инструмент для упрощения этой процедуры, которым с осени прошлого года воспользовались более 37 миллионов авторов.

Партнерство с индустрией для маркировки контента AIGC

С сегодняшнего дня мы расширяем возможности автоматической маркировки контента AIGC, созданного на некоторых других платформах, запустив возможность считывания Content Credentials - технологии, разработанной Коалицией по проверке достоверности и аутентичности контента (C2PA). Content Credentials прикрепляет метаданные к контенту, которые мы можем использовать для мгновенного распознавания и маркировки контента AIGC. Сегодня эта возможность начала распространяться на изображения и видео, а в скором времени она коснется и аудиоконтента.

В ближайшие месяцы мы также начнем прикреплять к контенту TikTok учетные данные контента, которые будут оставаться на контенте после загрузки. Это означает, что любой человек сможет использовать инструмент C2PA "Проверка" для идентификации контента AIGC, сделанного в TikTok, и даже узнать, когда, где и как он был сделан или отредактирован. Другие платформы, которые примут Content Credentials, смогут автоматически маркировать его.

Стимулирование внедрения в отрасли

Чтобы способствовать внедрению Content Credentials в нашей отрасли, мы также присоединились к инициативе по обеспечению подлинности контента (CAI), возглавляемой Adobe. TikTok стал первой платформой для обмена видео, внедрившей Content Credentials на практике. Это означает, что поначалу увеличение числа автоматически маркируемых роликов AIGC на TikTok может быть постепенным, поскольку они должны иметь метаданные Content Credentials, чтобы мы могли их идентифицировать и маркировать. Однако по мере того, как другие платформы будут внедрять эту технологию, мы сможем маркировать все больше контента.

"Учитывая огромное сообщество авторов и пользователей TikTok по всему миру, мы рады приветствовать их в C2PA и CAI, поскольку они начинают путь к обеспечению большей прозрачности и подлинности на платформе. В наше время, когда любой цифровой контент может быть изменен, очень важно предоставить общественности возможность определить, что является правдой. Сегодняшнее объявление - важнейший шаг на пути к достижению этой цели" - Дана Рао, General Counsel and Chief Trust Officer в Adobe.

Повышение уровня медиаграмотности

Хотя эксперты широко рекомендуют маркировку AIGC как способ поддержки ответственного создания контента, они также предупреждают, что маркировка может привести к путанице, если зрители не поймут, что она означает. Именно поэтому мы сотрудничаем с экспертами в разработке кампаний по повышению медиаграмотности, которые помогут нашему сообществу определить и критически осмыслить AIGC и дезинформацию.

В сотрудничестве с MediaWise, программой Института Пойнтера, в течении года мы выпустим 12 видеороликов, в которых расскажем об универсальных навыках медиаграмотности и объясним, как инструменты TikTok, такие как метки AIGC, могут помочь в дальнейшей в контекстуализации контента. Мы также запустим кампанию по повышению осведомленности о маркировке ИИ и потенциально вводящем в заблуждение контенте AIGC, в рамках которой мы подготовили серию видеороликов под руководством экспертов из WITNESS.

"Наша подростковая сеть проверки на соответствие фактам собирает аудиторию благодаря инновационным видеороликам по медиаграмотности на TikTok с 2019 года. Спустя пять лет мы рады помочь еще большему числу людей отделить факты от вымысла в Интернете» – Алекс Махадеван, директор MediaWise.

Продолжение борьбы с вредным контентом

Пока большинство людей готовы ответственно относиться к контенту, созданному с помощью искусственного интеллекта, найдутся злоумышленники, которые захотят использовать AIGC для намеренного обмана других людей. Мы бдительно следим за такими рисками, именно поэтому наша политика решительно запрещает вводящий в заблуждение контент, созданный с помощью ИИ, независимо от того, помечен он или нет, и в этом году подписали отраслевое соглашение о борьбе с использованием ИИ, вводящего в заблуждение на выборах. По мере развития ИИ мы продолжаем инвестировать в борьбу с вредоносным AIGC, совершенствуя наши модели упреждающего обнаружения, консультируясь с экспертами и сотрудничая с коллегами для выработки совместных решений. Подробнее об этом можно узнать в нашем Центре прозрачности.