Более миллиарда людей делятся в TikTok своим творчеством, знаниями и эмоциями, развлекая и радуя глобальное сообщество платформы. Чтобы сохранить безопасную и доброжелательную атмосферу, TikTok удаляет контент, нарушающий Правила сообщества платформы. TikTok стремится открыто рассказывать авторам и пользователям платформы об удаленном контенте и регулярно публикует Отчеты о соблюдении Правил сообщества. Сегодня опубликован Отчет за апрель-июнь 2022 года, в котором собрана информация об усилиях платформы по выявлению дезинформирующего контента.

Дезинформация существовала всегда, а интернет стал еще одной площадкой, где она может появляться. Мы понимаем, какую роль играет недостоверная информация в подрыве общественного доверия к таким институтам и процессам как здравоохранение, выборы, наука и многим другим. TikTok принимает активное участие в нивелировании проблемы дезинформации и относится к ней со всей серьезностью. Чтобы остановить распространение недостоверных сведений, платформа применяет комплексный подход, увеличивая объем проверенной информации и активно повышая уровень цифровой грамотности пользователей.

Правила сообщества платформы

Правила сообщества в области защищенности и подлинности контента направлены на продвижение надежного и подлинного пользовательского опыта на платформе. TikTok удаляет контент, который может ввести в заблуждение сообщество платформы и подорвать общественное доверие к гражданским институтам и процессам. Например, в TikTok запрещена публикация недостоверной информации о вакцинах или COVID-19, а также запрещен контент, который дезинформирует участников относительно темы выборов. Правила платформы в этой области касаются различных категорий публикуемого контента, а перечень запрещенной информации регулярно обновляется в зависимости от обстановки в мире.

Помимо удаления недостоверного или приносящего вред сообществу платформы контента TikTok также удаляет аккаунты, вводящие пользователей в заблуждение или использующие TikTok для влияния на общественное мнение. К запрещенным действиям относятся различные активности на платформе: как создание фейковых учетных записей, так и более изощренные попытки подрыва общественного доверия к какому-либо гражданскому процессу или институту. Те, кто занимается распространением дезинформации, постоянно совершенствуют свой подход и тактики, поэтому TikTok непрерывно работает над улучшением Правил сообщества платформы по мере обнаружения новых типов запрещенного контента или поведения.

Как TikTok обеспечивает соблюдение Правил сообщества

В TikTok cоблюдение Правил сообщества обеспечивается как за счет использования передовых технологий, так и благодаря работе профессиональной команды в области безопасности. Для повышения эффективности инструментов по обеспечению безопасности пользователей, платформа продолжает активно инвестировать в развитие технологий в области обнаружения и удаления контента. Чтобы оперативно устранять нарушения на платформе, TikTok использует автоматическую модерацию в том случае, если системы платформы с высокой долей уверенности могут определить нарушающий Правила сообщества контент.

Однако дезинформация отличается от других типов запрещенного контента. Для последовательного и точного соблюдения политики платформы в отношении дезинформации необходимо учитывать контекст и проверять факты. Поэтому, несмотря на то, что TikTok использует модели машинного обучения для выявления потенциальной дезинформации, основную работу по оценке, подтверждению и удалению недостоверной информации или аккаунтов выполняет команда модераторов платформы. В TikTok работают модераторы, специализирующиеся на определении дезинформации, обладающие необходимой экспертизой и навыками для выявления подобного контента. У команды модераторов также есть прямой доступ к нашим партнерам платформы по проверке фактов, которые помогают определять подлинность информации.

TikTok сотрудничает с более чем десятью разными партнерами по проверке фактов по всему миру, которые анализируют контент на более чем 30 языках. Все партнеры платформы аккредитованы в Международной сети проверки фактов и придерживаются свода принципов проверки фактов Сети. Из соображений безопасности, контент, который находится в процессе проверки фактов или не подтвержденный после проверки не будет отображаться в ленте рекомендаций TikTok. Если специалисты по проверке фактов подтвердят недостоверность опубликованной информации, TikTok может удалить такое видео или сделать его недоступным для просмотра в ленте рекомендаций.

TikTok постоянно улучшает инструменты для определения и удаления дезинформации, например, в этом году было сделано следующее:

  • инвестирование в модели машинного обучения и расширение возможностей для быстрого обновления этих моделей, учитывая стремительно меняющийся характер дезинформации.
  • улучшение инструментов для обнаружения вводящих в заблуждение аудио и фото, чтобы снизить объем манипулятивного контента.
  • разработка базы данных ранее проверенных фактов, помогая модераторам по дезинформации принимать быстрые и точные решения.
  • внедрение программы проактивного обнаружения, в рамках которой специалисты по проверке фактов помечают найденные ими факты или утверждения для проверки. Подобный подход позволяет команде TikTok искать на платформе ранее обнаруженные в интернете ложные утверждения и удалять их. С начала старта программы в третьем квартале 2022 года были обнаружены 33 новых дезинформирующих заявления, а с платформы были удалены 58 тыс. видеороликов с выявленной дезинформацией.

Тогда как видео, удаленные за нарушение Правил сообщества платформы в области защищенности и подлинности контента, составляют менее 1% от всего объема удаленных роликов, постоянное совершенствование нашего подхода и инструментов уже помогло достичь существенных результатов в проактивном удалении дезинформирующего контента.

Сотрудничество с экспертами

Для решения проблемы дезинформации TikTok сотрудничает с экспертным сообществом. Платформа регулярно взаимодействует со своим Консультационным советом по безопасности и контенту, исследователями, институтами гражданского общества и экспертами в области медиаграмотности. Подобное сотрудничество не только помогает укрепить Правила сообщества платформы и общее знание тенденций и проблем, но также позволяет повысить достоверность и надежность TikTok. Например, в рамках поддержки общественного здравоохранения TikTok помогает пользователям найти информацию о COVID-19 от Всемирной организации здравоохранения через специальные хештеги и маркировки на видео.

TikTok продолжит борьбу с дезинформацией и активную работу в этой области. Получить больше информации о мерах по обеспечению безопасности сообщества можно в Центре безопасности платформы.