줄리 드 바이엔쿠트(Julie de Bailliencourt), 틱톡 상품 정책 글로벌 총괄(Global Head of Product Policy)

틱톡은 크리에이터들이 진정성 있는 콘텐츠를 제작하기 위해 쏟는 창의력, 자기 표현, 그리고 진실된 마음으로 운영되는 엔터테인먼트 플랫폼입니다. 틱톡의 커뮤니티 가이드라인은 플랫폼에서 허용되지 않는 행동과 콘텐츠를 정립 및 기술하며 사람들이 틱톡의 정책을 위반할 경우 플랫폼을 안전하게 보호할 수 있도록 위반 콘텐츠에 대한 조치를 취하며 해당되는 경우 계정에 대한 조치로 이어집니다.

대부분의 커뮤니티 회원들은 자사 정책을 준수하려고 노력하지만 반복적으로 정책을 위반하고 그 행동을 바꾸지 않는 소수의 사람들이 존재합니다. 틱톡은 오늘 상습 위반자에 대한 대응을 개선하기 위해 계정 단속을 강화하는 시스템 업데이트를 발표하려고 합니다. 이러한 변경사항이 유해 계정을 더욱 효율적이고 기민하게 제거하도록 도움을 주면서 자사 정책을 준수하는 대다수의 크리에이터들에게 더욱 명확하고 일관된 경험을 제공할 수 있다고 확신합니다.


기존 계정 단속 시스템을 업데이트 하는 이유

기존 계정 단속 시스템은 향후 위반 가능성을 줄이기 위해 상품 기능에 대한 남용을 방지하면서 사람들에게 정책에 대해 알릴 수 있도록 일시적 포스팅 또는 댓글 게재 금지 등의 다양한 유형의 제재 방안을 활용하고 있습니다. 이러한 접근법은 전반적인 유해 콘텐츠를 감소시키는데 효과적이긴 하지만, 크리에이터들로부터 이해하기 어렵다는 의견을 들은 바 있습니다. 또한, 드문 경우에 무의식적으로 정책을 위반하는 크리에이터에게 과도한 영향을 주는 반면 반복적으로 위반하는 크리에이터를 제지하는데 있어서는 효율성이 다소 낮을 수 있다는 점도 인지하고 있습니다. 상습적인 위반자들은 패턴을 따르는 경향이 있습니다. 분석에 따르면 동일한 방법으로 일관되게 위반하는 경우가 거의 90%에 육박했으며 동일한 정책 카테고리를 반복적으로 위반하는 경우가 75% 이상이었습니다. 틱톡은 크리에이터 커뮤니티를 지원하고 상습적인 위반자들을 플랫폼상에서 제거하여, 이러한 문제를 해소하기 위해 계정 단속 시스템을 업데이트하고 있습니다.


간소화된 계정 단속 시스템 운영 방식

새로운 시스템 하에서 누군가가 커뮤니티 가이드라인을 위반하는 콘텐츠를 게재하는 경우 해당 콘텐츠가 제거되며 해당 사용자의 계정에는 스트라이크(strike)가 부여됩니다. 특정 계정이 기능 항목(예. 댓글, 라이브) 또는 정책(예. 폭력 및 괴롭힘) 스트라이크 기준을 초과하게 되면 이 계정은 영구적으로 정지됩니다. 정책 기준은 커뮤니티 회원에게 피해를 줄 수 있는 잠재적 위반 사항에 따라 상이할 수 있습니다. 예를 들어 유해성이 낮은 스팸을 공유하는 경우보다 혐오 사상을 전파하는 정책 위반에 대한 기준이 더욱 엄격할 수 있습니다. 틱톡은 폭력 조장 또는 협박, 아동 성착취 음란물(CSAM) 또는 현실 폭력범죄나 고문 장면을 포함한 심각한 위반 사항에 대해서는 최초 위반(first strike)의 경우에도 영구 정지 조치를 내릴 예정입니다. 추가적인 보호장치로 정책과 기능에 걸쳐 높은 수의 스트라이크가 누적된 계정의 경우 영구적으로 정지됩니다. 스트라이크는 90일 후 계정 기록에서 만료 처리됩니다.


크리에이터들이 계정 상태를 파악하도록 지원

이러한 변경사항은 단속 결정에 대한 투명성을 제고하고 커뮤니티가 커뮤니티 가이드라인을 준수하는 방법을 이해할 수 있도록 지원할 목적을 가지고 있습니다. 크리에이터들을 추가적으로 지원하기 위해 앱 상에서 크리에이터에게 제공하는 안전 센터에서 새로운 기능을 선보이고 있습니다. 이는 크리에이터가 계정 상태를 쉽게 볼 수 있는 “계정 상태” 페이지와 크리에이터가 다른 콘텐츠 또는 계정에 대해 작성한 신고 상태를 볼 수 있는“신고 기록(Report record)” 페이지를 포함합니다. 이러한 신규 툴은 정책을 위반한 경우 크리에이터가 이미 받게 되는 알림에 더불어 추가되는 기능이며, 유효한 경우 크리에이터가 단속 항목에 대해 해명하여 스트라이크를 제거할 수 있도록 지원합니다. 틱톡은 계정이 영구 정지되기 직전에 크리에이터에게도 통지할 예정입니다.



일관되고 투명한 관리 결정

콘텐츠 측면에서 투명성 향상을 위한 다음 단계로, 틱톡은 일부 지역에서 크리에이터의 어떤 영상이 추천피드(For You Feed) 제외 콘텐츠로 표시됐는지 및 그 이유를 해당 크리에이터에게 제공하고 해명할 기회를 제공하는 새로운 기능에 대한 테스트를 시작합니다.


업데이트된 계정 단속 시스템은 현재 전세계적으로 적용되고 있으며, 새로운 시스템이 제공되는 즉시 커뮤니티 사용자들에게 공지할 계획입니다. 틱톡은 계정을 평가하기 위해 사용되는 프로세스를 계속해서 개선하고 진행사항을 공유할 예정이며 플랫폼 상의 모든 유형의 계정에 대한 정확하고 적절한 단속 결정을 내리기 위해 노력할 예정입니다.