코맥 키넌 Cormac Keenan, 틱톡 신뢰와 안전 부문 총괄 Head of Trust & Safety, TikTok

틱톡은 사용자가 틱톡 내에서 창의력을 펼치고 커뮤니티를 찾으며 즐길 수 있는, 재미있고 포용적인 환경을 조성하기 위해 노력하고 있습니다. 이러한 환경을 유지하기 위해서 틱톡은 커뮤니티 가이드라인을 위반하는 콘텐츠를 삭제하고 광범위한 사용자에게 적합하지 않은 콘텐츠의 공개 범위를 제한하는 조치를 취합니다.

틱톡은 안전과 관련해서는 타협하지 않습니다. 틱톡은 안전에 대한 책임의 일환으로 분기별 진행 상황을 업데이트해 공유하고 있습니다. 오늘은 2022년 4분기 커뮤니티 가이드라인 집행 보고서에 대한 배경 정보를 제공하고, 틱톡에서 콘텐츠 심사의 정확성과 효율성을 개선하기 위해 실시한 업데이트 내용을 소개하려고 합니다.

규모에 맞는 심사

틱톡은 위반 콘텐츠를 최대한 신속하게 식별하고 삭제하는 것을 목표로 하고 있으며, 이는 틱톡의 규모를 고려할 때 결코 쉬운 일이 아닙니다. 틱톡은 이를 위해 다음과 같이 노력합니다:

  1. 아동 성 착취 자료(CSAM) 및 폭력적 극단주의와 같이 매우 심각한 콘텐츠를 가장 빠르게 삭제하는데 우선순위를 둘 것
  2. 틱톡 커뮤니티 가이드라인을 위반하는 콘텐츠의 전체 조회 수를 최소화할 것
  3. 크리에이터를 위하여 정확성, 일관성, 공정성을 보장할 것

이를 위해 틱톡은 잘못된 정보, 증오 발언, 괴롭힘 등 미묘한 주제와 관련하여 상황에 맞는 결정을 내릴 수 있도록 자동화 기술을 구축하고 숙련된 심사 인력을 함께 배치하고 있습니다.


접근 방식의 진화

틱톡은 과거에는 검토 범위를 넓히고 위반 콘텐츠를 최대한 많이 적발하는데 힘쓰며 심사를 확대했습니다. 이로 인해 삭제되는 동영상의 수는 전반적으로 증가했지만, 심각한 콘텐츠를 우선순위에 두고 전체 조회수를 최소화하며 정확하고 일관된 결정을 내리겠다는 틱톡이 가장 중요시하는 안전에의 목표를 필적할 수는 없었습니다. 틱톡 커뮤니티가 지속적으로 성장하고 긴 동영상, 라이브, TikTok Now와 같은 새로운 경험을 통해 사용자가 자신을 표현함에 따라 콘텐츠 관리에 대한 틱톡의 접근 방식도 진화했습니다. 틱톡은 크리에이터를 위해 공정하고 정확한 환경을 구축하는 동시에 기능 전반에 대하여 피해를 방지할 수 있는데 보다 중점을 두고 있습니다.

그 결과, 틱톡에서는 최근 몇 달간 정확성에 우선순위를 두고 위반 콘텐츠의 조회수를 최소화하며 심각한 콘텐츠를 신속하게 삭제하기 위해 틱톡의 접근 방식을 개선하기 시작했습니다. 틱톡은 심사를 위해 콘텐츠를 라우팅하는 시스템을 업그레이드했습니다. 동영상을 삭제할지 혹은 심사 인력에게 검토를 맡길지, 아니면 다른 조치를 취할 것인지 결정할 때 동영상의 피해 심각도(잠재적 위반 유형에 따라) 및 예상 도달 범위(계정 팔로워 수에 기반)를 더욱 잘 반영할 수 있도록 개선했습니다. 틱톡은 특정 콘텐츠를 만들거나 볼 수 있는 사람을 제한하여 피해를 줄이기 위해 연령 제한 기능, 추천 부적격, 그리고 새로운 콘텐츠 등급 시스템과 같은 조치를 더욱 자주 그리고 투명하게 활용하고 있습니다. 또한 틱톡의 사전 예방 기술이 스팸계정 가입이나 중복 콘텐츠 등을 더욱 정교하게 잡아내면서 검토가 필요한 콘텐츠의 양도 감소하고 있습니다.


틱톡 2022년 4분기 투명성 보고서

위와 같은 변경사항의 영향력은 이미 4분기 커뮤니티 가이드라인 집행 보고서의 데이터에 반영되고 있습니다. 예를 들어, 유해성이 낮은 콘텐츠를 완전히 삭제하는 대신 추천 피드(For You feed)에 부적적합하도록 조치를 취함으로써 전체 콘텐츠 삭제 건수가 감소했습니다. 동시에 틱톡의 시스템이 더욱 정밀해짐에 따라 자동화를 통해 정확하게 삭제되는 콘텐츠의 비율도 증가했습니다. 틱톡은 규정 위반으로 게시된 콘텐츠를 1% 이하로 지속적으로 삭제하고 있으며 그 변동폭은 우리의 예측 범위내에 있습니다. 이는 성장하는 틱톡 커뮤니티를 더욱 안전하게 만들고 크리에이터에게는 더욱 일관된 환경을 제공하기 위한 혼신의 노력입니다.

앞으로도 틱톡은 지속적으로 시스템을 발전시킬 예정이며 이러한 지표들은 변동할 가능성이 있습니다. 예를 들어, 올해 새로운 계정 단속 시스템을 도입하고 종합적인 커뮤니티 가이드라인 개정 등 틱톡이 이뤄낸 상당한 추가 개선사항들은 향후 집행 보고서에서 다루게 될 것입니다. 또한 틱톡은 전문 분야를 중심으로 콘텐츠 심사 팀을 특화하는 등 심사 절차를 지속적으로 발전시키고 있습니다.

틱톡은 전 세계 커뮤니티를 위한 안전하고 포용적이며 진정한 보금자리를 만들기 위해 지속적인 노력을 하고 있는 가운데, 피해를 예방하기 위한 틱톡의 진화에 대한 더 많은 정보도 계속해서 공유할 수 있기를 기대합니다.