코맥 키넌(Cormac Keenan), 틱톡 신뢰 및 안전 부문 총괄

틱톡은 사람들이 자신의 창의성, 지식, 열정을 다른 사람들과 공유하면서 재미를 찾는 동시에 그들 역시도 틱톡 커뮤니티에 즐거움을 선사할 수 있기를 바랍니다. 틱톡은 모두가 환영받을 수 있고 진정성 있는 플랫폼을 유지하기 위해 자사의 정책을 위반하는 콘텐츠를 삭제 조치하며, 삭제된 콘텐츠에 관해서는 커뮤니티 가이드라인 집행 보고서를 통해 크리에이터에게 투명하게 공개합니다. 2022년 4월-6월 보고서에서는 허위 정보 방지와 관련된 개선 사항을 확인할 수 있으며, 이러한 성과를 낼 수 있었던 비결에 대한 인사이트를 공유하고자 합니다.

허위 정보는 늘 존재했지만, 인터넷의 발전에 힘입어 오랫동안 존재했던 이 문제가 새로운 방식으로 진화하고 있습니다. 틱톡은 허위 정보로 인해 공중 보건, 선거 과정, 사실 및 과학에 대한 신뢰가 무너질 수 있다는 점을 인식하고 있으며, 이러한 문제 해결에 참여하고자 합니다. 틱톡은 허위 정보를 가장 심각한 사안으로 다루고 있으며, 허위 정보의 확산을 차단하는 다각적인 조치를 취하는 한편, 한발 앞서 공신력 있는 정보를 제공하고 디지털 리터러시 교육에 투자하고 있습니다.

틱톡의 정책

틱톡의 진실성 정책은 신뢰할 수 있고 진정성 있는 경험을 촉진하는 데 목표를 두고 있습니다. 이러한 정책의 일환인 유해 허위 정보 정책에서는 시민 참여, 공중 보건 또는 안전과 관련하여 커뮤니티를 오도할 수 있는 콘텐츠를 금지합니다. 가령 백신이나 코로나19에 관한 잘못된 의학 정보는 틱톡에서 허용되지 않으며, 투표 관련 허위 정보도 금지 대상입니다. 설계에 따라 다양한 콘텐츠가 이 정책의 적용 대상이 될 수 있으며, 대상이 되는 콘텐츠는 전세계에서 발생하는 일에 따라 계속 변경됩니다.

정확성이 떨어지며 사용자나 커뮤니티에 해를 입히는 콘텐츠는 물론, 오도성 콘텐츠를 올리거나 틱톡을 이용해 여론을 호도하려는 계정도 삭제 조치합니다. 플랫폼에서는 허위 또는 가짜 계정을 만드는 것에서부터 대중의 신뢰를 훼손하려는 정교한 작업에 이르기까지 다양한 양상이 나타나고 있습니다. 이러한 행위를 벌이는 이들은 계속해서 자신들의 기술을 발전시키고 있는 실정입니다. 따라서 틱톡은 새로운 유형의 콘텐츠와 행동을 탐지하며 정책을 보다 강화하기 위해 끊임없이 노력하고 있습니다.

정책 집행

틱톡은 기술과 수천 명의 안전 전문가를 함께 활용하여 커뮤니티 가이드라인을 도입했고, 이를 모든 영역에서 효과적으로 추진하기 위해 기술을 활용한 플래깅 및 심사에 지속 투자하고 있습니다. 자동 심사 기능을 통해 시스템이 높은 수준의 확신을 가지고 틱톡 정책을 위반한다고 판단한 경우 해당 콘텐츠를 신속하게 삭제합니다.

그러나 허위 정보는 여타의 콘텐츠 문제와는 다릅니다. 허위 정보 정책이 일관되고 정확하게 집행되려면 맥락을 파악하고 팩트를 확인해야 합니다. 따라서 머신러닝 모델을 사용해 잠재적인 허위 정보를 탐지하면서도 궁극적으로는 틱톡의 심사팀을 통해 허위 정보를 평가, 확인 및 삭제할 수 있도록 조처하고 있습니다. 틱톡에서는 허위 정보 심사 전문가로 구성된 팀이 허위 정보에 관한 교육, 전문지식, 도구 등을 개선시키고 있습니다. 틱톡의 팩트체크 파트너도 콘텐츠의 정확성을 평가하는 데 지원을 제공합니다.

틱톡은 전 세계에 30개 이상의 언어로 된 콘텐츠를 검토하는 12곳 이상의 팩트체크 파트너와 협력하고 있습니다. 모든 파트너는 국제 팩트체킹 네트워크의 강령에 서명을 한 공신력 있는 인증 기관입니다. 사실 여부에 관해 확인하고 있는 콘텐츠나 팩트체크로 검증할 수 없는 내용의 콘텐츠의 경우 포 유 피드(For You Feed)에 추천할 수 없습니다. 팩트체크를 통해 허위 사실이 판명될 경우 틱톡 플랫폼에서 해당 동영상을 삭제 조치하거나 포 유 피드에 추천할 수 없는 동영상으로 전환할 수 있습니다.

틱톡은 허위 정보를 지속해서 탐지하고 삭제하기 위해 올해 다음과 같은 주요 분야에 투자하였습니다.

  • 머신러닝 모델에 대한 지속 투자를 비롯해 빠르게 변화하는 허위 정보에 대응해 이 모델을 반복 적용할 수 있는 용량을 증설했습니다.
  • 조작된 콘텐츠를 줄이기 위해 오도할 가능성이 있는 오디오 및 이미지의 탐지를 개선했습니다.
  • 허위 정보 심사 전문가가 신속하고 정확한 결정을 내릴 수 있도록 이전 팩트체크 사례를 모은 데이터베이스 구성했습니다.
  • 팩트체크 인력을 활용한 선제적 탐지 프로그램을 추진하여 인터넷에 새롭게 등장하는 허위 주장에 플래깅(플랫폼 제공자나 운영자에게 특정 발언이 부적절하다고 알리려는 의도나 행동) 실행. 이를 통해 플랫폼에 게시된 허위 주장을 탐지하고 정책을 위반하는 콘텐츠를 삭제할 수 있었습니다. 해당 프로그램을 지난 분기에 도입한 이래 33건의 새로운 허위 정보를 확인하여 58,000개의 동영상을 삭제하였습니다.

틱톡의 진실성 및 진정성 정책을 위반한 콘텐츠는 삭제된 전체 동영상의 1% 미만을 차지했으며, 이러한 지속적인 투자에 힘입어 틱톡은 선제적 허위 정보 탐지 및 정책 집행 성과를 얻을 수 있었습니다.

협업 사례

틱톡은 허위 정보 문제 해결에 전문가와의 협력이 필수라는 점을 잘 알고 있습니다. 틱톡은 콘텐츠·안전자문위원회, 연구원, 시민 사회 단체 및 미디어 리터러시 전문가와 정기적으로 협력해 오고 있습니다. 전문가와의 지속적인 협력은 정책과 트렌드 및 현 이슈에 관한 전반적인 지식을 강화할 수 있을 뿐만 아니라 앱 내에서 공신력 있는 목소리를 조성할 수 있게 합니다. 미디어와이즈(MediaWise) 및 미디어 리터러시 교육 협회의 전문가 콘텐츠를 제공하는 디지털 리터러시 허브가 좋은 사례입니다. 앱에 추가된 이 디지털 리터러시 허브를 사용하면 사용자는 온라인에서 자신이 보는 콘텐츠를 평가할 수 있습니다. 미국의 경우, 선거 진실성을 증진하기 위해 전미 국무장관 협회 및 밸럿피디아(Ballotpedia)의 투표 및 지방 선거에 대한 공신력 있는 정보를 제공하는 선거 센터도 도입하였습니다. 공중 보건 영역에서는 동영상에 #공공서비스발표(#PSA)와 라벨을 달아 세계보건기구(WHO)의 코로나19 및 원숭이두창에 관한 정보를 제공하고 있습니다.

틱톡은 허위 정보 문제에 대해 지속해서 대응할 것이며 이 문제가 결코 쉽게 끝날 것이라 생각하지 않습니다. 플랫폼을 보호하려는 틱톡의 노력에 관한 자세한 내용은 투명성 센터에서 확인할 수 있습니다.