수지 로프터스(Suzy Loftus), 틱톡 미국 데이터보안(USDS) 신뢰와 안전 총괄

2024년 올해 50개 이상 국가에서 선거가 진행되며, 20억 명이 넘는 사람들이 투표권을 행사할 것으로 예상됩니다. 틱톡은 선거의 공정성을 보호하기 위해 많은 투자를 하고 있습니다. 지난 4년 간 틱톡은 전 세계 150건이 넘는 선거가 진행되는 동안 틱톡 플랫폼을 보호하기 위해 노력해 왔습니다. 역사적으로 중요한 선거들이 예정된 2024년에도 틱톡이 변함없이 커뮤니티에게 창의적이고 안전하며 시민적인 공간으로 남기 위한 지속적인 노력과 투자에 대한 글로벌 정보를 공유합니다.

사용자들을 신뢰할 수 있는 정보로 연결

틱톡은 각 국가 상황에 맟춰 필요시 선거관리위원회 및 팩트체크 기관들과 협력하여 사용자들을 신뢰할 수 있는 선거 관련 정보로 연결하는 선거센터(Election Center) 페이지를 구축합니다. 틱톡이 구축한 기존 국가의 선거센터들은 지난 해 전 세계 5,500만 명 이상의 사용자들에게 영향을 미쳤습니다.

예를 들어, 미국 선거에 대한 준비로 틱톡은 향후 비영리 단체인 디모크러시 웍스(Democracy Works)와 협력하여 미국 선거센터를 개설할 예정입니다. 미국 선거센터는 1억 5천만 명이 넘는 미국 커뮤니티 구성원들에게 50개 주 및 워싱턴 DC에 대한 신뢰할 수 있는 선거 정보를 제공합니다. 틱톡은 미국 선거 콘텐츠 및 검색에 대한 안내를 통해 사용자들을 선거센터로 안내할 계획입니다. 또한, 연중 지속적으로 선거 결과를 포함한 정보를 추가할 예정입니다.

미디어 리터러시는 틱톡의 선거 전략에도 필수적입니다. 틱톡은 작년 현지 크리에이터 및 시민 사회와 협력하여 수백만 명의 사람들에게 미디어 리터러시의 모범 사례를 플랫폼에서 홍보했습니다. 2024년 한 해 동안 틱톡은 전 세계 전문가 및 팩트체크 기관들과 지속적으로 협력하여 허위정보, 생성형 AI 콘텐츠 식별 등을 다루는 미디어 리터러시 캠페인을 실행할 예정입니다.

또한, 틱톡의 콘텐츠 및 계정에 대한 추가 상황 정보를 알리는 기능을 지속적으로 구축하고 있습니다. 예를 들어, 파란색 ‘인증’ 체크는 유명인 계정이 공식 계정임을 확인해줍니다. 또한, 팩트체크 전문가 근거가 없다고 판단한 콘텐츠에는 이에 해당하는 라벨을 부착합니다. 올해는 허위정보 라벨에 대한 미디어 리터러시 자원을 확대할 예정입니다.

신설된 선거의 공정성 투명성 센터(Election Integrity Transparency Center)에서는 선거에 대한 틱톡의 접근 방식에 대해 상세한 정보를 확인할 수 있습니다.

선거 기간 동안 콘텐츠 및 계정 관리

수천 명의 신뢰와안전팀 전문가가 기술과의 결합으로 커뮤니티 가이드라인에 따라 콘텐츠 심사를 집행합니다. 틱톡은 선거 기간 동안 플랫폼에서 더 자주 나타날 수 있는 허위정보, 음성적인 영향력 행사, 관련 콘텐츠 및 행동을 근절하기 위한 정책을 일관되게 집행하고자 최선을 다하고 있습니다.

  • 허위정보 근절: 틱톡은 허위정보와 맞서 싸우기 위한 전략으로 미디어 리터러시뿐 아니라 허위정보 근절을 위한 기술과 전문 심사인력에도 상당한 금액의 투자를 하고 있습니다. 발전된 도구를 활용하여 전문 교육을 받은 허위정보 콘텐츠 심사자뿐 아니라 외부 전문가와 협력하여 해당 지역에 대한 이해를 바탕으로 문화적 맥락과 차이를 반영하여 이를 우선적으로 처리하는 각 지역 팀도 이에 포함합니다. 틱톡은 전 세계 17개 팩트체크 기관과 파트너십을 맺고 있으며, 이들 기관이 50개 이상 언어로 콘텐츠의 정확성을 평가하고 그에 따라 틱톡 심사자가 허위정보 정책을 적용합니다. 틱톡은 2023년 글로벌 팩트체크 기관 세 곳과 새롭게 파트너십을 구축했으며, 올해도 팩트체크 파트너 프로그램을 꾸준히 확장해 나갈 예정입니다.
  • 음성적 영향력을 행사하는 기만 행위 억제: 틱톡은 기만적인 행위자들이 선거 기간 동안 온라인 플랫폼을 표적으로 삼는다는 사실을 인지하고, 음성적인 영향력 행사에 대한 경계를 늦추지 않고 있습니다. 틱톡은 전담 전문가를 확보하여 기만 행위를 탐지해 저지하고, 사전에 차단하도록 하고 있습니다. 또한, 분기별로 커뮤니티 가이드라인 집행 보고서를 발행해 음성적 영향력을 행사하는 네트워크의 삭제에 대해 공개합니다. 향후 몇 달 동안 틱톡은 음성적 영향력만을 다룬 집행 보고서를 도입하여 틱톡의 투명성과 책임성을 보다 향상시킬 수 있는 정보 공유를 더욱 촉진할 계획입니다. 투명성 센터에서 이러한 행동을 평가하는 방법에 대한 정보를 제공합니다.
  • 오해의 소지가 있는 생성형 AI 콘텐츠의 처리: 생성형 AI 콘텐츠는 허위정보에 대한 새로운 문제를 업계에 제기하고 있으며, 틱톡은 확고한 규칙과 신기술을 통해 이를 적극적으로 해결하는데 노력을 기울이고 있습니다. 틱톡은 공인이 특정 정치적 견해를 지지하는 것처럼 묘사하는 생성형 AI 콘텐츠를 포함하여, 오해의 소지가 있는 조작된 콘텐츠를 일체 허용하지 않습니다. 또한 크리에이터가 진짜처럼 보이도록 만든 생성형 AI 콘텐츠에는 생성형 AI 콘텐츠 라벨을 부착하도록 요구합니다. 틱톡은 사용자들이 이를 실천할 수 있도록 돕는 도구를 최초로 개발해 출시한 바 있습니다. 2024년 기술이 더욱 발전함에 따라 틱톡은 정책과 생성형 AI 콘텐츠의 탐지를 지속적으로 개선하는 동시에 커뮤니티가 책임감 있게 AI를 탐색할 수 있도록 돕는 미디어 리터러시 콘텐츠를 위해 전문가와 협력해 나갈 것입니다.
  • 정치 및 뉴스 계정에 대한 접근 방식 조정: 수년 간 틱톡은 유료 정치 광고를 허용하지 않고, 정치인이나 정당 계정은 틱톡에서 광고를 하거나 수익을 창출할 수 없습니다. 또한 언론 기관, 정치인, 정당 및 정부 계정이 시민 담론에서 특별한 역할을 담당한다는 점을 인식하고, 공익 보호를 위해 더욱 주의깊게 계정 심사를 집행하는 정책을 적용합니다. 이에 관한 내용은 커뮤니티 가이드라인에서 확인할 수 있습니다.


틱톡은 업계가 역사적으로 중요한 선거를 준비하는 과정에서 콘텐츠 자문위원회, 안전 자문위원회를 포함하여 50명이 넘는 외부 전문가와 협의를 거쳤습니다. 허위정보에 맞서 싸우는 법에 대한 자세한 내용은 새롭게 업데이트된 투명성 센터 페이지에서 확인할 수 있습니다.