코맥 키넌(Cormac Keenan), 틱톡 신뢰와 안전 부문 총괄

틱톡은 커뮤니티가 재미있는 콘텐츠를 탐구하고 창의성을 공유할 수 있는 안전한 플랫폼을 만들기 위해 수천 명의 사람들이 노력하고 있습니다. 틱톡 내 신뢰와 안전팀은 커뮤니티의 안전과 보호를 위한 다양한 작업을 진행하는데 주력하고 있습니다. 틱톡이 안전에 대한 노력을 지속하는 가운데 이러한 노력이 개방적이고 투명하게 전달되기를 바라며 여기서 그 일부를 다루고자 합니다.


커뮤니티 가이드 개발 및 업데이트

저희 커뮤니티 가이드라인은 틱톡 플랫폼 내 일련의 규범과 행동 강령을 규정합니다. 플랫폼에서 허용되는 것과 허용되지 않는 것에 대한 지침을 제공하여 틱톡이 편안하고 안전하며 즐거운 환경을 유지할 수 있도록 합니다. 당사 정책 전문가는 가이드라인을 지속적으로 검토해 플랫폼을 잠재적 위험으로부터 보호하는 동시에 창의적 표현이 가능케 하는 방법을 검토합니다.

여기서 말하는 전문가들은 대부분 특정 분야의 전문가로, 어떤 이는 기술 산업 관련 전문가이고, 또 다른 이는 시민 단체나 정부 기관 출신이기도 합니다. 이 전문가들은 복잡하고 도전적인 영역을 다룹니다. 한 예로, 섭식 장애 관련 콘텐츠는 어느 선까지 허용되어야 할까요? 외부 전문가와의 협업을 통해 틱톡은 섭식 장애 관련 콘텐츠가 부정적인 영향을 끼칠 수 있다는 것을 알고 있습니다. 그러나 치료 및 회복에 중점을 맞춘 콘텐츠의 경우 긍정적인 영향을 낳을 수 있다는 점 또한 중요합니다. 그렇기 때문에 정책을 개선하면서 이런 미세한 차이를 계속 반영해야 합니다.


잠재적 위협 탐지 및 정책 시행

프로덕트 및 프로세스 팀은 보다 효율적으로 잠재적 위협을 찾고 규모에 맞는 커뮤니티 가이드라인을 시행하기 위한 전략 및 기술을 설계하는데 주력하고 있습니다. 한 가지 예로는 '해싱' 기술을 사용하여 이미지 또는 비디오의 고유 디지털 식별자를 생성하는 방법입니다. 이 기술을 활용해 업계 기준 유해 콘텐츠라고 알려진 콘텐츠는 위반으로 표시하고 더 쉽게 제거할 수 있습니다. 예를 들어, 아동 성 착취 이미지 공유를 방지하는 정책을 위반한 특정 콘텐츠가 제거되면 고유 디지털 식별자를 사용해 비슷한 콘텐츠를 찾고 제거할 수 있습니다. 같은 콘텐츠가 반복 업로드되는 것 또한 방지할 수 있습니다.

최근 투명성 보고서에서 설명한 바와 같이, 커뮤니티 가이드라인 위반 영상의 80% 이상이 아무에게도 조회되지 않은 상태에서 삭제되었습니다. 틱톡은 이 영역에서 효율성을 계속해서 높이기 위해 최선을 다하고 있습니다. 기술은 가이드라인을 명확히 위반하는 영상을 제거하는 데 도움이 될 수 있지만 저희 콘텐츠 심사의 중요한 요소는 사람입니다. 저희 팀은 신고되는 콘텐츠에 즉각적으로 대응하기 위해 24시간 대기하고 있습니다. 사람이 직접 검토하는 추가 프로세스를 통해 콘텐츠 심사자는 기술에 대한 피드백을 제공하고, 새로운 콘텐츠 트렌드를 발견하며, 추후 탐지 능력을 향상시킬 수 있습니다. 궁극적으로 틱톡 머신러닝 시스템을 개선할 수 있습니다.

저희 팀의 또 다른 주요 역할은 콘텐츠를 식별하고 분석하여 콘텐츠 심사 프로세스의 정확성을 지속적으로 개선하는 것입니다. 일례로 특정 영상이 인기를 끌고 있는 경우, 시스템이 해당 영상을 재검토해 위반 여부를 확인하는 방법으로 틱톡 내 위반 콘텐츠를 줄이고 있습니다. 더 나아가, 저희는 콘텐츠 심사 결정을 분석해 왜 규정 위반 콘텐츠를 더 빨리 발견하지 못했는지 알아내고 플랫폼 내 위반 콘텐츠 동향을 파악합니다. 예를 들어, 저희는 위반 가능성이 있는 특정 유형의 콘텐츠를 자동 탐지하기 위해 기술 개발이 필요하다는 점을 깨닫거나 심사 과정 내 올바른 의사 결정을 개선하는 목적으로 특정 정책과 미세한 차이의 이해를 돕는 콘텐츠 심사팀 대상 추가 교육 세션을 진행의 필요성을 깨달을 때도 있습니다.


직원 복지 강화

커뮤니티를 위해 안전한 경험을 구축하고 유지하는 것은 저희 팀의 가장 중요한 일입니다. 이는 저희 심사팀이 잠재적 유해 콘텐츠를 검토해 올바른 지원을 제공해야 한다는 것을 뜻합니다. 저희는 이 점을 인지해, 저희 직원분들의 건강, 안전 및 복지를 우선시하는 데 중점을 두고 있습니다. 저희는 교육, 물리적 리소스 및 전문 상담 등 다양한 복지 프로그램을 제공하고 있습니다. 추가적으로, 업무 능력 개선 방법을 파악하기 위한 정기적인 분석을 진행하고 있으며, 직원들에게 가장 효과적인 지원을 제공하여 궁극적으로 틱톡이 업계를 선도할 수 있기를 희망합니다.

틱톡을 재미와 창의력이 번성하는 안전한 공간으로 만들기 위한 여정을 지속하면서 앞으로 저희 신뢰와 안전팀에 대해 더 많이 공유할 수 있기를 기대합니다.