โดย Cormac Keenan, Head of Trust and Safety, TikTok

บทความนี้เป็นส่วนหนึ่งของเนื้อหาที่เผยแพร่เกี่ยวกับมาตรฐานความปลอดภัยของ TikTok โดยมุ่งเน้นไปที่เบื้องหลังการทำงานของทีมงานด้านความปลอดภัย

TikTok เรามีบุคลากรคนหลายพันคนซึ่งมุ่งมั่นในการทำให้แพลตฟอร์มมีความปลอดภัย ทำให้ผู้ใช้สามารถค้นหาเนื้อหาที่สนุกสนานและแบ่งปันความคิดสร้างสรรค์ต่างๆ ของพวกเขาได้อย่างไร้กังวล ทีมความปลอดภัยของ TikTok ได้มุ่งเน้นการทำงานที่หลากหลายเพื่อปกป้องชุมชนผู้ใช้ พร้อมสร้างการค้นพบประสบการณ์ที่ปลอดภัย เปิดกว้าง และโปร่งใสให้กับผู้ใช้ของเรา 

การสร้างและพัฒนาชุมชนผู้ใช้ของเรา

หลักเกณฑ์ชุมชนของเราได้มีการกำหนดบรรทัดฐานและจรรยาบรรณทั่วไปสำหรับ TikTok โดยการให้คำแนะนำในสิ่งที่ทำได้หรือไม่อนุญาต ซึ่งผู้เชี่ยวชาญด้านนโยบายของเรามีหน้าที่รับผิดชอบในการประเมินแนวทางเหล่านี้อย่างต่อเนื่องสม่ำเสมอ เพื่อพิจารณาว่าจะทำให้ผู้ใช้ของเราสามารถแสดงออกอย่างสร้างสรรค์ได้อย่างไรในขณะที่ต้องมีการป้องกันภัยที่อาจจะเกิดขึ้น

ผู้เชี่ยวชาญเหล่านี้มักเป็นผู้เชี่ยวชาญเฉพาะด้าน บางคนมีความเชี่ยวชาญในอุตสาหกรรมเทคโนโลยี และบางส่วนมาจากภาคประชาสังคมหรือรัฐบาล บทบาทของพวกเขาเกี่ยวข้องกับการวางบรรทัดฐานในพื้นที่ที่ซับซ้อนและท้าทาย เช่น เราควรกำหนดขอบเขตเนื้อหาเกี่ยวกับความผิดปกติของการรับประทานไว้อย่างไร เป็นต้น ซึ่งจากการทำงานร่วมกับผู้เชี่ยวชาญจากภายนอก ทำให้เราทราบดีว่า เนื้อหาที่เกี่ยวข้องกับพฤติกรรมหรือรูปแบบการรับประทานอาหารที่ผิดปกติสามารถสร้างผลกระทบหรือความเสียหายให้แก่ผู้ใช้ของเราได้ แต่ในขณะที่เราพัฒนานโยบาย เนื้อหาที่มุ่งเน้นการฟื้นฟูจะส่งผลในเชิงบวกได้เช่นกัน ซึ่งสิ่งสำคัญ คือ เราจะต้องสื่อสารสิ่งเหล่านี้ออกไป 

การตรวจจับอันตรายที่อาจเกิดขึ้นและบังคับใช้นโยบายของเรา

ทีมผลิตภัณฑ์และกระบวนการได้มุ่งเน้นไปที่การออกแบบกลยุทธ์และเทคนิคเพื่อตรวจหาอันตรายที่อาจเกิดขึ้นได้อย่างมีประสิทธิภาพมากขึ้นและบังคับใช้หลักเกณฑ์ชุมชนของเราในวงกว้าง ตัวอย่างหนึ่ง คือ การใช้เทคโนโลยี Hashing เพื่อสร้างตัวระบุอัตลักษณ์ทางดิจิทัล (Unique Digital Identifier) ของรูปภาพหรือวิดีโอที่สอดคล้องกับมาตรฐานอุตสาหกรรม การทำเช่นนี้จะช่วยให้เรารู้จักและสามารถทำเครื่องหมายเนื้อหาที่เป็นอันตรายที่มีแนวโน้มในการละเมิดและส่งเนื้อหานี้ออกไปในวงกว้างได้ง่ายมากขึ้น อาทิ หากมีเนื้อหาที่ละเมิดนโยบาย เพื่อการป้องกันการแชร์ภาพและการแสวงหาประโยชน์ทางเพศจากเด็กถูกเผยแพร่ออกไป ตัวคัดกรองที่ไม่ซ้ำกันนี้จะช่วยในการค้นหาและลบเนื้อหาที่ตรงกัน และป้องกันการอัปโหลดซ้ำ เป็นต้น

ในด้านรายงานความโปร่งใส (Transparency Report) ฉบับล่าสุด อธิบายไว้ว่า วิดีโอที่มีการละเมิดหลักเกณฑ์ถูกลบออกก่อนที่จะได้รับการดูเพียงครั้งเดียวมากกว่า 80% โดยเรายังคงมุ่งมั่นที่จะพัฒนาประสิทธิภาพในด้านนี้ต่อไป และแม้ว่าเทคโนโลยีจะสามารถช่วยขจัดการละเมิดที่ชัดเจนได้นั้น แต่ส่วนสำคัญของการดูแลเนื้อหาที่มีความเกี่ยวข้องกับเรื่องดังกล่าวจะถูกตรวจสอบโดยเจ้าหน้าที่ของเราที่มีการทำงานตลอด 24 ชั่วโมง ซึ่งหากมีการรายงานเนื้อหาที่มีการละเมิดหลักเกณฑ์ จะมีทีมงานที่พร้อมให้ความช่วยเหลือเพื่อดำเนินการ จึงจะสามารถพัฒนาระบบการเรียนรู้ของเครื่องได้ด้วยการตรวจสอบโดยเจ้าหน้าที่อีกชั้นหนึ่ง ขณะที่ผู้ดูแลจะให้คำแนะนำเกี่ยวกับเทคโนโลยีที่จะช่วยตรวจสอบแนวโน้มของเนื้อหาที่อาจเกิดขึ้นใหม่ ซึ่งจะช่วยพัฒนาความสามารถการตรวจจับในอนาคต

อีกหนึ่งบทบาทที่สำคัญของทีมความปลอดภัย คือ การระบุและวิเคราะห์เนื้อหาเพื่อพัฒนาความถูกต้องของกระบวนการตรวจสอบอย่างต่อเนื่อง เช่น หากมีวิดีโอที่ได้รับความนิยม ระบบของเราอาจตรวจสอบวิดีโอนั้นอีกครั้งเพื่อลดโอกาสของการที่เนื้อหาที่มีการละเมิดยังคงอยู่บน TikTok นอกจากนี้เรายังมีการวิเคราะห์ถึงการตัดสินใจในการกลั่นกรองเพื่อทำความเข้าใจว่าเหตุใดเนื้อหาดังกล่าวจึงไม่ถูกจับได้ว่าละเมิดหลักเกณฑ์ก่อนหน้านี้ เพื่อระบุแนวโน้มของการละเมิดเนื้อหาบนแพลตฟอร์มของเรา เช่น การเรียนรู้ที่จะทำงานให้มากขึ้นเพื่อพัฒนาเทคโนโลยีการตรวจจับการละเมิดบางประเภทที่อาจเกิดขึ้นโดยอัตโนมัติ และจะมีการฝึกอบรมเพิ่มเติมสำหรับทีมกลั่นกรองของเราเพื่อช่วยขับเคลื่อนความเข้าใจที่ดีเกี่ยวกับนโยบายและความแตกต่างบางประการ โดยมีเป้าหมายเพื่อพัฒนาการตัดสินใจที่ถูกต้องในระหว่างกระบวนการทำงาน 

เน้นความเป็นอยู่ที่ดีของพนักงาน

การสร้างและรักษาประสบการณ์ที่ปลอดภัยสำหรับคอมมูนิตี้ คือ บทบาทที่สำคัญที่สุดของทีม ซึ่งหมายความว่าในบางครั้ง ผู้ดูแลของเราอาจจำเป็นต้องตรวจสอบเนื้อหาที่เป็นอันตราย ซึ่งทำให้การสนับสนุนทีมงานเหล่านี้อย่างเหมาะสมเป็นสิ่งจำเป็น โดยเราตระหนักถึงหน้าที่นั้นเป็นอย่างดี เรากำลังมุ่งเน้นไปที่การจัดลำดับความสำคัญด้านสุขภาพ ความปลอดภัย และสวัสดิภาพของพนักงาน ทำให้ทีมงานของเราเข้าถึงโปรแกรมสุขภาวะที่ดี รวมทั้งการฝึกอบรม Evidence-based Resources และการให้คำปรึกษาอย่างมืออาชีพ นอกจากนี้เรายังมีการวิเคราะห์ผลเป็นประจำเพื่อทำความเข้าใจว่าเราจะสามารถพัฒนาต่อไปได้อย่างไร และหวังว่า TikTok จะสามารถเป็นผู้นำอุตสาหกรรมได้ด้วยการเตรียมพร้อมด้านโครงสร้างการสนับสนุนที่มีประสิทธิภาพที่สุดสำหรับพนักงานของเรา

ทีมรักษาความปลอดภัยของเรายังเดินหน้าต่อไปเพื่อช่วยให้ TikTok เป็นสถานที่แห่งความปลอดภัย พื้นที่ที่ความสุขและความคิดสร้างสรรค์ที่สามารถเติบโตได้อย่างมั่นคง และเราจะยังคงแบ่งปันประสบการณ์การทำงานของทีมความปลอดภัยของเราอย่างต่อเนื่องสม่ำเสมอ