تسعى منصة تيك توك لخلق بيئة ممتعة ومتكاملة للجميع، بحيث تتيح للمستخدمين فرصة إنشاء مجتمع جديد أو العثور على المجتمع المناسب لهم والاستمتاع في نفس الوقت. وللحفاظ على هذه البيئة، نتخذ إجراءات عديدة لحذف المحتوى الذي ينتهك إرشادات المجتمع، كما نعمل على الحد من وصول المحتوى غير المناسب لجمهور عريض من المتابعين.

نحن نؤمن دائما، أنّ السلامة والأمان ليس لهما حدٌ معين، ولذلك قررنا أن ننشر تحديثات ربع سنوية حول عملياتنا المختلفة كجزء من مسؤوليتنا، واليوم، نقدم توضيحات حول تقرير إنفاذ إرشادات المجتمع في الربع الأخير من 2022، بما في ذلك التحديثات المتعلقة بتحسين دقة وكفاءة التعامل مع المحتوى/الاشراف على المحتوى في منصة تيك توك.

التعامل مع المحتوى /الإشراف على المحتوى على نطاق واسع

هدفنا هو تحديد المحتوى المخالف وحذفه بأسرع ما يمكن، وهذه ليست مهمة سهلة بالنظر للمعدل الهائل لإنشاء المحتوى وعدد الفيديوهات التي يتم إضافتها للمنصة بشكل مستمر. ولتركيز جهودنا نعمل على:

  1. إعطاء الأولوية لحذف المحتوى المخالف للغاية بأسرع ما يمكن، خاصة المحتوى المتعلق بالاعتداء الجنسي على الأطفال CSAM والعنف المتطرف.
  2. تقليل مشاهدات المحتوى الذي ينتهك إرشادات المجتمع.
  3. ضمان الدقة والاستمرارية والعدل في التعامل مع محتوى صانعي المحتوى.

ولكي نتمكن من تحقيق ذلك، نعتمد على مزيج من التكنولوجيا الآلية والمشرفين المهرة الذين يمكنهم اتخاذ قرارات دقيقة وفعالة حول الموضوعات الخلافية مثل المعلومات المضللة وخطاب الكراهية والمضايقات المختلفة.

تطوير المنهج

قمنا من قبل بتوسيع نطاق التعامل مع المحتوى /الإشراف على المحتوى من خلال توظيف شبكة أوسع للمراجعة وتحديد أكبر قدر ممكن من المحتوى المخالف. وعلى الرغم من أن هذه الجهود أسفرت بشكل عام عن زيادة عدد مقاطع الفيديو التي كنا نحذفها، إلا أنّ ذلك لم يكن هو المقياس الوحيد لتحقيق أهداف السلامة الشاملة للمنصة والمتمثلة في منح الأولوية لمراجعة المحتوى المخالف وتقليل المشاهدة الإجمالية له وضمان اتخاذ قرارات دقيقة.

ومع استمرار نمو مجتمع تيك توك وقدرته في التعبير عن نفسه بمساعدة التجارب الجديدة، مثل مقاطع الفيديو الطويلة والبث الحي وTikTok Now، تطور أسلوبنا في التعامل مع المحتوى /الإشراف على المحتوى أيضًا، حيث أصبح تركيزنا منصبًا على منع الضرر العام من خلال ما نقدمه من خصائص مختلفة، مع تقديم تجربة عادلة ودقيقة لصانعي المحتوى.

ونتيجة لذلك، بدأنا في الأشهر الأخيرة في تحسين منهجنا ومنح الأولوية للدقة والكفاءة، وتقليل مشاهدات المحتوى المخالف، وسرعة حذف المحتوى المخالف. قمنا أيضًا بتحديث نظم توجيه المحتوى للمراجعة، بحيث يتم التقييم بشكل أفضل اعتمادًا على مدى خطورة الفيديو (بناءً على نوع الانتهاكات المحتملة) ومدى الانتشار المتوقع (بناءً على عدد متابعي الحساب)، بهدف تحديد إمكانية حذف المحتوى من على المنصة أو تصعيده لتتم مراجعته، أو اتخاذ إجراء مختلف بصدده. في نفس الوقت، تستفيد تيك توك من عدة تدابير أخرى لمساعدتنا في مراجعة المحتوى، مثل المزايا المرتبطة بالفئة العمرية، وعدم الأهلية للتوصية، والاعتماد على نظام مستويات المحتوى بشكل متكرر وشفاف، بهدف تقليل الضرر عن طريق تحديد الفئات التي يمكنها إنشاء محتوى معين أو مشاهدته، كما تقلل تطبيقاتنا التكنولوجية الاستباقية من كمية المحتوى الذي يحتاج لمراجعة، حيث تتزايد قدرة هذه التطبيقات مع الوقت في التقاط الحسابات غير الصحيحة/ الحسابات المزيّفة/الحسابات الطفيلية عند التسجيل أو المحتوى المكرر.

تقرير الشفافية للربع الرابع من عام 2022

لقد ظهر تأثير هذه التغييرات بالفعل في بيانات تقرير إنفاذ إرشادات المجتمع و التعامل مع المحتوى /الإشراف على المحتوى في الربع الأخير من 2022. فعلى سبيل المثال، انخفض إجمالي عمليات حذف المحتوى، خاصة بعد قيامنا بإضافة المحتوى منخفض الضرر الغير مؤهل للعرض في قسم For You بدلاً من حذفه بالكامل. من ناحية أخرى، ارتفعت نسبة المحتوى الذي تم حذفه بواسطة المراجعة الآلية لأن أنظمتنا أصبحت أكثر دقة. وعلى الرغم من التغير في النسب وإجمالي عمليات الحذف، إلا أن الأرقام تظل في نطاق النسب المتعارف عليها في المنصة، حيث نحذف باستمرار 1% أو أقل من المحتوى المنشور لكونه مخالفًا، وهو ما يأتي ضمن جهودنا لجعل مجتمعنا المتنامي أكثر أمانًا، ولتقديم تجربة أكثر عدلًا واتساقًا لصانعي المحتوى.

قمنا هذا العام بإضافة تحسينات كبيرة مثل تقديم نظام جديد لإنفاذ الحساب وتحديث إرشادات المجتمع بشكل شامل مع مجموعات السياسة الجديدة التي ستتبعها تقارير الإنفاذ المستقبلية، وهو ما سينعكس على استمرار هذه التغيرات في الأرقام، خاصة مع مواصلتنا تطوير أنظمتنا خلال العام المقبل، كما أننا نواصل أيضًا تحسين عمليات التعامل مع المحتوى /الإشراف على المحتوى خلف الكواليس، من خلال تخصيص المزيد من فرق التعامل مع المحتوى /الإشراف على المحتوى في مجالات الخبرة المختلفة.

إننا نتطلع لنشر ومشاركة المزيد من جهودنا لمنع وقوع أي ضرر على المستخدمين، في إطار جهودنا لبناء منصة آمنة ومتكاملة وذات محتوى أصلي لمجتمعنا العالمي الذي يتطور بمرور الوقت.