Oleh: Cormac Keenan, Head of Trust & Safety, TikTok

Di TikTok, kami terus berupaya untuk membangun lingkungan yang menyenangkan dan inklusif, di mana komunitas TikTok dapat berkreasi, menemukan komunitas, dan terhibur. Untuk menjaga lingkungan tersebut agar tetap aman, kami mengambil tindakan untuk menghapus konten yang melanggar Panduan Komunitas TikTok dan membatasi penyebaran konten yang mungkin tidak sesuai bagi khalayak luas.

Kami sadar bahwa keamanan merupakan upaya berkelanjutan yang tidak akan pernah berakhir. Sebagai bagian dari tanggung jawab kami terhadap keamanan di TikTok, kami merilis Laporan Penegakan Panduan Komunitas untuk Q4 2022. Laporan yang dirilis setiap kuartal ini memberi gambaran tentang upaya yang sudah dilakukan TikTok terkait keamanan, termasuk berbagai pembaruan yang dilakukan untuk meningkatkan akurasi dan efisiensi dari moderasi konten di TikTok.

Moderasi dalam skala besar

Tujuan utama TikTok adalah untuk mengidentifikasi dan menghapus konten berbahaya dalam waktu secepat mungkin. Hal ini merupakan upaya yang luar biasa mengingat skala TikTok yang sangat luas. Untuk memastikan upaya kami tetap fokus, kami melakukan hal berikut:

  1. Memprioritaskan penghapusan konten yang melanggar Panduan Komunitas secara berat secepat mungkin, seperti materi pelecehan seksual terhadap anak serta ekstrimisme brutal di TikTok
  2. Meminimalkan total penayangan (views) konten yang melanggar Panduan Komunitas TikTok
  3. Memastikan akurasi, konsistensi, dan keadilan bagi seluruh kreator TikTok

Untuk mencapai tujuan tersebut, TikTok mengerahkan kombinasi teknologi otomatis dan moderator manusia yang terampil guna membuat keputusan sesuai konteks konten, seperti konten yang berkaitan dengan misinformasi, ujaran kebencian, dan pelecehan.

Mengembangkan pendekatan TikTok dalam moderasi konten

Sebelumnya, TikTok telah mengembangkan sistem moderasi dengan mengerahkan lebih banyak sumber daya untuk meninjau dan menangkap konten yang melanggar Panduan Komunitas sebanyak mungkin. Meskipun upaya ini telah meningkatkan jumlah video yang dihapus secara umum, tetapi hal ini tidak mengukur tujuan keamanan utama lainnya dari TikTok, termasuk memprioritaskan tindakan terhadap konten berbahaya, meminimalkan jumlah views secara keseluruhan, dan memastikan keputusan yang diambil akurat dan konsisten. Sejalan dengan perkembangan komunitas TikTok yang terus tumbuh dan mengekspresikan dirinya di TikTok, seperti melalui durasi konten video yang lebih panjang, LIVE, hingga TikTok Now; pendekatan moderasi konten TikTok juga kian berkembang. TikTok semakin fokus untuk mencegah bahaya secara menyeluruh di semua fitur, sembari berupaya membangun pengalaman yang lebih adil dan akurat untuk para kreator TikTok.

Selama beberapa bulan terakhir, kami terus menyempurnakan pendekatan TikTok untuk memprioritaskan akurasi yang lebih baik, meminimalkan jumlah views pada konten yang melanggar Panduan Komunitas, serta menghapus konten berbahaya secepat mungkin. TikTok juga meningkatkan sistem peninjauan konten dengan mempertimbangkan tingkat bahaya dari sebuah konten (berdasarkan jenis pelanggaran yang mungkin terjadi) dan luas jangkauan konten berdasarkan jumlah pengikut akun (followers). Peninjauan ini dilakukan agar kami dapat memutuskan apakah akan menghapus konten tersebut, melanjutkan pemeriksaan oleh moderator manusia, atau mengambil tindakan lainnya.

TikTok juga memanfaatkan berbagai langkah keamanan lainnya, antara lain mengenakan pembatasan usia (age-restricted) pada beberapa fitur dalam aplikasi, menentukan konten yang tidak memenuhi syarat untuk direkomendasikan, serta menerapkan sistem Content Level secara lebih sering dan transparan. Langkah ini dilakukan untuk mengurangi tingkat bahaya, dengan cara membatasi siapa saja yang bisa menciptakan atau melihat konten tertentu. Teknologi proaktif kami yang semakin maju ini berhasil mengurangi jumlah konten yang perlu ditinjau, salah satunya berkat kemampuan mengenali akun spam saat proses pendaftaran (sign-up) atau konten yang digandakan.

Laporan Transparansi TikTok Q4 tahun 2022

Dampak dari perubahan ini tercermin dalam data pada Laporan Penegakan Panduan Komunitas TikTok Q4 2022. Sebagai contoh, terjadi penurunan pada jumlah konten yang dihapus oleh TikTok. Hal ini dikarenakan TikTok memutuskan untuk membuat konten yang tidak berbahaya agar tidak memenuhi syarat untuk ditampilkan di laman For You, ketimbang menghapus kontennya.

Pada saat yang sama, terjadi peningkatan pada jumlah konten yang dihapus secara akurat oleh mesin otomatis TikTok, seiring dengan peningkatan sistem yang semakin presisi. Fluktuasi ini berada dalam kisaran yang diharapkan, di mana TikTok secara konsisten menghapus kurang lebih 1% konten yang diunggah karena terbukti melanggar Panduan Komunitas kami. Hal ini merupakan bagian dari upaya TikTok untuk memastikan komunitas TikTok yang terus berkembang ini tetap aman dan nyaman, sekaligus mendorong pengalaman yang lebih konsisten bagi para kreator TikTok.

Fluktuasi pada metrik tersebut mungkin akan terus berlanjut seiring dengan pengembangan sistem yang terus dilakukan TikTok di masa mendatang. Sebagai contoh, TikTok telah membuat berbagai perbaikan tambahan yang signifikan pada tahun ini seperti memperkenalkan sistem penegakan akun terbaru. Kami juga memperbarui Panduan Komunitas TikTok secara menyeluruh dengan pengelompokan kebijakan baru, yang nantinya akan menjadi acuan Laporan Penegakan TikTok ke depannya. TikTok juga terus menyempurnakan proses moderasi konten di balik layar, salah satunya dengan mengelompokkan lebih banyak tim moderasi konten sesuai dengan bidang keahliannya.

Kami berharap untuk dapat terus memberikan informasi terbaru terkait upaya TikTok untuk mencegah konten-konten berbahaya selagi melanjutkan upaya kami untuk membangun tempat yang aman, nyaman, inklusif, dan autentik bagi komunitas global TikTok.