Astăzi oferim mai multe informații despre modul în care continuăm să protejăm platforma împotriva urii și extremismului violent. Acest demers se bazează pe eforturile noastre de lungă durată de a proteja comunitatea și de a promova un spațiu civilizat. Credem că un comportament civilizat și sentimentul de siguranță sunt esențiale pentru o comunitate creativă și prosperă. De aceea, politicile noastre împotriva urii și extremismului violent au la bază ideea de a ne trata reciproc cu demnitate și respect pe TikTok.
Abordarea noastră privind combaterea extremismului violent
TikTok nu permite organizațiile sau persoanele violente ori motivate de ură pe platformă. De asemenea, interzicem promovarea sau oferirea de sprijin material unor astfel de actori. Dacă aflăm despre conținut care încalcă regulile, inclusiv încercări de recrutare de membri sau comportament desfășurat în afara platformei, vom acționa imediat pentru a-l elimina și pentru a închide conturile implicate.
Colaborăm îndeaproape cu autoritățile de aplicare a legii, atât naționale, cât și internaționale. Raportăm cazurile relevante, inclusiv atunci când considerăm că există o amenințare specifică, credibilă și iminentă la adresa vieții sau a integrității fizice.
Tehnologiile noastre avansate de moderare și echipele dedicate acționează eficient pentru a elimina acest tip de conținut de pe platformă. În prima jumătate a acestui an, am eliminat peste 6,5 milioane de videoclipuri care au încălcat regulile noastre privind organizațiile violente și instigatoare la ură. Acest volum reprezintă mai puțin de 2% din totalul conținutului care încălca regulile TikTok eliminat în aceeași perioadă. Sistemele noastre sunt extrem de eficiente: 98,9% dintre aceste materiale au fost eliminate înainte să fie raportate către noi, iar 94% au fost eliminate în mai puțin de 24 de ore.
Contracararea rețelelor extremiste
Combaterea grupurilor care promovează ura și extremismul violent online este o provocare de durată, atât pentru societate, cât și pentru întreaga industrie. Aceste grupuri sunt extrem de motivate. Acestea își adaptează constant tacticile pentru a evita detectarea. Printre metodele folosite se numără găsirea unor modalități noi de a face referire, în mod ascuns, la ideologii extremiste sau disimularea în spatele unor identități aparent inofensive. Pe măsură ce metodele și tehnicile de evitare folosite de extremiștii violenți continuă să evolueze, evoluăm și noi. De aceea, colaborăm cu experți în siguranță și securitate și cu parteneri specializați în detectarea amenințărilor din întreaga lume pentru a înțelege tendințele și pentru a evalua în mod constant politicile și practicile noastre.
Astăzi, aducem mai multă transparență cu privire la modul în care folosim tehnologia pentru a consolida eforturile noastre existente și de lungă durată de moderare în acest domeniu. Știm că, uneori, conturile acționează împreună ca o rețea pentru a răspândi ură și violență și folosesc tehnici mai subtile pentru a încălca regulile. Atunci când identificăm astfel de rețele, desfășurăm investigații detaliate pentru a identifica și a bloca și alte conturi. Unele dintre semnalele pe care le urmărim includ:
- conturi care încearcă să se ascundă de sistemele noastre de detecție folosind limbaj codat, de exemplu combinații de emoji-uri pentru a face referire la anumite narative motivate de ură;
- conturi care elimină sistematic conținut și își schimbă identitatea profilurilor pentru a evita detecția;
- conturi care încearcă să direcționeze oamenii către site-uri din afara platformei, unde își pot distribui în mod liber materialele.
Până acum, în acest an, am eliminat 17 astfel de rețele la nivel global, formate din peste 920 de conturi dedicate răspândirii urii. Aceste grupuri promovau o serie de ideologii extremiste. Conținutul lor includea celebrarea unor atacuri teroriste, susținerea violenței în masă sau vizarea unor grupuri protejate prin mesaje pline de ură.
Odată ce eliminăm aceste rețele, continuăm să le monitorizăm și putem întrerupe rapid orice încercare de a-și restabili prezența pe TikTok. Acest lucru împiedică rețeaua să-și recapete dimensiunea inițială și baza de urmăritori. Pe măsură ce aflăm mai multe despre modul în care operează, intensificăm eforturile pentru ca TikTok să devină cea mai ostilă platformă pentru astfel de actori rău-intenționați.
Dezvoltarea și testarea în etapa pilot a unor noi resurse pentru comunitate
În lupta împotriva urii online și a extremismului violent, putem folosi tehnologia pentru a ajunge direct la comunități și pentru a le pune la dispoziție resurse educaționale relevante. Deja punem la dispoziția comunității noastre globale resurse care îi pot ajuta să își dezvolte abilități de creștere a competențelor media și să fie încurajați să vizualizeze și să creeze conținut online într-un mod responsabil și critic. De exemplu, de mult timp direcționăm utilizatorii către resurse educaționale autorizate despre Holocaust atunci când caută termeni asociați acestui subiect.
Astăzi, anunțăm un nou parteneriat cu Violence Prevention Network, o organizație dedicată prevenirii extremismului violent. Împreună vom dezvolta resurse noi menite să consolideze reziliența comunităților în fața acestor tipuri de actori. Aceste resurse vor fi disponibile inițial pentru comunitatea noastră din Germania, pentru a-i ajuta pe utilizatori să analizeze mai critic conținutul pe care îl întâlnesc online. Utilizatorii vor putea accesa aceste materiale direct în aplicație, atunci când caută termeni asociați extremismului violent. Vom evalua impactul acestei inițiative pe măsură ce analizăm posibilitatea extinderii sale și în alte regiuni ale lumii.
Consolidarea colaborării la nivelul industriei împotriva extremismului violent
Colaborarea este esențială pentru a proteja comunitățile de extremiștii violenți din mediul online. De aceea, suntem mândri să fim acum membri ai Global Internet Forum to Counter Terrorism (GIFCT). Acest statut recunoaște eforturile constante depuse de TikTok de-a lungul anilor în combaterea urii și extremismului violent, inclusiv rolul activ în grupurile de lucru ale GIFCT privind aspecte esențiale precum transparența și reacția la incidente.
Colaborarea cu GIFCT și cu parteneri precum Tech Against Terrorism ne ajută cu:
- Sprijin practic pentru echipele noastre de Trust & Safety;
- O mai bună înțelegere a amenințărilor emergente, datorită schimbului de informații cu parteneri și experți;
- Îmbunătățirea continuă a abordării noastre, inclusiv a politicilor.
Ura online și extremismul violent nu își au locul pe TikTok. Suntem hotărâți să le combatem în mod ferm, continuând să oferim comunității noastre globale un spațiu sigur și incluziv, unde oamenii pot descoperi, interacționa și împărtăși conținut în siguranță.