de Brie Pegum, Director Global de Produs, Autenticitate & Transparență


Pe măsură ce continuăm să lucrăm pentru a proteja comunitatea noastră din România în timpul alegerilor prezidențiale și după acestea, împărtășim mai multe despre modul în care combatem comportamentele înșelătoare. Platforma noastră este construită în jurul bucuriei experiențelor autentice și interzicem cu strictețe încercările de a-i submina integritatea, de a induce în eroare oamenii sau de a manipula sistemele noastre. Există o gamă largă de comportamente înșelătoare desfășurate online pe toate platformele, care pot atinge probleme sociale importante, inclusiv alegerile - de la spam, uzurparea identității sau operațiuni de influență sub acoperire. La TikTok, acționăm proactiv împotriva acestor activități neautentice, care încalcă politicile noastre. Astăzi evidențiem modul în care definim, eliminăm și rămânem în fața actorilor care se află în spatele acestora.

Definirea operațiunilor secrete de influențare

Operațiunile de influență sub acoperire reprezintă unul dintre cele mai dificile comportamente înșelătoare pe care le abordează industria noastră, motiv pentru care am creat echipe, politici și rapoarte de transparență dedicate pentru a ne concentra asupra lor în permanență. Politicile noastre definesc operațiunile de influență sub acoperire ca fiind un comportament coordonat, neautentic, în care rețele de conturi lucrează împreună pentru a induce în eroare oamenii sau sistemele noastre și pentru a influența discuțiile publice cu privire la probleme sociale importante, inclusiv alegerile.

Deși operațiunile de influență atrag adesea cea mai mare atenție din partea publicului, acestea sunt relativ rare în comparație cu alte comportamente înșelătoare, cum ar fi spam-ul sau interacțiunile false, care operează de obicei la o scară mult mai mare, folosind tactici mai ușor de observat. Cu toate acestea, operațiunile de influențare urmăresc, de asemenea, să provoace prejudicii sociale disproporționate și să utilizeze tactici deosebit de sofisticate. Acesta este motivul pentru care investim masiv în elaborarea de strategii specifice, în definirea politicilor, dar și în grupuri de lucru pentru a elimina acești actori specifici.

Crearea unui grup operativ pentru operațiuni de influență

Am creat echipe internaționale de trust & safety cu expertiză în domenii precum înțelegerea amenințărilor la adresa securității (threat intelligence), securitate, aplicarea legii și data science pentru a combate operațiunile de influență în permanență. Aceste echipe urmăresc și analizează continuu semnalele de comportament înșelător de pe platformă, precum și indiciile din surse externe. De asemenea, ele colaborează, de la caz la caz, cu furnizori externi de informații pentru a sprijini investigațiile specifice.

Până în prezent, în 2024, am întrerupt activitatea a peste 40 de noi rețele de influență sub acoperire - inclusiv 3 în România - și am eliminat peste 70.000 de conturi pentru încălcarea politicilor noastre privind influența sub acoperire. Acestea includ și zeci de mii de conturi pe care le-am detectat încercând să își restabilească prezența pe platforma noastră, conturi pe care le numim „recidiviste”.

Vizarea exprimării neautentice

Conturile care se angajează în operațiuni de influență evită adesea să posteze conținut care ar încălca în sine regulile platformei. De aceea, atunci când analizăm conturile, ne concentrăm asupra comportamentului și conexiunile tehnice ale acestora, căutând în special dovezi că:

  1. Acestea se coordonează între ele. De exemplu, sunt operate de aceeași entitate, prezintă similitudini tehnice, cum ar fi utilizarea acelorași dispozitive sau lucrează împreună pentru a răspândi aceeași narativă.
  2. Induc în eroare sistemele sau utilizatorii noștri. De exemplu, încearcă să își ascundă locația reală sau utilizează identități false pentru a pretinde că sunt altcineva.
  3. Încearcă să manipuleze sau să corupă dezbaterea publică pentru a influența procesul decizional, convingerile și opiniile unei comunități. De exemplu, încearcă să influențeze discursul din jurul unor alegeri sau al unui conflict.

Aceste criterii sunt aliniate la standardele din industrie și la recomandările experților cu care ne consultăm în mod constant. Ele sunt deosebit de importante pentru că ne ajuta să distingem coordonarea rău intenționată, neautentică, de interacțiunile autentice care fac parte din comunități sănătoase și deschise. De exemplu, politicile noastre nu ar fi încălcate dacă un grup de persoane ar colabora în mod autentic pentru a crește vizibilitatea sau pentru a face campanie pentru o cauză socială sau pentru a-și exprima o opinie comună (inclusiv opinii politice). Cu toate acestea, conturile multiple care lucrează împreună în mod înșelător pentru a răspândi mesaje similare în încercarea de a influența discuțiile publice ar fi blocate și le-ar fi interzisă activitatea pe platformă.

Combaterea rețelelor de influență

Contracararea operațiunilor secrete de influență reprezintă o provocare în continuă evoluție pentru orice platformă, deoarece actorii ostili din spatele acestora își schimbă în permanență tacticile și modul în care încearcă să își ascundă eforturile. Acesta este motivul pentru care ne îmbunătățim continuu sistemele de detectare a activității pe platformă, colaborăm cu furnizorii de threat intelligence pentru a obține informații suplimentare și încurajăm autoritățile să ne împărtășească orice potențiale indicii în mod proactiv. De asemenea, ne uităm la activitatea din afara platformei și folosim informații open source pentru a identifica orice comportament înșelător pe TikTok. De exemplu, în luna septembrie, am desființat o rețea de 42 de conturi care vizau discursul politic în Germania, despre care s-a constatat că se coordonau prin intermediul unei platforme de mesagerie din afara TikTok.

După ce eliminăm rețelele, le monitorizăm cu vigilență pentru a le împiedica să revină pe platforma noastră. În luna septembrie, am raportat 9.743 de conturi pe care le-am eliminat, asociate cu rețele combătute anterior, care au încercat să își restabilească prezența în această perioadă de raportare.

Diferențierea comportamentelor înșelătoare

Uneori, comportamentul sau conținutul care încalcă celelalte politici privind comportamentul înșelător (cum ar fi spam-ul sau interacțiunile false) abordează aceleași subiecte ca și o operațiune de influență. De exemplu, în industria noastră este frecvent ca actori motivați financiar să încerce să profite de aspecte sensibile, cum ar fi alegerile, pentru a stimula implicarea în scopuri personale. Aceste cazuri nu sunt clasificate drept operațiuni de influență decât dacă îndeplinesc criteriile descrise mai sus, deoarece nu au aceleași obiective strategice, semnale tehnice sau tactici înșelătoare (despre care puteți citi mai multe aici). Cu toate acestea, ele sunt în continuare strict interzise și ar fi eliminate prin alte eforturi de combatere a comportamentului înșelător pe care le descriem mai jos.

De cele mai multe ori, comportamentul neautentic, vizibil din exterior pe platformă, nu face parte dintr-o rețea de influență. Aceasta din urmă presupune eforturi mult mai mari pentru a ascunde orice legături evidente și necesită, de obicei, investigații tehnice aprofundate pentru a fi descoperite.

Combaterea interacțiunilor false

Pe lângă contracararea operațiunilor secrete de influență, interzicem o serie largă de alte comportamente înșelătoare care încearcă să manipuleze platforma noastră, adesea în scopuri personale sau financiare. De exemplu:

  • Nu permitem utilizarea conturilor pentru a manipula platforma, cum ar fi utilizarea automatizării pentru a te înregistra sau pentru a opera conturi în masă.
  • Nu permitem spam-ul, inclusiv manipularea semnalelor de interacțiune pentru a amplifica raza de acțiune a anumitor conținuturi.
  • Nu permitem uzurparea identității, incluzând aici conturile care se dau drept o altă persoană reală sau entitate (altele decât conturile de parodie care sunt clar declarate ca atare)
  • Nu permitem prezentarea ca persoană sau entitate falsă care nu există (persoană falsă) cu intenția demonstrată de a induce în eroare alte persoane de pe platformă
  • Nu permitem interacțiunea falsă, cum ar fi facilitarea comerțului sau a marketingului pentru servicii care cresc în mod artificial interacțiunile, cum ar fi vânzarea de urmăritori sau aprecieri sau furnizarea de instrucțiuni privind modul de creștere artificială a engagement-ului pe TikTok.
  • Nu permitem diseminarea fără discernământ a materialelor piratate care ar putea provoca daune semnificative.

Investim continuu în tehnologii avansate pentru a bloca și preveni aceste comportamente înșelătoare și raportăm periodic eforturile noastre în Rapoartele noastre privind Aplicarea Regulilor Comunității. În Q2 2024, peste 94% dintre videourile care încalcă politicile noastre de fake engagement au fost eliminate proactiv. Numai în prima jumătate a acestui an, prin moderarea automată la nivel global:

  • Am împiedicat crearea a peste 700 de milioane de conturi false și am eliminat peste 940 de milioane de videouri de pe conturi false.
  • Am prevenit peste 36 de miliarde de like-uri false și am eliminat alte peste 379 de milioane de like-uri false.
  • Am prevenit peste 15 miliarde de cereri false de follow și am eliminat peste 207 milioane de followers falși.

În România, în special, numai începând cu luna septembrie, am prevenit în mod proactiv aproape 45 de milioane de aprecieri false, peste 27 de milioane de cereri de false de follow și am blocat crearea a peste 400 de mii de conturi spam.

Protejarea experiențelor autentice

Această activitate de combatere a comportamentelor înșelătoare este doar un aspect al abordării noastre extinse de protejare a experiențelor autentice pe TikTok. Câteva dintre aceste măsuri includ:

  • Interzicerea dezinformării dăunătoare, restricționarea conținutului neverificat din feed-urile For You și parteneriatele cu 20 de organizații de fact-checking la nivel global pentru a aplica cu exactitate aceste politici, inclusiv Lead Stories din România. 98% din dezinformările care încalcă regulile noastre sunt eliminate proactiv.
  • Etichetarea conținutului neverificat, conectarea oamenilor la surse de informații oficiale în cadrul aplicației și aplicarea insignelor de cont „verificat” pentru a semnala că un cont aparține persoanei care pretinde că este. TikTok este una dintre singurele platforme rămase în care insignele de cont verificat sunt obținute exclusiv pe baza criteriilor de autenticitate, și nu cumpărate.
  • Etichetarea conturilor media afiliate statului, restricționându-le publicitatea către audiențe din afara țării în care sunt înregistrate și făcându-le neeligibile pentru recomandare in feed-ul For You dacă încearcă să influențeze audiențele străine cu privire la subiecte de actualitate. De asemenea, am eliminat peste 150 de conturi asociate cu Rossiya Segodnya și TV-Novosti pentru implicarea în operațiuni de influență pe TikTok.

Continuăm să investim și să evoluăm

În plus față de măsurile noastre proactive de detectare, facilităm oamenilor raportarea cu ușurință a conținutului sau conturilor care îi îngrijorează. În aplicația noastră, oamenii pot raporta comportamente înșelătoare, spam-ul, dezinformările dăunătoare și multe altele. De asemenea, analizăm rapoartele pe care le primim prin intermediul Canalului de Parteneri Comunitari și de la agențiile guvernamentale și autoritățile de reglementare, și eliminăm încălcările politicilor noastre.

Munca pentru protejarea integrității platformei noastre nu se încheie niciodată. Vom continua să investim, să evoluăm și să raportăm cu privire la aceste eforturi pentru a ajuta oamenii să acceseze informații de încredere, să descopere conținut original și să împărtășească interacțiuni autentice - pe parcursul alegerilor din România și dincolo de ele.