Av Cormac Keenan, Head of Trust and Safety på TikTok

På TikTok kan människor dela med sig av sin kreativitet, kunskap och passion med andra på underhållande och glädjefyllda sätt. För att hålla vår plattform välkomnande och autentisk för alla tar vi löpande bort innehåll som bryter mot våra policys. Vi strävar efter att vara transparenta om hur detta sker gentemot kreatörer och genom våra rapporter om efterlevnaden av community-riktlinjerna. Vår senaste rapport för april-juni, publicerad idag, summerar de förbättringar som gjorts för att motverka desinformation och insikter om arbetet som ledde till detta.

Desinformation är inte ett nytt problem, men internet har bidragit med nya kanaler för den att ta sig uttryck i. Vi vet vilken påverkan desinformation kan ha för att urholka förtroendet för alltifrån folkhälsa, valprocesser, fakta till vetenskap och vi är fast beslutna att vara en del av lösningen. Vi tar all typ av desinformation på största allvar och har en bred palett med åtgärder för att stoppa den från att spridas. Parallellt med detta lyfter vi fram korrekt och verifierad information och investerar i utbildningar i digital kompetens för att säkra att vi kan förekomma problematiken i större skala.

Våra policys

Vår integritetspolicy syftar till att främja en trygg och autentisk upplevelse. Våra policys kring skadlig desinformation förbjuder innehåll som kan vilseleda användarna om frågor kopplade till bland annat medborgerliga processer, folkhälsa eller säkerhet. Till exempel tillåter vi inte medicinsk desinformation om vacciner eller covid-19 och vi tillåter inte felaktig information om valprocesser och röstning. Dessa policys är utvecklade för att tillämpas på en stor variation av content – desinformation och annan felaktig och skadlig information förändras konstant och är ofta baserat på aktuella händelser.

Förutom att ta bort felaktigt innehåll som kan skada våra användare eller vårt community i stort, tar vi också bort konton som försöker vilseleda eller använder TikTok för att påverka den allmänna opinionen på ett bedrägligt vis. Det rör sig om alltifrån falska konton till mer sofistikerade försök att undergräva allmänhetens förtroende. Den här typen av aktörer utvecklar konstant sin taktik och vi försöker löpande stärka vår policy när vi upptäcker nya typer av innehåll och beteenden.

Upprätthållandet av våra policys

TikToks community-riktlinjer upprätthålls i ett samarbete mellan avancerad teknik och tusentals säkerhetspersonal. För att detta ska vara effektivt i stor skala investerar vi löpande i teknikbaserad flaggning och moderering. Automatisk moderering sker i samband med att systemet med hög säkerhet upptäcker innehåll som bryter mot riktlinjerna och gör så att vi snabbt tar bort otillåtet från plattformen.

Desinformation är dock mer komplex och kräver såväl sammanhangs- som faktakontroll för att konsekvent och korrekt upprätthålla reglerna. Även om vi använder maskininlärningsmodeller för att upptäcka potentiell desinformation, låter vi i dag våra modereringsteam bedöma, bekräfta och ta bort felaktig information.

Vi har specialiserade moderatorer för desinformation som har utbildning, expertis och verktyg för att vidta åtgärder mot desinformation. Detta inkluderar direkt access till våra faktakontrollpartners som hjälper till att bedöma innehållets riktighet.

Vi har mer än ett dussin faktagranskningspartners runt om i världen som granskar innehåll på över 30 språk. Alla våra faktakontrollpartners är ackrediterade av International Fact-Checking Network och har verifierat undertecknat International Fact-Checking Networks principkod. Som en extra försiktighetsåtgärd är innehåll som genomgår faktakontroll, eller inte kan styrkas av en sådan faktagranskande process, inte kvalificerat för rekommendationer i For You-feeds. I det fall en faktagranskare bekräftar att innehållet är falskt, kan videon tas bort från vår plattform eller göras ogiltig för rekommendation i For You-feeds.

För att ständigt förbättra identifieringen och borttagningen av felaktig information har vi i år bland annat:

  • Fortsatt investering i maskininlärningsmodeller och ökad kapacitet att snabbt upprepa processerna givet desinformationens snabbt föränderliga karaktär.
  • Förbättrat förmågan att upptäcka känt vilseledande ljud och bilder för att minska mängden manipulerat innehåll.
  • Infört en databas med tidigare faktakontrollerade påståenden för att hjälpa desinformationsmoderatorer att fatta snabba och korrekta beslut.
  • Lanserat ett ”proaktivt upptäcktsprogram” tillsammans med våra faktagranskare där de kan flagga nya påståenden de ser på internet. Detta gör att vi kan leta efter dessa på vår plattform och ta bort överträdelser. Sedan programmet startade förra kvartalet har vi identifierat 33 nya felaktiga påståenden, vilket resulterade i att 58 000 videor togs bort från plattformen.

Överträdelser av vår integritets- och autenticitetspolicy utgör mindre än 1 procent av de totala borttagningarna av videoklipp och genom våra investeringar har vi skapat ytterligare förbättringar i att proaktivt upptäcka och tillämpa våra policys.

Samarbeten med andra

Vi är övertygade om att samarbeten med experter är nyckeln till att hantera denna utmaning. Vi samarbetar regelbundet med vårt rådgivande Content/Safety Advisory Council, forskare, organisationer från civilsamhället och experter på mediekunskap. Samarbetena bidrar inte bara till att stärka vår policy och övergripande kunskap om trender och frågor utan gör det också möjligt för oss att lyfta auktoritativa röster och korrekt och verifierad information på vår plattform. Till exempel skapade vi ett nav för digital kompetens med innehåll som syftar till att utrusta människor med färdigheter i att utvärdera innehåll de konsumerar. Innehållet kom bland annat från experter på MediaWise och National Association of Media Literacy Education. För att främja valintegritet skapar vi valcenter där vi erbjuder tillgång till korrekt information om röstning och lokala valprocesser. I Sverige utmynnades detta i tillförlitlig information på valrelaterade hashtags som hänvisade till Valmyndigheten samt Myndigheten för Psykologiskt försvar. För att stödja folkhälsan kan människor få tillgång till information om covid-19 och apkoppor från Världshälsoorganisationen genom en informationsruta på relevanta hashtags och etiketter på videor.

Vi kommer att fortsätta att arbeta vidare med denna utmaning och vi vet att det är ett kontinuerligt arbete som aldrig tar slut. För att lära dig mer om hur vi jobbar för att skydda vår plattform, besök vårt Transparency Center.