Atualização em 2 de outubro de 2024

Ao nos aproximarmos do marco de um ano do terrível ataque realizado pelo Hamas em Israel, estamos fornecendo outra atualização sobre nosso trabalho contínuo para proteger nossa plataforma.

Políticas reforçadas contra discurso e comportamento de ódio

Desde a nossa última atualização, lançamos Diretrizes da Comunidade atualizadas e começamos a aplicar políticas ampliadas de discurso de ódio e comportamento odioso. Essas políticas têm como objetivo endereçar de forma mais clara discurso de ódio implícito ou indireto e criar um ambiente mais seguro e civilizado para todos. Elas se somam às nossas políticas de longa data contra o antissemitismo e outras ideologias de ódio.

Também atualizamos nossa política de discurso de ódio para reconhecer o conteúdo que usa o termo "sionista", atributo protegido quando não é usado para se referir a uma ideologia política, porém utilizado como indicação de identidade judaica ou israelense. Essa política foi implementada no início deste ano após observarmos um aumento na forma como a palavra era cada vez mais usada de forma odiosa.

Para aplicar nossas políticas, continuamos investindo em tecnologia de moderação automatizada - que agora é responsável por 80% do conteúdo removido do TikTok - e em moderadores humanos. Continuamos revisando e expandindo nossas atualizações de políticas de discurso de ódio, treinamentos e materiais, incluindo treinamento de preconceito implícito que aborda o antissemitismo e a islamofobia. Também recebemos treinamento adicional da Liga Antidifamação e do Comitê Judaico Americano para aprofundar nossa compreensão das novas ameaças enfrentadas pela comunidade judaica. Continuamos a melhorar nossa detecção de discurso de ódio com um banco de áudio aprimorado para ajudar a detectar sons de ódio, bem como modelos atualizados de aprendizado de máquina para reconhecer conteúdo de ódio. Além disso, aumentamos os recursos de checagem de fatos e expandimos nosso programa de verificação de fatos por meio de uma parceria com a Fatabyyano para verificar conteúdo no Oriente Médio.

No último ano, removemos mais de 4,7 milhões de vídeos e suspendemos mais de 300.000 transmissões ao vivo na região do conflito por violarem as Diretrizes da Comunidade, incluindo conteúdo que promove o Hamas, discurso de ódio e desinformação. Com esses investimentos adicionais, triplicamos o número de contas removidas por ódio a cada trimestre deste ano. Globalmente, no mesmo período, removemos mais de 100 milhões de conteúdos, conforme detalhado no gráfico abaixo.


Além disso:

  • Removemos 500 milhões de contas falsas em todo o mundo no último ano, juntamente com o conteúdo publicado por essas contas.
  • Removemos e denunciamos publicamente três redes de contas que publicavam conteúdo relacionado ao conflito de forma não autêntica, o que violava nossas políticas de operações de influência disfarçadas.

*Os dados abrangem de 7 de outubro de 2023 a 15 de setembro de 2024

Educação e participação contínua da comunidade

Continuamos envolvendo uma ampla gama de especialistas, organizações e criadores à medida que aprimoramos nossa abordagem de combate ao ódio, à desinformação e ao extremismo violento de forma contínua. Por exemplo, o TikTok participou da cúpula de segurança do Congresso Judaico Mundial, Construindo um futuro mais seguro: 30 anos após o atentado à bomba na AMIA, e no simpósio para combater o antissemitismo on-line, organizado pelo Departamento de Estado dos EUA, cujo foco das conversas foi manter o antissemitismo fora das mídias sociais.

Além disso, continuamos a investir no apoio a conteúdo confiável sobre tópicos importantes para nossa comunidade e para o público em geral. Por exemplo, o TikTok apoiou uma delegação de 27 criadores de conteúdo de todo o mundo que participaram da Marcha Internacional dos Vivos na Polônia e na Hungria. Esses criadores ouviram renomados estudiosos da história do Holocausto, juntamente com sobreviventes do Holocausto, e marcharam de Auschwitz a Birkenau, onde a delegação prestou homenagem às vítimas do Holocausto. A marcha deste ano foi liderada por 55 sobreviventes do Holocausto, incluindo sete sobreviventes israelenses do Holocausto afetados pelos eventos de 7 de outubro em Israel. Como parte de sua jornada, os criadores do TikTok produziram 76 vídeos que alcançaram mais de 22 milhões de visualizações em nossa plataforma para aumentar a conscientização sobre os horrores do Holocausto e a importância de combater o ódio.

O TikTok segue concentrado na aplicação das regras e continuará protegendo sua comunidade durante esse período de conflito.


***

Post Original - 15 de outubro de 2023

O TikTok é contra o terrorismo. Ficamos chocados e horrorizados com os atos de terror em Israel na semana passada. Também estamos profundamente tristes com a intensificação da crise humanitária que está acontecendo em Gaza. Estamos de corações partidos por todos os que foram afetados.

Mobilizamos imediatamente um volume significativo de recursos e equipes para ajudar a manter a segurança de nossa comunidade e a integridade de nossa plataforma. Estamos comprometidos com a transparência ao trabalharmos para oferecer um espaço seguro e protegido para nossa comunidade global. Continuamos concentrados em apoiar a liberdade de expressão, defender nosso compromisso com os direitos humanos e proteger nossa plataforma durante a guerra entre Israel e Hamas.

Preservando as Diretrizes da Comunidade do TikTok

Como parte de nosso processo de gerenciamento de crises, nossas ações para proteger nossa comunidade incluem:

  • Lançamos um centro de controle que reúne membros importantes de nossa equipe global de 40.000 profissionais de segurança, representando uma gama de conhecimentos e perspectivas regionais, para que permaneçamos atentos à forma como agimos para responder a essa crise em rápida evolução.
  • Evoluímos nossos sistemas proativos de detecção automatizada em tempo real à medida que identificamos novas ameaças; isso nos permite detectar e remover automaticamente conteúdo gráfico e violento para que nem nossos moderadores, nem os membros da comunidade sejam expostos a ele.
  • Adicionamos mais moderadores que falam árabe e hebraico para revisar o conteúdo relacionado a esses eventos. Como continuamos nos concentrando aos cuidados com os moderadores, estamos implementando recursos adicionais de bem-estar para aqueles que estão atuando nessa linha de frente durante esse período.
  • Seguimos aplicando nossas políticas contra a violência, o ódio e a desinformação nociva, tomando medidas para remover conteúdo e contas violadoras. Removemos, por exemplo, conteúdos que apoiam os ataques ou zombam das vítimas afetadas pela violência. Se for publicado conteúdo que represente uma pessoa que tenha sido mantida como refém, faremos tudo o que pudermos para proteger sua dignidade e removeremos o conteúdo que infrinja nossas regras. Não toleramos tentativas de incitar a violência ou disseminar ideologias de ódio. Temos uma política de tolerância zero para conteúdos que elogiem organizações e indivíduos violentos e odiosos, e essas organizações e indivíduos não são permitidos em nossa plataforma. Também bloqueamos hashtags que promovem a violência ou violam nossas regras.
  • Adicionamos telas de aviso (opt-in) sobre conteúdo que possa ser chocante ou gráfico para ajudar a evitar que as pessoas o vejam inesperadamente, pois continuamos a fazer exceções de interesse público para alguns conteúdos. Reconhecemos que alguns conteúdos que, de outra forma, poderiam violar nossas regras podem ser de interesse público, e permitimos que esses conteúdos permaneçam na plataforma para fins de documentário, educação e contradiscurso.
  • Fizemos ajustes temporários nas políticas que regem os recursos do TikTok em um esforço para impedir proativamente que eles sejam usados para comportamentos de ódio ou violência na região. Por exemplo, estamos acrescentando restrições adicionais à elegibilidade de LIVEs como uma medida temporária, dado o maior risco de segurança no contexto da atual situação dos reféns.
  • Cooperamos com as agências globais de aplicação da lei, de acordo com as nossas Diretrizes de Aplicação da Lei, que se baseiam em normas jurídicas e de direitos humanos. Estamos perfeitamente conscientes dos riscos específicos e iminentes para a vida humana envolvidos no rapto de reféns e estamos a trabalhando com as autoridades policiais para garantir a segurança das vítimas de acordo com os nossos procedimentos de emergência.
  • Colaboramos com especialistas de todo o setor da indústria e da sociedade civil, como a Tech Against Terrorism e os nossos Conselhos Consultivos para salvaguardar e proteger ainda mais a nossa plataforma durante estes tempos difíceis.

Desde o ataque brutal de 7 de outubro, continuamos trabalhando ativamente para remover conteúdo que viola nossas diretrizes. Até o momento, removemos globalmente mais de 500.000 vídeos e encerramos 8.000 transmissões ao vivo na região afetada por violarem nossas diretrizes.


Prevenindo a disseminação de conteúdo enganoso

A desinformação em tempos de crise pode piorar a situação. É por isso que trabalhamos para identificar e remover informações incorretas e prejudiciais. Também removemos mídia sintética que tenha sido editada, emendada ou combinada de forma que possa enganar nossa comunidade sobre eventos reais.

Para nos ajudar a aplicar essas políticas com precisão, trabalhamos com organizações de verificação de fatos credenciadas pela IFCN (International Fact-Checking Network), que atendem a mais de 50 idiomas, inclusive árabe e hebraico. Os verificadores de fatos avaliam o conteúdo, permitindo que nossos moderadores apliquem, com precisão, nossas políticas de desinformação. Por uma questão de cautela, enquanto um vídeo está sendo verificado, nós o tornamos inelegível para o feed “Para Você”. Se a verificação de fatos for inconclusiva, rotulamos o conteúdo como não verificado, não o permitimos nos feeds Para Você e pedimos que as pessoas refletirem antes de compartilhá-lo.

Continuamos procurando proativamente por sinais de comportamentos enganosos em nossa plataforma. Isso inclui o monitoramento de comportamentos que indiquem uma operação de influência oculta, e interrupção e banimento de contas identificadas como parte da rede.

Em breve, lançaremos lembretes na Pesquisa para determinadas palavras-chave em hebraico, árabe e inglês para incentivar que nossa comunidade esteja ciente de possíveis informações incorretas, consultem fontes confiáveis e se lembrem de nossos recursos de bem-estar no aplicativo, caso precisem deles.

Moldando sua experiência no TikTok

Temos um grande conjunto de controles e recursos disponíveis que incentivamos que todos em nossa comunidade considerem usar à medida que esses controles personalizam a experiência no TikTok para melhor se adaptar às suas preferências. Esses recursos incluem:

  • Controles do feed  Para Você: As pessoas podem tocar em ‘Não interessado’ no conteúdo que desejam ver menos ou escolher ‘Atualizar’ se quiserem reiniciar o feed. Quando o Modo Restrito está ativado, ele ajuda a limitar a exibição de conteúdo que pode não ser apropriado para um público geral e filtra o conteúdo com rótulos de aviso.
  • Controle de comentários: As pessoas podem escolher quem pode comentar em seus vídeos, filtrar palavras-chave dos comentários ou revisar os comentários antes de serem publicados. Elas também podem bloquear, excluir e denunciar comentários em massa. Também solicitamos que as pessoas reconsiderem a publicação de comentários indelicados.
  • Controles de tempo de tela: Oferecemos uma série de ferramentas para ajudar as pessoas a personalizar e controlar o tempo que passam em nosso aplicativo, como ferramentas para definir um limite de tempo de tela, lembretes para fazer uma pausa ou desconectar na hora de dormir, e muito mais.
  • Sincronização Familiar: Por meio do nosso recurso Sincronização Familiar, os pais e responsáveis podem vincular sua conta do TikTok à conta do adolescente para ativar uma variedade de configurações de conteúdo. Por exemplo, eles podem optar por desativar a pesquisa, ativar o modo restrito e personalizar as configurações de tempo de tela.
  • Denúncias: Qualquer pessoa pode denunciar conteúdo no TikTok, inclusive comentários, contas e transmissões ao vivo. Mantenha pressionado um vídeo, toque em “Denunciar” e selecione um motivo, como desinformação.

Também fornecemos à nossa comunidade recursos úteis sobre várias questões, inclusive como reconhecer o ódio e denunciá-lo, e como compartilhar com segurança histórias sobre sua saúde mental e ter acesso a ajuda, se necessário.

Continuaremos adaptando nossas proteções para garantir a segurança de nossa comunidade.

Atualização em 25 de outubro às 15h BRT

Continuamos focados na aplicação rápida e consistente de nossas políticas para proteger a comunidade do TikTok. Desde 7 de outubro, removemos mais de 775 mil vídeos e encerramos mais de 14 mil transmissões ao vivo que promoviam violência, terrorismo, discurso de ódio, desinformação e outras violações das nossas Diretrizes da Comunidade na região afetada.

Atualização em 23 de novembro às 12h BRT

À medida que o conflito continua, continuamos concentrados em fazer com que sejam cumpridas nossas regras contra o ódio, a desinformação prejudicial e outros conteúdos violadores. De 7 de outubro a 17 de novembro, removemos mais de 1.164.000 vídeos na região de conflito por violarem as nossas regras, incluindo conteúdo que promove o Hamas, discurso de ódio, terrorismo e desinformação. Globalmente, removemos milhões de conteúdos durante o mesmo período:

Continuamos a tomar medidas rápidas contra o aumento de engajamentos e contas falsas. No mês anterior ao início do conflito, removemos 21 milhões de contas falsas em todo o mundo, em comparação com 35 milhões de contas falsas removidas no mês após o início da guerra – um aumento de 67%. Naquele mês, também removemos 933 mil comentários de bots postados em conteúdo marcado com hashtags relacionadas ao conflito.

Reconhecemos que este é um momento desafiador para muitos em nossa comunidade. Por isso, continuamos buscando oportunidades de ouvir diretamente dos criadores sobre sua experiência no TikTok e de falar com grupos comunitários e outros especialistas, à medida que nossas equipes consideram mudanças e ferramentas adicionais, como nosso novo guia da Centro de Segurança sobre como acessar suporte durante acontecimentos trágicos.

Atualização em 7 de dezembro às 18h BRT

Entendemos que este é um momento difícil, assustador e polarizador para muitas pessoas ao redor do mundo e no TikTok. À medida que continuamos a focar na segurança da nossa comunidade, estamos lançando uma série de iniciativas para impedir a disseminação de ódio no TikTok. Isto inclui uma iniciativa de serviço público que será lançada na nossa plataforma, incentivando as pessoas a unirem-se contra o comportamento odioso.

  • Reunimos um novo grupo de trabalho anti-ódio e discriminação dentro da nossa equipe de confiança e segurança que está desenvolvendo um plano agressivo para reprimir ainda mais o comportamento odioso, com especial enfoque no anti-semitismo e na islamofobia. Como parte deste esforço, estamos investindo mais recursos para identificar proativamente tendências novas e emergentes, antes que ganhem visibilidade, e reforçando e aprofundando a formação de moderadores, em parceria com especialistas, para abordar preconceitos implícitos e os aspetos únicos de ideologias de ódio.
  • À medida que reforçamos nossa moderação de conteúdo, também aumentamos as formas de capacitar criadores para controlarem suas experiências.
    • Começamos a implementar o “Comment Care Mode”, que expande nosso conjunto de controles de comentários com novas opções para filtrar comentários hostis ou indesejados. Quando esse modo for ativado, ele filtrará comentários que consideramos semelhantes àqueles que o criador denunciou ou excluiu anteriormente ou que são inadequados, ofensivos ou contêm palavrões.
    • Queremos garantir que todos os criadores do TikTok conheçam as ferramentas disponíveis. Começamos a avisar os novos criadores depois que eles postarem o primeiro vídeo e a lembrar os criadores já estabelecidos que ainda não usaram essas ferramentas. Também solicitamos aos criadores que podem estar enfrentando um aumento no número de comentários indesejados ou hostis que ativem as ferramentas de segurança e usem um novo recurso que estamos lançando que filtra comentários feitos por contas que não estão na lista de seguidores do criador. Os primeiros dados mostraram que criadores que usam esses filtros têm uma redução de 30% na quantidade de comentários que reportam.
  • Sabemos que parte da abordagem sobre discursos de ódio significa ouvir mais diretamente os grupos mais afetados. Para garantir que os produtos que estamos construindo atendam nossa comunidade conforme pretendido, estamos desenvolvendo um programa de codesign e testes beta de produtos para que criadores forneçam informações sobre nossos recursos e os testem para garantir que eles atendam às suas necessidades. Também estamos expandindo nossas comunidades gerenciadas de criadores para comunidades judaicas e outras comunidades inter-religiosas, bem como comunidades da Ásia e do Pacífico e LGBTQIAP+ no próximo ano.

Além disso, continuamos a trabalhar agressivamente para fazer cumprir nossas políticas de discurso de ódio, desinformação e outros tópicos. De 7 de outubro a 30 de novembro, removemos mais de 1,3 milhão de vídeos na região de conflito por violarem nossas Diretrizes da Comunidade, incluindo conteúdo que promove o Hamas, discurso de ódio, terrorismo e desinformação. Globalmente, no mesmo período, removemos dezenas de milhões de conteúdos, conforme detalhado no gráfico abaixo, e impedimos que contas de adolescentes visualizassem mais de 1 milhão de vídeos contendo violência ou conteúdo gráfico.


Atualização em 8 de abril de 2024 às 12h BRT

Conforme chegamos a seis meses do início da guerra Israel-Hamas, continuamos a atualizar nosso trabalho para ajudar a manter a segurança da nossa comunidade e a integridade da nossa plataforma.

Nos seis meses desde 7 de outubro de 2023*, removemos mais de 3,1 milhões de vídeos e suspendemos mais de 140.000 transmissões ao vivo em Israel e na Palestina por violarem as nossas Diretrizes da Comunidade, incluindo conteúdo que promove o Hamas, discurso de ódio, extremismo violento e desinformação. Globalmente, no mesmo período, removemos dezenas de milhões de conteúdos, conforme detalhado no gráfico abaixo.

Continuamos a tomar medidas robustas também contra comportamentos enganosos. Nos seis meses desde o início da guerra, removemos mais de 320 milhões de contas falsas em todo o mundo, juntamente com o seu conteúdo.

Como dissemos quando a guerra começou, mobilizamos imediatamente recursos para nos ajudar a melhorar a nossa detecção automatizada proativa e a reforçar as nossas equipas de moderação, à medida que enfrentamos estes riscos novos e em evolução. Graças às melhorias que fizemos nos modelos de moderação de máquinas quando a guerra começou, vimos um aumento imediato de 234% nos comentários violadores removidos em Israel e na Palestina por esta tecnologia. Esses esforços nos ajudam a garantir que estamos proporcionando experiências seguras, inclusivas e acolhedoras para nossa comunidade.

*Os dados abrangem o período de 7 de outubro de 2023 a 31 de março de 2024.