En la primera mitad de 2025, TikTok eliminó más de 6,5 millones de vídeos por infringir sus normas contra las organizaciones violentas y que incitan al odio. El 98,9 % se eliminó antes de que fuese reportado a la plataforma.
Durante el Foro Europeo de Seguridad, celebrado en el Centro de Transparencia y Responsabilidad de Dublín, TikTok ha compartido más información sobre cómo defiende a la plataforma contra el odio y el extremismo violento. Esto se basa en nuestro trabajo sostenido para proteger a nuestra comunidad y fomentar el civismo. Creemos que ser civilizados y sentirnos seguros es clave para una comunidad próspera y creativa. Por eso, nuestras políticas contra el odio y el extremismo violento se basan en la idea de tratarnos con dignidad y respeto en TikTok.
Nuestro enfoque para combatir el extremismo violento
TikTok no permite la presencia de organizaciones o individuos violentos y que incitan al odio en nuestra plataforma. También prohibimos la promoción o el apoyo material a actores violentos o que incitan al odio. Si tenemos conocimiento de contenido que incumpla nuestras normas, incluidos los intentos de reclutar miembros o comportamientos fuera de la plataforma, tomaremos medidas inmediatas para eliminarlo y cerrar las cuentas.
Mantenemos una estrecha relación con las fuerzas del orden nacionales e internacionales. Les informamos de los casos según corresponda, incluidos aquellos en los que creemos que existe una amenaza específica, creíble e inminente para la vida humana o lesiones físicas graves.
Nuestras tecnologías y equipos de moderación avanzados trabajan de manera eficaz para eliminar este tipo de contenido de la plataforma. En la primera mitad de este año, eliminamos más de 6,5 millones de vídeos por infringir nuestras normas contra las organizaciones violentas y que incitan al odio. Esto representa algo menos del 2 % de todo el contenido infractor eliminado durante esos seis meses. Nuestros sistemas son muy eficientes: el 98,9 % se eliminó antes de que se nos informara y el 94 % se eliminó en un plazo de 24 horas.
Desarticular las redes extremistas
La lucha contra los grupos que promueven el odio y el extremismo violento en entornos digitales es un desafío que impacta a toda la industria, y que afecta a la sociedad de forma constante. Estos grupos están profundamente motivados. Adaptan constantemente sus tácticas para evitar ser detectados. Esto incluye encontrar nuevas formas de hacer referencia de forma encubierta a ideologías que incitan al odio o esconderse tras identidades aparentemente inocuas. A medida que las metodologías extremistas violentas y las técnicas de evasión siguen evolucionando, nosotros también lo hacemos. Por eso colaboramos con expertos en seguridad y socios que colaboren con nosotros en la detección de amenazas, alrededor del mundo para comprender las tendencias y evaluar periódicamente nuestras políticas y prácticas.
Hoy en día, aportamos más transparencia a la forma en que utilizamos la tecnología para avanzar en nuestros constantes esfuerzos de moderación en este ámbito. Sabemos que, en algunas ocasiones, las cuentas colaboran entre sí como una red para difundir el odio y la violencia y utilizan técnicas más sutiles para infringir nuestras normas. Cuando encontramos estas redes, llevamos a cabo investigaciones detalladas para identificar y desarticular otras cuentas. Algunas de las señales que buscamos son:
- cuentas que intentan ocultarse de nuestros sistemas de detección utilizando lenguaje codificado, como una combinación de emojis para hacer referencia a determinadas narrativas de odio
- cuentas que eliminan sistemáticamente contenido y cambian el nombre de sus perfiles para evitar ser detectadas
- cuentas que intentan dirigir a las personas a sitios fuera de la plataforma, donde pueden compartir libremente sus materiales.
En lo que va de año, hemos eliminado 17 redes de este tipo en todo el mundo, compuestas por más de 920 cuentas dedicadas a difundir el odio. Estos grupos promovían una serie de ideologías extremistas. Su contenido incluía la celebración de atentados terroristas, el apoyo a la violencia masiva o el odio hacia grupos protegidos.
Una vez que eliminamos estas redes, seguimos rastreándolas y podemos frustrar rápidamente sus intentos de restablecer su presencia en TikTok. Esto impide que la red recupere su tamaño y número de seguidores originales. A medida que aprendemos más sobre cómo operan, podemos hacer más para que TikTok sea la plataforma más hostil para estos malos actores.
Puesta a prueba de nuevos recursos comunitarios
En la lucha contra el odio y el extremismo violento en línea, también podemos utilizar la tecnología para llegar a las comunidades y educarlas allí donde se encuentren. Ya ofrecemos a nuestra comunidad global acceso a recursos que pueden ayudarles a desarrollar habilidades de alfabetización mediática y les animan a ver y crear contenido online de forma responsable y crítica. Por ejemplo, llevamos mucho tiempo dirigiendo a los usuarios a recursos educativos autorizados sobre el Holocausto cuando buscan palabras relacionadas.
Hoy anunciamos una nueva asociación con Violence Prevention Network, una organización dedicada a detener el extremismo violento. Juntos, diseñaremos nuevos recursos destinados a fomentar la resiliencia de la comunidad frente a este tipo de actores. Estos recursos estarán disponibles inicialmente para nuestra comunidad en Alemania, con el fin de ayudarles a pensar de forma más crítica sobre el contenido que ven. Los usuarios podrán encontrar estos recursos en la aplicación, cuando busquen palabras relacionadas con el extremismo violento. Evaluaremos el impacto de este enfoque mientras consideramos la posibilidad de llevarlo a otras partes del mundo.
Fortalecemos la colaboración de la industria contra el extremismo violento
Trabajar juntos es esencial para proteger a nuestras comunidades de los extremistas violentos en Internet. Por eso nos enorgullece ser ahora miembros del Foro Global de Internet contra el Terrorismo (GIFCT por sus siglas en inglés). Esta asociación reconoce los años de esfuerzos constantes de TikTok contra el odio y el extremismo violento, incluyendo su papel activo en los grupos de trabajo del GIFCT sobre cuestiones clave como la transparencia y la respuesta a incidentes.
Trabajar con el GIFCT y socios como Tech Against Terrorism nos ayuda a:
- Ofrecer apoyo práctico a nuestros equipos de seguridad.
- Comprender mejor las amenazas emergentes gracias a nuestros compañeros de la industria y expertos.
- Mejorar continuamente nuestro enfoque, incluidas nuestras políticas.
El odio y el extremismo violento en línea no tienen cabida en TikTok. Estamos decididos a luchar contra ellos, al tiempo que seguimos proporcionando a nuestra comunidad global un espacio seguro e inclusivo en el que puedan descubrir, conectar y compartir.