Eric Han, Jefe de Seguridad, TikTok US

TikTok es una comunidad diversa y en crecimiento. Nuestros usuarios incluyen abuelos que nos muestran sus movimientos de baile, agricultores que nos muestran sus campos, enfermeras que comparten cómo es la vida al frente de la pandemia, y activistas que nos comparten marchas y protestas. Parte de la magia de TikTok es ver cómo personas de todos los ámbitos utilizan la plataforma para conectarse mediante la creatividad y expresiones auténticas. 

Como Jefe de seguridad, mi equipo y yo trabajamos para proteger a nuestros usuarios de las acciones que podrían interferir con su capacidad para expresarse de manera segura y les ayudamos a tener una experiencia positiva en la aplicación. En lo que parece un mundo cada vez más dividido, una de las áreas en las que estamos especialmente decididos a mejorar son nuestras políticas y acciones contra los contenidos y comportamientos que generan odio. Nuestro objetivo es eliminar el odio en TikTok. 

Hoy queremos compartir cinco formas en las que trabajamos arduamente para contrarrestar la propagación del odio en nuestra plataforma. 

1) Evolución de nuestra Política contra la incitación al odio. Seguimos adoptando un enfoque proactivo para detener la propagación del odio y los conocidos grupos extremistas que propician el odio y la violencia. Inicia con nuestras Normas de la comunidad , el código de conducta para nuestra creciente comunidad global que prohíbe cualquier forma de discurso o ideología de odio, así como el acoso y la intimidación. Definimos el discurso de odio como  “contenido que tiene la intención de atacar, amenazar, incitar a la violencia o deshumanizar a una persona o grupo de personas en lo que se refiere a atributos protegidos como raza, religión, género, identidad de género, nacionalidad y más”.  
Trabajamos para detectar y eliminar proactivamente dicho contenido antes de que llegue a nuestra comunidad, y revisamos cuidadosamente el contenido que nuestra comunidad nos informa. Consultamos regularmente a expertos para ayudar a que nuestras políticas evolucionen como lo hace en sí el comportamiento de odio. Por ejemplo, este año ampliamos estas políticas para tener mejor en cuenta los escenarios que hacen que otros se sientan excluidos o marginados. Nuestro trabajo es permanecer alertas por el bien y la seguridad de nuestra comunidad. 

2) Contrarrestamos el discurso, el comportamiento y los grupos de odio. No toleramos el odio en TikTok. Eliminamos de nuestra plataforma el contenido que incita al odio, incluido el acoso por motivos de raza, a medida que lo detectamos. También suspendemos las cuentas que lo fomentan de manera repetitiva. Tenemos una postura de cero tolerancia hacia los grupos de odio organizados y los que se asocien con ellos, como las cuentas que promueven o están vinculadas con la supremacía blanca o el nacionalismo, la supremacía masculina, el antisemitismo y otras ideologías basadas en el odio. Además, eliminamos el acoso racial y la negación de tragedias violentas, como el Holocausto y la esclavitud. Al establecer nuestras políticas también podemos tener en cuenta comportamientos fuera de la plataforma, como cuentas que pertenezcan a líderes de un grupos de odio conocidos, para proteger a las personas contra cualquier daño.  
Desde inicios del 2020, hemos eliminado más de 380,000 videos en los Estados Unidos por violar nuestra Política contra la incitación al odio. También suspendimos más de 1,300 cuentas por incluir contenido o comportamientos de odio, y eliminamos más de 64,000 comentarios que promovían el odio. Para ser más precisos, estos números no reflejan una tasa de éxito del 100% en la captura de cada contenido o comportamiento de odio, pero sí indican nuestro compromiso con la acción.
Otra estrategia es hacer más difícil que la gente encuentre contenidos y cuentas de odio, lo cual genera espacio para un contenido más positivo y alegre. Por ejemplo, si alguien busca  una ideología o grupo de odio, como “heil Hitler” o “groyper”, adoptamos varios enfoques para detener la propagación del odio, incluida la eliminación de contenido relacionado, evitando mostrar resultados o redirigiendo la búsqueda hacia nuestras Normas de la comunidad, con el fin de educar a nuestra comunidad sobre nuestras políticas contra las expresiones de odio. No es una solución sin errores, pero trabajamos para aplicar rápidamente este enfoque a los grupos de odio a medida que surjan. 

3) Incrementamos la conciencia cultural en la moderación de nuestro contenido. Como equipo de seguridad, depende de nosotros reconocer las muchas formas que adopta el odio, con el fin de desarrollar políticas y estrategias de aplicación para combatirlo de manera eficaz. Capacitamos periódicamente a nuestros equipos especializados para detectar mejor la evolución de comportamientos, símbolos, términos y estereotipos ofensivos de odio. 

Por ejemplo, reconocemos que las diferentes comunidades han vivido diferentes experiencias, y que el lenguaje que antes se utilizaba para excluir y degradar a grupos de personas ahora está siendo reclamado por estas comunidades y usado como términos de empoderamiento y contraposición. Estamos trabajando para incorporar la evolución de la expresión en nuestras políticas y estamos capacitando a nuestros equipos de moderación para que comprendan el contenido mejor y con más matices, como la apropiación cultural y los insultos. Si un miembro de un grupo desfavorecido, como las comunidades LGBTQ+, Latinx, asiático-americano e isleño del Pacífico, negro o indígena, utiliza un insulto como término de empoderamiento, queremos que nuestros moderadores comprendan el contexto que hay detrás y no eliminen por error el contenido. Por otro lado, si un insulto se utiliza con odio, no debe estar en TikTok. Educar a nuestros equipos de moderación de contenido sobre estas importantes distinciones es un trabajo continuo, y nos esforzamos por hacerlo cada vez mejor para nuestros usuarios. 

4) Mejoramos la transparencia con nuestra comunidad. Queremos que nuestra comunidad sepa que escuchamos sus comentarios y que estamos trabajando para mejorar la transparencia con respecto a los motivos por los que podemos eliminar el contenido. Por ejemplo, recientemente lanzamos una función que notifica a los usuarios si hacen un dúo o reaccionan a un video que fue eliminado por violar nuestras Normas de la comunidad. Esta función se creó como respuesta a los comentarios de los usuarios que hicieron dúos condenando otros contenidos. De manera poco clara, frecuentemente se sentían traicionados al descubrir que su video fue eliminado porque el video original con el que hicieron un dúo también fue eliminado. 

También estamos trabajando para mejorar nuestro proceso de apelaciones y educar de manera proactiva sobre nuestras Normas de la comunidad. Por ejemplo, si un usuario busca #whitelivesmatter, se le recordarán nuestras normas y nuestro compromiso para fomentar una comunidad respetuosa y diversa.

5) Invertimos en nuestros equipos y asociaciones. Seguimos invirtiendo en nuestra capacidad para detectar y clasificar comportamientos abusivos o de odio con ayuda de nuestros equipos especializados, lo más rápidamente posible. Recientemente, agregamos líderes con amplia experiencia en estas áreas a nuestros equipos de productos e ingeniería para que se enfoquen en la eficiencia y la transparencia relacionadas con el cumplimiento de la ley. 

También trabajamos activamente para aprender y obtener opiniones de los expertos, como los de nuestro Consejo Asesor de Contenido y las de organizaciones de la sociedad civil. Nuestra industria no siempre ha acertado con estas decisiones, pero estamos comprometidos a aprender de los errores de los demás, y de los nuestros. Esperamos ser responsables de cualquier deficiencia y progreso. Al trabajar juntos, seguiremos mejorando nuestras políticas, procesos y productos que mantengan a TikTok como un lugar donde todos se sientan bienvenidos.
Reconocemos el desafío quizás insuperable de eliminar completamente el odio en TikTok - pero eso no nos impedirá intentarlo. Cada pequeño progreso que hacemos nos acerca mucho más a una experiencia comunitaria más agradable para las personas que participan en TikTok y en el mundo. Estos temas son complejos y cambian constantemente, no solo para nosotros, sino para todas las empresas de Internet. Estamos comprometidos a hacer todo lo mejor posible por el bien de nuestra comunidad.