A medida que más creadores utilizan la Inteligencia Artificial (IA) para potenciar su creatividad, queremos impulsar y crear prácticas de creación de contenidos más transparentes y responsables. Como parte de ese esfuerzo, seguimos invirtiendo en la alfabetización digital para estimular la creatividad y, al mismo tiempo, dar a la gente un contexto relevante sobre el contenido que están viendo. Esta semana pondremos en marcha una nueva herramienta para ayudar a los creadores a etiquetar sus contenidos generados por IA. También, empezaremos a probar formas de etiquetar de manera automática los contenidos generados por IA.

Empoderando a los creadores

La IA ofrece increíbles oportunidades creativas, sin embargo, puede confundir o engañar a los espectadores si no son conscientes de que el contenido se ha generado o editado con IA. Etiquetar el contenido ayuda a solucionar este problema, ya que deja claro al público cuando el contenido ha sido alterado o modificado significativamente por la tecnología de IA. Por eso estamos lanzando una nueva herramienta para que los creadores informen fácilmente a su comunidad cuando publiquen contenidos generados por IA.

La nueva etiqueta ayudará a los creadores a mostrar las innovaciones que hay detrás de sus contenidos, y podrán aplicarla a cualquier contenido que haya sido generado completamente o editado de forma significativa por IA. También facilitará el cumplimiento de la política de medios sintéticos de nuestras Normas de la Comunidad, que introdujimos a principios de este año. Esta política exige que se etiqueten los contenidos generados por IA que contengan imágenes, audio o vídeo realistas, para ayudar a los espectadores a contextualizar el vídeo y evitar la posible difusión de contenidos engañosos. Los creadores ya pueden hacerlo a través de la nueva etiqueta (u otros tipos de información, como un sticker o una leyenda).



Para ayudar a nuestra comunidad a aprender cómo y por qué se deben utilizar estas etiquetas, publicaremos vídeos y recursos educativos en las próximas semanas. Eventualmente, esperamos que se conviertan en otra herramienta que creadores y la comunidad utilicen para compartir y contextualizar contenidos, de forma similar a las insignias de cuentas verificadas y las etiquetas de contenido de marca.


Pruebas de etiquetado automático de contenidos generados por IA

Asimismo, estamos perfeccionando las formas de etiquetar automáticamente los contenidos generados por IA. Esta semana, comenzaremos a probar la etiqueta "generado por IA" que planeamos aplicar automáticamente al contenido que detectemos que fue editado o creado con IA. Para lograr una mayor claridad en torno a los productos de TikTok impulsados por IA, también estamos cambiando el nombre de los efectos de IA de TikTok para incluir explícitamente "IA" en su nombre y en la etiqueta de efectos correspondiente, y hemos actualizado nuestras normas para los creadores de Effect House.

Nuestro objetivo con estos esfuerzos es basarnos en la información de contenidos ya existentes, por ejemplo nuestras etiquetas de efectos de TikTok y encontrar una forma clara, intuitiva y matizada de mantener informada a nuestra comunidad sobre los contenidos generados por IA.

Trabajamos con expertos

Consultamos a nuestros Consejos Asesores de Seguridad al momento de desarrollar estas actualizaciones, así como a expertos del sector, entre ellos el Dr. David G. Rand, del MIT, que estudia cómo perciben los espectadores los distintos tipos de etiquetas con IA. Además, la investigación del Dr. Rand ayudó a orientar el diseño de nuestras "etiquetas generadas por IA":

"Es muy importante que las plataformas desarrollen políticas de etiquetado eficaces. Hemos observado que, en diferentes grupos demográficos de todo el mundo, el término "generado por IA" se entiende como contenido generado por IA.

Seguimos colaborando de forma cercana con colegas, expertos y la sociedad civil de todo nuestro sector y, estamos conscientes de que la IA plantea preguntas y situaciones complejas que ninguna plataforma puede resolver por sí sola. En febrero, nos comprometimos con las Prácticas Responsables para Medios Sintéticos de la Asociación sobre IA, un código de buenas prácticas del sector para la transparencia y la innovación responsable en IA. En agosto, nos asociamos con la organización sin fines de lucro Digital Moment para organizar mesas redondas en las que jóvenes miembros de la comunidad compartieron sus puntos de vista sobre el avance de la IA en Internet.


Navegamos por la IA a medida que evoluciona

Los contenidos generados por IA son una oportunidad apasionante y, a medida que evolucionan, nuestro enfoque también lo hará. Seguiremos innovando a medida que evaluemos el impacto de estas actualizaciones y trabajemos con nuestra comunidad para navegar juntos de forma segura por los recientes avances de los contenidos generados por IA.