De nouveaux outils et technologies pour identifier, comprendre et encadrer le contenu généré par l'IA

Utilisée de façon transparente et responsable, l’intelligence artificielle peut transformer la manière dont les utilisateurs de TikTok expriment leur créativité, découvrent de nouveaux centres d’intérêt et évoluent en toute sécurité sur la plateforme.C’est pourquoi TikTok investit à la fois dans des expériences innovantes, basées sur l’IA, qui enrichissent l’expérience de la communauté, et dans des outils de transparence permettant d’identifier, comprendre et encadrer les contenus générés par l’intelligence artificielle (AIGC).TikTok développe et met en place de nouvelles mesures :le test d'un nouvel outil pour ajuster la présence des contenus générés par l'IA dans le fil “Pour Toi” ;de nouvelles technologies avancées d'étiquetage des contenus générés, dont un filigrane invisible ;La mise en place d'un fonds éducatif doté de 2 millions de dollars, pour soutenir la création de contenus pédagogiques sur l’usage responsable de l’IA.Ajuster la visibilité du contenu généré par l'IA dans le fil "Pour toi"En juin dernier, TikTok a mis en place la fonctionnalité « Gérer les sujets », qui offre aux utilisateurs la possibilité d’ajuster la fréquence de contenus dans leur fil « Pour toi » de plus de dix thèmes tels que l’humour, le sport ou bien encore le voyage.Dans les prochaines semaines, TikTok étendra cette fonctionnalité aux contenus générés par l'intelligence artificielle et testera un nouveau paramètre de contrôle dédié à l'AIGC. Ainsi, chacun pourra ajuster plus précisément la présence de ces contenus dans le fil « Pour toi » et affiner la diversité des vidéos proposées.Ainsi, les utilisateurs qui apprécient les vidéos générées par IA pourront en voir davantage ; ceux qui préfèrent en voir moins pourront réduire leur présence.Ce nouvel outil s’ajoute aux options de personnalisation existantes, comme les filtres de mots-clés personnalisables ou la fonctionnalité "Pas intéressé".Renforcer l'étiquetage du contenu généré par l’intelligence artificielleSur TikTok, les contenus réalistes générés par l’intelligence artificielle doivent être étiquetés par leur créateur. Pour garantir l’application de cette règle, TikTok s’appuie sur plusieurs approches :des outils d’étiquetage mis à disposition des créateurs ;des modèles internes de détection ;la technologie C2PA Content Credentials, utilisée par plusieurs acteurs du secteur, qui intègre des métadonnées indiquant lorsqu’un contenu a été généré par l’IA.Grâce à ces différentes méthodes, plus de 1,3 milliard de vidéos ont déjà été étiquetées.Un défi persistant dans l’industrie est que certaines étiquettes peuvent disparaître lorsque des contenus sont modifiés ou réexportés sur d'autres plateformes. Pour renforcer la fiabilité de l'étiquetage, TikTok teste désormais le marquage des contenus via des "filigranes invisibles". Il s'agit d'une technologie de marquage numérique robuste, qui renforce le niveau de protection via un filigrane, lisible uniquement par TikTok, et beaucoup plus difficile à retirer.Dans les prochaines semaines, ces watermarks invisibles commenceront à être appliqués :aux contenus IA créés avec les outils TikTok, comme AI Editor Pro ;aux contenus téléchargés avec des métadonnées C2PA.Ils renforceront la fiabilité de l’étiquetage et permettront de mieux comprendre les transformations apportées aux contenus.TikTok continuera également de lire les informations d’identification du contenu C2PA Content Credentials et de les intégrer aux contenus générés par l’IA créés sur la plateforme.Renforcer la collaboration au sein de l’industrieTikTok continue de renforcer ses collaborations avec les acteurs du secteur pour faire progresser la transparence et l’éducation autour de l’intelligence artificielle. TikTok met en place un fonds éducatif doté de 2 millions de dollars pour soutenir des experts, dont GirlsWhoCode, dans la création de contenus pédagogiques dédiés à la compréhension et à la sécurité de l’IA, diffusés dans le fil « Pour toi ». Plus de vingt experts issus d’une douzaine de marchés y participent déjà, et d’autres continueront de les rejoindre.TikTok soutient l'organisation à but non lucratif Partnership on AI, et rejoint deux de ses comités de pilotage sur l’usage de l’IA, "Enterprise" et "Human Connection". Aussi, depuis 2023, TikTok est membre fondatrice du Framework for Responsible Practices for Synthetic Media et partage régulièrement des mises à jour sur la mise en œuvre de ces principes.Faire évoluer en continu l'approche de l’étiquetageTikTok continue d'adapter son approche de l’étiquetage, au fil de l'évolution des pratiques du secteur et des recommandations des experts, tout en maintenant des règles strictes contre les usages problématiques des contenus générés par l'IA (AIGC).Au cours des derniers mois, TikTok a enrichi ses étiquettes AIGC en ajoutant davantage de contexte pour indiquer si un contenu avait été étiqueté grâce à la détection automatisée, par le créateur lui-même ou au moyen d'outils IA proposés sur la plateforme. Ces outils continueront à être améliorés dans les mois à venir.Libérer le potentiel positif de l'IAToutes ces initiatives s’inscrivent dans une vision plus large visant à garantir et valoriser les expériences positives liées à l'IA. TikTok continue de développer des outils créatifs innovants pour sa communauté, comme Smart Split ou AI Outline, et utilise également l'IA pour renforcer la sécurité et le bien-être de ses équipes dédiées à la sécurité de la plateforme (Trust and Safety). Au fur et à mesure des évolutions de l'IA, TikTok continuera de partager des mises à jour sur la manière dont elle contribue à la sécurité, la découverte et la créativité sur la plateforme.