Por Adam Presser, Líder de Operações, Segurança e Confiança do TikTok

O TikTok anuncia, nesta quinta-feira (9), novidades sobre os esforços contínuos para ajudar os criadores a expressarem sua criatividade de forma segura e responsável com o conteúdo gerado por inteligência artificial (AIGC). A plataforma está começando a rotular automaticamente estes conteúdos quando eles são carregados a partir de determinadas plataformas. Para isso, a empresa firmou parceria com a Coalition for Content Provenance and Authenticity (C2PA) se tornando a primeira plataforma de compartilhamento de vídeos a implementar sua tecnologia de Content Credentials (credenciais de conteúdo). Para ajudar a comunidade a navegar pelo conteúdo gerado por inteligência artificial e a desinformação on-line, também estão sendo lançados novos recursos de alfabetização midiática, que foram desenvolvidos com a orientação de especialistas, incluindo Mediawise e WITNESS.

Investindo em transparência à medida que a IA evolui

A inteligência artificial possibilita oportunidades criativas impressionantes, mas pode confundir ou enganar os espectadores se eles não souberem que o conteúdo foi gerado artificialmente. A rotulagem ajuda a deixar esse contexto claro, e é por isso que o TikTok vem implementando uma série de ferramentas. Em 2023, foi criado o rótulo automático de conteúdo gerado com efeitos de IA no TikTok. Há mais de um ano, também é exigido que os criadores rotulem o conteúdo produzido com IA realista. Para facilitar esse processo, foi lançada uma ferramenta que já foi usada por mais de 37 milhões de criadores desde o último trimestre de 2023.

Parcerias para rotular o conteúdo gerado por IA

A partir desta quinta-feira, o TikTok está expandindo a rotulagem automática para conteúdos gerados por IA criados em outras plataformas, lançando a capacidade de ler Content Credentials, uma tecnologia da Coalition for Content Provenance and Authenticity (C2PA). Essas credenciais anexam “metadados” ao conteúdo, que podem ser usados para reconhecer e rotular instantaneamente o que for gerado por inteligência artificial. Esse recurso começou a ser implementado hoje em imagens e vídeos, e chega em breve a conteúdos de áudio.

Nos próximos meses, o TikTok vai começar a anexar Content Credentials ao conteúdo da plataforma, que permanecerão nos metadados do conteúdo após o download. Isso significa que qualquer pessoa poderá usar a ferramenta da C2PA para ajudar a identificar conteúdos criados no TikTok com inteligência artificial e até mesmo saber quando, onde e como o conteúdo foi criado ou editado. Outras plataformas que adotarem a mesma tecnologia poderão rotulá-las automaticamente.

Impulsionando a adoção pelo setor

Para ajudar a impulsionar a adoção das Content Credentials, o TikTok está se unindo à Iniciativa de Autenticidade de Conteúdo (IAC) liderada pela Adobe. O TikTok é a primeira plataforma de compartilhamento de vídeos a colocar em prática as Content Credentials, isso significa que o aumento de conteúdo gerado por inteligência artificial rotulado automaticamente na plataforma pode ser gradual no início, já que ele precisa ter os metadados para que possa ser identificado e rotulado. No entanto, à medida que outras plataformas também o implementarem, será possível rotular mais conteúdo.

"Estamos animados em dar as boas-vindas à ampla comunidade de criadores e usuários do TikTok em todo o mundo à C2PA e ao CAI, enquanto embarcam em uma jornada para oferecer mais transparência e autenticidade na plataforma. Em um momento em que qualquer conteúdo digital pode ser alterado, é essencial fornecer meios para que o público possa discernir o que é verdadeiro. O anúncio de hoje é um passo fundamental para alcançar esse resultado", Dana Rao, General Counsel and Chief Trust Officer da Adobe.

Promovendo a alfabetização midiática

Embora especialistas recomendem amplamente a rotulagem de conteúdo gerado por IA como uma forma de apoiar a criação de conteúdo responsável, eles também alertam que os rótulos podem causar confusão se os espectadores não tiverem contexto sobre o que significam. É por isso que o TikTok tem trabalhado com especialistas para desenvolver campanhas de alfabetização na mídia que possam ajudar a comunidade da plataforma a identificar e pensar criticamente sobre conteúdo gerado por inteligência artificial e desinformação.

Trabalhando com o MediaWise, um programa do Poynter Institute, atualizaremos nossa página do Centro de Segurança sobre desinformação com dicas que destacam ferramentas de alfabetização midiática, ao mesmo tempo em que explicaremos como as ferramentas TikTok, como os rótulos de conteúdo gerado por IA, podem contextualizar ainda mais o conteúdo. O TikTok também vai lançar uma campanha para aumentar a conscientização sobre a rotulagem de inteligência artificial e conteúdos potencialmente enganosos gerados por ela, com uma série de vídeos desenvolvidos com a orientação de especialistas da WITNESS.

“Nossa ferramenta Teen Fact-Checking Network tem construído um público com vídeos inovadores de alfabetização midiática no TikTok desde 2019. Cinco anos depois, estamos entusiasmados em capacitar ainda mais pessoas para diferenciaer o que são fatos e o que é ficção online”, Alex Mahadevan, diretor do MediaWise.

Continuando a combater o conteúdo inadequado

Embora a maioria das pessoas queira utilizar o conteúdo gerado por inteligência artificial de forma responsável, haverá pessoas mal-intencionadas que usarão a ferramenta para enganar intencionalmente outras pessoas. O TikTok está atento a esses riscos, e é por isso que as políticas da plataforma proíbem firmemente o conteúdo enganoso gerado por IA - seja ele rotulado ou não. Além disso, assinou um acordo com o setor este ano para combater o uso de iteligência artificial enganosa nas eleições. À medida que a tecnologia evolui, o TikTok vai continuar investindo no combate ao conteúdo enganoso gerado por IA desenvolvendo seus modelos de detecção proativa, consultando especialistas e formando parcerias com colegas em soluções compartilhadas.