A cura di Adam Presser, Head of Operations & Trust and Safety


Oggi vogliamo condividere con voi alcuni aggiornamenti sul nostro costante impegno nell’aiutare i creator a esprimere in modo sicuro e responsabile la loro creatività con i contenuti generati dall’intelligenza artificiale (AI-generated content, AIGC). In particolare, stiamo iniziando a etichettare automaticamente gli AIGC caricati da altre piattaforme: grazie a una partnership con la Coalition for Content Provenance and Authenticity (C2PA), siamo la prima piattaforma di condivisione video a implementare la tecnologia Content Credentials. Per aiutare la nostra community a orientarsi con gli AIGC e la disinformazione online, stiamo inoltre lanciando nuove risorse per l’alfabetizzazione mediatica, sviluppate con la guida di esperti come Mediawise.

 

L’evoluzione dell’IA richiede investimenti in trasparenza

L’IA offre incredibili opportunità creative ma, se non si sa che il contenuto è stato generato dall’intelligenza artificiale, gli utenti possono esserne confusi o fuorviati. Le etichette aiutano a rendere chiaro il contesto: ecco perché etichettiamo gli AIGC realizzati con gli effetti IA di TikTok e da oltre un anno chiediamo già ai creator di etichettare gli AIGC realistici. Abbiamo anche creato uno strumento unico nel suo genere per facilitare questa operazione, che dallo scorso autunno è stato utilizzato da oltre 37 milioni di creator.

 

Le collaborazioni di settore sulle etichette AIGC

La tecnologia Content Credentials di C2PA allega al contenuto i metadati che possiamo utilizzare per riconoscere ed etichettare istantaneamente gli AIGC. Da oggi questo ci consente di estendere l’etichettatura automatica agli AIGC creati su alcune altre piattaforme, una capacità che nelle prossime settimane prevediamo di applicare progressivamente a tutti gli utenti a livello globale.



Nei prossimi mesi, inizieremo inoltre ad allegare le Content Credentials ai contenuti di TikTok, in cui rimarranno anche una volta scaricati. Questo significa che chiunque sarà in grado di utilizzare lo strumento di verifica di C2PA per individuare gli AIGC realizzati su TikTok e persino per sapere quando, dove e come è stato creato o modificato il contenuto. A loro volta, le altre piattaforme che adottano le Content Credentials saranno in grado di etichettarlo automaticamente.

 

Leader di settore nell’adozione delle credenziali

Per contribuire a promuovere l’adozione delle Content Credentials nel nostro settore, stiamo anche aderendo alla Content Authenticity Initiative (CAI) guidata da Adobe. TikTok è la prima piattaforma di condivisione video a mettere in pratica le Content Credentials. Per questo in una prima fase su TikTok la presenza delle etichette automatiche sugli AIGC potrà essere graduale, in quanto per poterli identificare ed etichettare è necessario che siano presenti i metadati di Content Credentials. Con la progressiva implementazione anche da parte di altre piattaforme, saremo in grado di etichettare più contenuti.

 

“Ci fa molto piacere poter dare il benvenuto a TikTok sia nella C2PA che nella CAI, contribuendo così a supportare il percorso della sua grande community mondiale di creator e utenti verso una sempre maggiore trasparenza e autenticità sulla piattaforma”, commenta Dana Rao, General Counsel and Chief Trust Officer di Adobe. “In un’epoca in cui qualsiasi contenuto digitale può essere alterato, è essenziale fornire al pubblico la possibilità di discernere ciò che è reale. L’annuncio di oggi è un passaggio fondamentale verso questo risultato”.

 

Più alfabetizzazione mediatica

Come modalità per supportare la creazione di contenuti responsabili, la maggior parte degli esperti raccomanda le etichette AIGC, ma segnala anche che queste ultime possono causare confusione se gli utenti non dispongono di contesto sul significato. Per questo abbiamo collaborato con diversi esperti per sviluppare campagne di alfabetizzazione mediatica, con l’obiettivo di aiutare la nostra community non solo a identificare gli AIGC, ma anche ad applicare il pensiero critico nel contesto della disinformazione.

“Fin dal 2019, con il nostro Teen Fact-Checking Network formiamo il pubblico su TikTok con video innovativi di alfabetizzazione mediatica”, afferma Alex Mahadevan, direttore di MediaWise. “A distanza di cinque anni, siamo felici di offrire a un numero ancora più grande di persone gli strumenti per separare i fatti dalla finzione sulla rete”.

 

Prosegue il contrasto ai contenuti dannosi

La maggior parte delle persone desidera fruire degli AIGC in modo responsabile, ma esisteranno sempre utenti che li utilizzeranno per ingannare intenzionalmente gli altri. Siamo sempre attenti a questi rischi, ed è per questo che le nostre policy proibiscono severamente i contenuti ingannevoli generati dall’IA – etichettati o meno – e quest’anno abbiamo sottoscritto un accordo di settore per combatterne l’uso ingannevole nelle elezioni. In parallelo all’evoluzione dell’intelligenza artificiale, continueremo a investire nella lotta contro gli AIGC dannosi, rafforzando i nostri modelli di rilevamento proattivo, consultando gli esperti e collaborando con le altre realtà del settore per individuare soluzioni condivise.