Tudo sobre Inteligência Artificial

Tudo sobre TikTok

Meta, YouTube e TikTok estão tentando proteger a confiança dos usuários já que, cada vez mais, suas respectivas plataformas são inundadas com fotos e vídeos de inteligência artificial (IA).

O que ocorre, agora, é que isso causa uma “confusão” nessas plataformas, pois elas não estão identificando direito o que é real e o que é IA.

Segundo o The Wall Street Journal, Nikolai Savic, influenciador do TikTok, disse que vários de seus vídeos foram rotulados erroneamente como “gerados pela IA” por conta das cenas de transição que ele realizou em alguns vídeos. Savic tem 4,8 milhões de seguidores e recebeu deles comentários “não muito legais”.

O influenciador afirmou que, por vezes, usa a IA para suavizar os vídeos. Contudo, usa ferramentas de edição padrão em processo lento que pode levar dias para cada clipe.

“As pessoas já têm em mente que eu estou usando apenas a IA. Isso prejudicou muito a minha reputação. E no TikTok, ninguém realmente parece se importar”, desabafou.

Plataformas digitais e os rótulos de IA

• As maiores plataformas de tecnologia fizeram de tudo para que os conteúdos de IA fossem rotulados como tal desde o surgimento do ChatGPT;
• Contudo, o esforço tem ficado mais e mais emergencial sempre que uma ferramenta, como o Midjourney e o Veo 3, pois melhora, significativamente, vídeos e fotos artificiais;
• Mas há um medo de que os consumidores que descobrirem que uma publicação é feita por IA se tornem céticos quanto a demais conteúdos publicados nessas plataformas.

O problema é que seus esforços ainda causam erros e omissões. A Meta, por exemplo, introduziu, este ano, no Facebook e no Instagram, uma opção para anunciantes divulgarem quando usarem ferramentas de IA generativas de outras empresas, como a OpenAI, para criar ou editar anúncios.

“Continuaremos a evoluir nossa abordagem para rotular o conteúdo gerado pela IA em parceria com especialistas, anunciantes, partes interessadas em políticas e parceiros do setor à medida que as expectativas das pessoas e a tecnologia de IA evoluem”, afirmou a Meta.

Leia mais:

Muita gente fazendo confusão

A Kalshi, startup que atua no mercado de previsão e permite apostas em eventos atuais e cultura pop, divulgou um comercial no YouTube TV durante as finais da NBA do mês passado. Segundo um porta-voz da empresa, o vídeo foi produzido inteiramente com o Veo 3.

O comercial mostra vários jogadores empolgados com suas apostas, teve um custo de produção de US$ 2 mil (R$ 11.066, na conversão direta) e alcançou 19 milhões de visualizações, conforme informou o porta-voz.

No momento em que o público nota a presença de uma cerveja alienígena em uma festa universitária, fica evidente que nada no anúncio é real. Ainda assim, o vídeo não foi identificado como sendo gerado por IA.

Outro vídeo criado com o Veo 3, este promovendo o cartão de crédito conservador Coign, não oferece uma distinção tão clara. Todos os participantes do comercial parecem humanos e ele foi veiculado no Facebook, YouTube e LinkedIn sem qualquer indicação de que foi feito por IA.

Já um anúncio para a marca de multivitamínicos Ritual, também criado com o Veo, inclui uma pequena marca d’água identificando-o como gerado por IA quando exibido no YouTube. Contudo, essa indicação não aparece nas versões do LinkedIn ou Instagram.

No vídeo, várias mães recentes aparecem e rapidamente revelam que são personagens criadas por IA. Segundo a fundadora e CEO Katerina Schneider, a intenção foi apresentar os produtos da Ritual como alternativa frente às alegadas afirmações enganosas no mercado de bem-estar.

“A Ritual não tem nenhuma outra campanha de IA planejada, mas acrescentaria de bom grado divulgações no interesse da transparência”, disse ela.

O TikTok foi uma das primeiras plataformas a abordar essa questão em 2023, ao criar uma ferramenta para detectar e rotular automaticamente conteúdo gerado por IA, além de um botão para que os criadores possam indicar voluntariamente o uso dessas tecnologias.

Outras empresas seguiram o exemplo, ajustando suas abordagens ao longo do tempo. A Meta, por exemplo, atualizou no ano passado suas tags de IA para diferenciar entre conteúdo criado e conteúdo apenas modificado por IA de terceiros, buscando responder a críticas de criadores sobre rotulação inadequada. Além disso, a Meta rotula automaticamente tudo o que é feito com suas ferramentas de IA.

O Google afirma incluir pequenas marcas d’água visuais em quase todo o conteúdo gerado no Gemini, que também é responsável pelo Veo. Esses materiais ainda contam com metadados digitais para permitir a identificação automática como IA.

Apesar disso, os vídeos das marcas Kalshi e Coign aparentemente foram veiculados sem essas marcas visuais e os materiais criados com a ferramenta do Gemini voltada a cineastas estão isentos da rotulagem.

Desde o início do ano passado, o YouTube exige que os criadores informem se utilizaram IA em conteúdo que possa ser confundido com situações reais. No entanto, essa exigência se aplica apenas a anúncios políticos. Segundo um porta-voz do YouTube, os anúncios feitos com IA não violam automaticamente suas diretrizes, que visam evitar danos ao consumidor.

Dana Neujahr, diretora administrativa da empresa We Are Social, especializada em mídias sociais e influenciadores, afirmou que muitos contratos de marketing proíbem o uso de IA generativa para não comprometer a confiança dos seguidores.

Ela contou que “os vídeos do TikTok de um cliente nosso receberam rótulos automáticos de IA depois que foi usada uma ferramenta para adicionar legendas”. E acrescentou: “Para um novato ou alguém que não está nesta indústria, eles poderiam pensar que todo esse conteúdo foi gerado pela IA. Parece um pouco de uma inclinação escorregadia.”

Segundo ela, as plataformas de mídia social talvez tenham desenvolvido essas ferramentas de rotulagem para antecipar possíveis polêmicas ou questionamentos regulatórios sobre o conteúdo feito com IA.

O setor de tecnologia tem tentado oferecer soluções amplas para garantir transparência. Um consórcio chamado Coalition for Content Provenance and Authenticity (C2PA) fornece credenciais padronizadas para que indivíduos e empresas indiquem se seus materiais foram feitos por IA.

O LinkedIn, por exemplo, informa que exibe o logotipo da coalizão em imagens e vídeos com essas credenciais, e os usuários podem clicar no ícone para obter mais informações.

A OpenAI apoia essa iniciativa, mas alerta que os metadados não são infalíveis. “Ele pode ser facilmente removido acidentalmente ou intencionalmente”, diz o site da empresa, lembrando que plataformas de mídia social costumam eliminar metadados de imagens enviadas e que capturas de tela não preservam essas informações.

Matthew Stamm, professor e diretor do Laboratório de Multimídia e Segurança da Informação da Universidade Drexel, considera as credenciais do C2PA uma boa intenção, mas com eficácia limitada diante do crescimento de conteúdo de IA, tanto de fontes confiáveis quanto enganosas. “Se esse paradigma vai funcionar, tem que ser universalmente adotado”, disse Stamm. “Para mim, isso não parece uma solução realista.”

Assista, a seguir, os comerciais citados: