Pesquisadores da Universidade da Califórnia, Riverside (UCR), em colaboração com especialistas do YouTube e da Google DeepMind, apresentaram uma ferramenta capaz de detectar se um vídeo foi gerado por inteligência artificial e apontar qual sistema o criou. Batizado de SAGA (Source Attribution of Generative AI Videos), o método está em estágio acadêmico e tem potencial de uso por investigadores digitais, empresas de tecnologia e órgãos reguladores.
A proposta da equipe surge diante da expansão no uso de conteúdos sintéticos em áreas como política, entretenimento, publicidade, educação e redes sociais. Segundo os autores, hoje não basta apenas reconhecer que um material é artificial; é necessário rastrear sua origem para enfrentar desinformação, fraudes e operações coordenadas.
O desenvolvimento do projeto foi liderado pelo doutorando Rohit Kundu, sob a orientação do professor Amit Roy-Chowdhury. Participaram também os pesquisadores Vishal Mohanty, Shan Jian e Athula Balachandran, do YouTube, e Hao Xiong, da Google DeepMind.
Como a SAGA identifica a origem?
A SAGA opera detectando padrões visuais produzidos pelos modelos de geração de vídeo, que funcionam como uma espécie de impressão digital de cada gerador. Em vez de analisar apenas quadros isolados, a ferramenta avalia informações espaciais e temporais, observando como elementos mudam entre os quadros para encontrar sinais no movimento e na evolução das imagens.
O sistema também incorpora as chamadas Temporal Attention Signatures (T-Sigs), assinaturas derivadas dos padrões temporais presentes nos vídeos. Para compor o perfil de cada gerador, a SAGA calcula uma média desses padrões a partir de diversos vídeos produzidos pelo mesmo sistema de IA, permitindo identificar características ligadas a diferentes geradores.
Em testes feitos com conjuntos de dados públicos, a ferramenta analisou conteúdos originados por 19 geradores distintos, incluindo modelos de texto para vídeo e de imagem para vídeo. Os resultados indicaram que a SAGA é capaz não apenas de distinguir entre geradores diferentes, mas também de diferenciar versões de um mesmo modelo, ampliando sua capacidade de rastreamento.
Imagem: Reprodução/Magnific
Os pesquisadores ressaltam, contudo, que a identificação de vídeos gerados por IA será uma disputa contínua: conforme surgem novos modelos e eles se tornam mais sofisticados, as ferramentas de detecção precisarão ser atualizadas para acompanhar essas mudanças.
A pesquisa segue em caráter acadêmico e pode, no futuro, servir como apoio a investigações sobre desinformação e uso malicioso de conteúdos sintéticos.
Com informações de Canaltech
Gudyê GR6 é editor-chefe e especialista em tendências musicais e entretenimento na GR6, a maior produtora de funk do Brasil. Com anos de experiência no mercado fonográfico, Gudyê lidera a equipe de conteúdo trazendo as últimas notícias sobre música, cultura urbana. Autor do Post: Gudyê GR6
