Pesquisadores do Instituto Fraunhofer IOSB, na Alemanha, criaram a RealorRender, uma ferramenta capaz de detectar deepfakes com taxa de acerto entre 85% e 91% e também de explicar os motivos que levaram à classificação como falsa, segundo comunicado do instituto. O desenvolvimento contou com parceria e financiamento do Escritório Federal Alemão de Segurança da Informação (BSI).
Como funciona
A abordagem utilizada pela RealorRender é híbrida e combina dois métodos distintos em sequência. Primeiro, um gerador de imagens por inteligência artificial tenta reconstruir a imagem submetida à análise. A lógica é que uma imagem criada por IA tende a ser replicada com mais facilidade por outra IA, portanto uma reconstrução bem-sucedida indica maior probabilidade de origem sintética.
Em seguida, um modelo de classificação avalia o erro entre a imagem original e a reconstruída. Esse cálculo de erro gera uma estimativa de autenticidade apresentada em porcentagem, ou seja, o sistema fornece uma medida da probabilidade de que a imagem seja falsa.
Andreas Specker, cientista sênior do grupo de Sistemas de Segurança e Assistência por Vídeo do Fraunhofer IOSB, explicou que o processo envolve o uso do gerador para recriar a imagem e um modelo classificatório que calcula o erro de reconstrução e converte esse resultado em uma estimativa percentual da precisão do reconhecimento.
O que diferencia: a explicação
Além de indicar se uma imagem é provavelmente gerada por IA, a RealorRender fornece justificativas sobre os fatores que influenciaram a decisão. O sistema emprega técnicas de IA explicável (XAI) para identificar padrões — por exemplo, texturas ou frequências específicas — que apontam para uma origem sintética.
Dois tipos de visualização sustentam essa explicação: mapas de calor, que evidenciam as áreas da imagem que mais contribuíram para a decisão, e uma análise por segmentos, que separa regiões semânticas como rosto, cabelo e fundo para mostrar quais partes suportam a classificação como falsa. Nadia Burkart, chefe do grupo de IA Explicável Aplicada do Fraunhofer IOSB, detalhou que o XAI ajuda a revelar as características que o modelo usa ao decidir.
Imagem: Divulgação
Por que isso importa
O desenvolvimento responde a um problema crescente: em 2025 fraudes envolvendo deepfakes ultrapassaram US$ 1,5 bilhão globalmente. Investigações anteriores, de 2023, encontraram 276.149 deepfakes de teor sexual em um único site, 96% retratando mulheres. Além da dificuldade humana em distinguir imagens reais de falsificações, ferramentas automáticas frequentemente não explicam suas decisões, o que limita sua utilidade para jornalistas, plataformas e agências de segurança.
Quem pode usar
No momento, a RealorRender está sendo integrada a um demonstrador que auxiliará inicialmente o BSI na detecção de deepfakes. O funcionamento é simples: o usuário faz upload da imagem e recebe o resultado da detecção, acompanhado de uma explicação visual e um resumo em texto. Os pesquisadores publicaram dois relatórios sobre o projeto e apontam aplicações potenciais para agências de segurança, plataformas de redes sociais, veículos de mídia e empresas de fotografia.
O projeto combina técnicas de reconstrução e de explicabilidade para oferecer não só uma classificação, mas também a razão técnica por trás dela, atendendo à demanda por transparência em decisões automatizadas.
Com informações de Olhardigital
Gudyê GR6 é editor-chefe e especialista em tendências musicais e entretenimento na GR6, a maior produtora de funk do Brasil. Com anos de experiência no mercado fonográfico, Gudyê lidera a equipe de conteúdo trazendo as últimas notícias sobre música, cultura urbana. Autor do Post: Gudyê GR6
