A ferramenta de detecção de imagens geradas por inteligência artificial lançada pela Meta nesta semana deixou de reconhecer parte das próprias criações quando as imagens foram recortadas, segundo análise publicada pela Reuters.

O teste utilizou 40 imagens produzidas pelo Muse Image, novo modelo de geração da Meta. A ferramenta detectou corretamente todas as 40 imagens em suas versões originais. No entanto, ao reduzir as mesmas imagens para aproximadamente um terço a metade do tamanho original, o detector falhou em 55% dos casos.

Como funciona o sistema

A Meta informou que a detecção se baseia em uma marca d’água invisível chamada Content Seal, inserida em cada imagem gerada pelo Muse Image. A empresa projetou a tecnologia para permitir que usuários verifiquem se um arquivo foi criado por seus modelos de IA, mesmo após edições consideradas comuns.

Em resposta aos resultados levantados pela Reuters, a Meta ressaltou que a ferramenta ainda está em fase de prévia. A companhia admitiu que a marca d’água foi desenvolvida para resistir a edições usuais, mas reconheceu que o sinal pode ser perdido em recortes severos.

O que dizem os especialistas

Siwei Lyu, professor de ciência da computação na Universidade Estadual de Nova York em Buffalo e pesquisador em forense de imagens de IA, comentou à Reuters que métodos baseados em marca d’água têm limitações conhecidas. “Métodos baseados em marca d’água podem ser altamente eficazes quando a marca permanece intacta, mas qualquer modificação que remova ou enfraqueça o sinal embutido – como recorte, redimensionamento, compressão pesada ou edição – pode reduzir sua eficácia, dependendo de como a marca d’água foi projetada”, disse Lyu.

Sarah Barrington, pesquisadora de IA e doutoranda na Escola de Informação da UC Berkeley, também ponderou sobre as restrições da técnica. Segundo ela, embora não seja totalmente à prova de falhas, detectar uma parcela significativa de casos ainda representaria avanço em relação à ausência de detecção.

Imagem: Divulgação

Contexto e pressão regulatória

A descoberta aparece em um momento sensível, com o ano incluindo as eleições de meio de mandato nos Estados Unidos, período em que a circulação de deepfakes e imagens manipuladas tende a crescer. Em março, o Conselho de Supervisão da Meta — órgão independente que toma decisões vinculantes sobre moderação de conteúdo — pediu que a empresa intensifique ações contra a “proliferação de conteúdo de IA enganoso” e invista em ferramentas de detecção mais robustas.

A Meta não é a única a enfrentar o desafio: Google e OpenAI também alertaram publicamente que suas ferramentas de detecção não são infalíveis frente a técnicas de alteração de imagens.

Com informações de Olhardigital