A Amazon detectou centenas de milhares de arquivos com indícios de abuso sexual infantil em suas bases de dados usadas para treinar modelos de inteligência artificial (IA). Os registros foram enviados ao Centro Nacional para Menores Desaparecidos e Explorados (NCMEC), órgão americano responsável pelo combate a crimes contra crianças, o que fez as denúncias ligadas à IA crescerem 15 vezes em 2025 em relação ao ano anterior.

A empresa afirma ter removido o conteúdo antes de utilizá-lo em qualquer processo de treinamento. No entanto, especialistas apontam que a falta de informações sobre a origem desses arquivos prejudica o trabalho policial, já que sem detalhes técnicos não é possível identificar os responsáveis ou resgatar potenciais vítimas.

Quantitativo de alertas e críticas sobre detalhamento

Em 2025, a Amazon encaminhou mais de um milhão de relatórios sobre possíveis casos de abuso infantil associados à IA, um salto significativo em comparação aos 64 mil relatados em 2024. A companhia esclareceu que os dados foram coletados de fontes externas e da internet aberta, mas não dispõe de informações técnicas que auxiliem as autoridades na localização dos autores dos crimes.

O NCMEC destaca que outras empresas do setor, como Google e OpenAI, mesmo enviando um número menor de alertas, fornecem detalhes suficientes para que as investigações se tornem efetivas. A organização, que recebe parte de seu financiamento da própria Amazon, exige maior transparência sobre os critérios de filtragem e organização desses bancos de dados.

Busca sensível e riscos éticos

Para justificar o volume de notificações, a Amazon diz utilizar uma configuração de busca “muito sensível” para evitar omissões, o que gera uma alta taxa de falsos positivos. O NCMEC observa que alertas sem informações de origem não contribuem para proteger crianças em situação de risco.

O pesquisador David Thiel alerta que a pressa em lançar novas IAs tem priorizado a velocidade de coleta de dados em detrimento da análise ética. Como grande parte do material é obtido de terceiros ou extraído automaticamente da web, a responsabilidade por conteúdo criminoso se dilui.

Imagem: Divulgação

Especialistas também apontam o perigo de que esses sistemas aprendam padrões abusivos, podendo sexualizar imagens de crianças reais ou gerar representações sintéticas de abuso. Até o momento, a Amazon afirma que suas IAs não produziram imagens de violência infantil a partir desse treinamento. A detecção foi feita por meio de comparação com um banco de dados de crimes já conhecidos, processo conhecido como “hashing”.

A empresa se comprometeu a divulgar relatórios mais detalhados sobre suas práticas de segurança em março de 2026.

Com informações de Olhardigital