Na quarta-feira (4), a agência da ONU para a infância, UNICEF, solicitou que governos de todo o mundo criem leis que tornem crime a produção de material de abuso sexual infantil gerado por inteligência artificial (IA). O apelo ocorre em meio ao aumento de casos de “deepfakes” e “nudificação”, em que algoritmos manipulam imagens de crianças para fins sexuais.

Aumento de casos e dados alarmantes

Em comunicado oficial, a UNICEF destacou que, nos últimos 12 meses, ao menos 1,2 milhão de crianças em 11 países relataram ter suas imagens alteradas para a criação de conteúdos sexualmente explícitos. A agência afirma que essa prática causa danos imediatos e reais às vítimas, exigindo respostas legais urgentes.

Além dos deepfakes — vídeos, áudios e imagens falsos que imitam pessoas de forma convincente —, a chamada “nudificação” tem ganhado força. Nessa técnica, softwares de IA removem ou modificam roupas em registros fotográficos, produzindo imagens falsas de nudez infantil.

Medidas propostas pela UNICEF

Para combater a prática, a UNICEF defende:

  • Criminalização da criação e distribuição de conteúdo sexual infantil produzido por IA;
  • Adoção de princípios de segurança desde a concepção dos sistemas de inteligência artificial;
  • Investimento em tecnologias de detecção e moderação de conteúdo por parte de plataformas digitais.

Iniciativa do Reino Unido

Na mesma data, o Reino Unido anunciou planos para proibir o uso de ferramentas de IA que gerem imagens ou vídeos que sexualizem menores. Caso a legislação seja aprovada, o país se tornará o primeiro a tipificar especificamente essa conduta como crime.

Plataformas de IA sob escrutínio

Recentemente, a ferramenta de criação de imagens Grok, do laboratório xAI de Elon Musk, foi alvo de investigação após gerar representações sexualizadas de mulheres e menores. Segundo apuração da Reuters, o chatbot continuou produzindo esse tipo de imagem mesmo após alertas de usuários sobre a falta de consentimento das pessoas retratadas.

Imagem: Divulgação

Em resposta, no dia 14 de janeiro, a xAI informou que restringiu a edição de imagens no Grok e passou a bloquear, com base na localização dos usuários, a criação de cenas com figuras parcialmente nuas em locais onde isso é proibido por lei. A empresa também limitou certas funções de geração de imagens apenas a assinantes pagantes.

O debate sobre a regulação da inteligência artificial segue em pauta, enquanto a UNICEF reforça a urgência de medidas legais para proteger crianças do uso indevido de tecnologias de geração de conteúdo.

Com informações de Olhardigital