A OpenAI anunciou um novo documento voltado ao fortalecimento da proteção de crianças nos Estados Unidos diante do avanço da inteligência artificial. O texto, chamado Child Safety Blueprint, foi divulgado na terça-feira e apresenta propostas para melhorar a detecção, o reporte e a investigação de casos de exploração infantil envolvendo IA.

Segundo a empresa, o plano responde ao aumento de ocorrências desse tipo de crime. A Internet Watch Foundation (IWF) registrou mais de 8 mil denúncias de conteúdo de abuso sexual infantil gerado por IA no primeiro semestre de 2025, um crescimento de 14% em relação ao ano anterior. Entre os incidentes mencionados estão a utilização de ferramentas para criar imagens falsas e o envio de mensagens destinadas ao aliciamento de menores.

Pontos de apoio e repercussão

O lançamento do blueprint ocorre em um contexto de maior atenção por parte de legisladores, educadores e organizações de proteção infantil, intensificada por relatos de jovens que cometeram suicídio após interações com chatbots de IA. Em novembro, o Social Media Victims Law Center e o Tech Justice Law Project deram entrada em sete processos em tribunais estaduais da Califórnia. As ações alegam que a OpenAI lançou o GPT-4o antes de estar pronto e citam quatro mortes por suicídio e três casos de delírios graves após interações prolongadas com o chatbot, apontando possível influência do sistema.

O blueprint foi elaborado em conjunto com o National Center for Missing and Exploited Children (NCMEC) e com a Attorney General Alliance, e recebeu contribuições dos procuradores-gerais Jeff Jackson, da Carolina do Norte, e Derek Brown, de Utah.

Pontos focais do blueprint

A OpenAI detalha que o plano tem três frentes principais: atualizar leis para incluir materiais gerados por IA, aprimorar os canais de comunicação com autoridades responsáveis por investigações e integrar medidas preventivas diretamente nos sistemas de IA. O objetivo é ampliar a identificação precoce de riscos e acelerar o envio de informações relevantes às apurações.

Imagem: Divulgação

O documento também se apoia em medidas internas já adotadas pela empresa, como diretrizes renovadas para a interação com usuários menores de 18 anos. Essas regras proíbem a geração de conteúdo impróprio, o estímulo à automutilação e orientações que auxiliem jovens a ocultar comportamentos inseguros de responsáveis. A OpenAI informou ainda ter lançado recentemente um plano de segurança voltado a adolescentes na Índia.

O conteúdo do Child Safety Blueprint reflete uma tentativa da OpenAI de articular respostas técnicas e legais para os riscos emergentes da aplicação de IA na exploração infantil, sem que o plano apresente garantias além das medidas propostas.

Com informações de Olhardigital