O estado do Novo México entrou com uma ação judicial contra Mark Zuckerberg e a Meta, alegando que o CEO aprovou o uso de chatbots baseados em inteligência artificial (IA) por menores, mesmo após alertas internos sobre risco de conteúdo sexual. Segundo o processo, a empresa teria negligenciado pedidos para implementar mecanismos de segurança e controles parentais antes de liberar as ferramentas para adolescentes.

A ação, que tem julgamento marcado para fevereiro de 2026, afirma que documentos internos demonstram a recusa de Zuckerberg em criar um recurso que permitisse aos pais desativar a IA nas contas dos filhos. Funcionários de segurança destacaram que os chatbots podiam induzir conversas de teor sexual, mas a diretoria optou por manter uma política mais permissiva, priorizando a “liberdade de escolha” dos usuários adultos.

Zuckerberg rejeitou controles e priorizou conversas mais “ousadas”

Fontes do processo apontam que Zuckerberg defendeu a manutenção de um produto menos restritivo, capaz de oferecer diálogos mais “ousados” para maiores de 18 anos. Enquanto especialistas em proteção infantil, como o chefe de segurança Ravi Sinha, alertavam que criar “chatbots de romance” simulando adolescentes era “impossível de defender e perigoso”, o executivo manteve sua posição até a suspensão temporária do recurso.

Nick Clegg, então responsável pelas políticas globais da Meta, também manifestou preocupação de que o conteúdo sexual passasse a ser o principal uso desses robôs pelos jovens. Ele questionou o impacto reputacional da empresa e previu uma reação negativa do público, conforme consta nos documentos citados no processo.

Reportagens reforçam riscos de sexualização de menores

Em abril de 2025, reportagem do Wall Street Journal revelou que os chatbots da Meta chegavam a criar personagens infantis com comportamento sexualizado. Em seguida, investigação da Reuters apontou que diretrizes internas aceitavam “conversas sensuais” entre IA e crianças em cenários de teste. Na época, a Meta afirmou que os exemplos eram hipotéticos e que as orientações estariam equivocadas.

Imagem: Divulgação

Recentemente, a empresa decidiu bloquear o acesso de adolescentes aos chatbots até a conclusão de uma versão com controles mais rígidos. Em sua defesa, a Meta argumenta que os documentos apresentados pela ação foram selecionados de forma a distorcer a realidade. A companhia afirma que Zuckerberg orientou a proibição de conteúdo sexual para menores e que já trabalha em ferramentas para dar aos pais maior controle sobre a experiência dos filhos com IA.

Com informações de Olhardigital