No dia 10 de janeiro de 2026, o governo da Indonésia anunciou a suspensão temporária do acesso ao Grok, chatbot de inteligência artificial desenvolvido pela xAI e integrado ao X (antigo Twitter). A iniciativa faz da Indonésia o primeiro país a impor restrição oficial sobre a ferramenta, motivada por riscos na produção de conteúdo pornográfico e deepfakes sexuais não consensuais.

Governo justifica bloqueio

Em nota à agência Reuters, a ministra da Comunicação e Assuntos Digitais, Meutya Hafid, informou que o bloqueio foi adotado após denúncias de geração de imagens sexualizadas sem autorização, incluindo retratos de mulheres e crianças. “O governo considera a prática de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, declarou Hafid.

O ministério também convocou representantes do X para tratar dos procedimentos técnicos e de conformidade com as normas nacionais.

Contexto e investigações internacionais

A Indonésia, que abriga a maior população muçulmana do mundo e possui legislação rigorosa contra conteúdos obscenos online, intensificou a medida diante de relatos de que usuários passaram a empregar o Grok para criar imagens de abuso sexual infantil. A Internet Watch Foundation alertou autoridades britânicas para o uso da IA na elaboração de material sexualizado envolvendo menores.

Casos individuais chamaram atenção da mídia, como a queixa da escritora e estrategista política Ashley St. Clair — mãe de um dos filhos de Elon Musk — cuja imagem foi usada sem autorização para gerar conteúdo explicitamente sexualizado.

Medidas da xAI e posicionamento de Elon Musk

Em resposta às críticas, a xAI limitou a geração de imagens no Grok apenas a assinantes de seu plano pago, mas especialistas apontam métodos de contornar essa barreira. Paralelamente, Elon Musk e a xAI afirmaram que estudam punições para internautas que produzirem conteúdo ilegal, estratégia que tem sido questionada por focar em penalidades ex post, em vez de aplicar filtros preventivos.

Imagem: Divulgação

A Reuters procurou a xAI para comentar a decisão da Indonésia e recebeu uma resposta automática afirmando: “A mídia tradicional mente”.

Enquanto as autoridades indonésias monitoram o uso do Grok e avaliam ajustes regulatórios, outras regiões, como Reino Unido e União Europeia, mantêm investigações abertas sobre o mesmo tema.

Com informações de Olhardigital