No domingo (11), a Malásia tornou-se o segundo país a suspender temporariamente o acesso ao Grok, chatbot de inteligência artificial desenvolvido pela xAI e integrado à plataforma X (antigo Twitter). A medida ocorreu após relatos de usuários que utilizaram a ferramenta para gerar imagens sexualizadas de mulheres e crianças, incluindo conteúdo considerado pornográfico.

Malásia suspende acesso ao Grok

A Comissão de Comunicações e Multimídia da Malásia anunciou que emitiu ordem para restringir o acesso ao Grok devido ao uso indevido “para criar imagens obscenas, sexualmente explícitas, indecentes, extremamente ofensivas e manipuladas sem consentimento”. O órgão destacou que a ação é temporária e visa impedir novos casos de geração de material pornográfico com a ferramenta de IA.

Este bloqueio coloca a Malásia atrás apenas da Indonésia, que adotou medida semelhante no fim de semana anterior. Ambas as decisões refletem preocupações crescentes de reguladores sobre a forma como sistemas automatizados podem ser empregados para propósitos ilícitos e potencialmente danosos.

Reino Unido investiga o X por uso do Grok

Na segunda-feira (12), a Ofcom, agência reguladora de mídia do Reino Unido, anunciou a abertura de investigação para apurar se o X descumpriu suas obrigações de proteger usuários britânicos de conteúdo ilegal. O foco do inquérito é averiguar a distribuição de imagens “íntimas ou pornográficas” geradas pelo Grok, entre elas representações de crianças em situações sexualizadas, o que pode configurar material de abuso sexual infantil.

Fontes ouvidas pela Reuters informaram que a Ofcom sofre pressão política, especialmente após o primeiro-ministro Keir Starmer qualificar as imagens como “repugnantes” e “ilegais”. Em resposta, o secretário de Estado para os Negócios, Peter Kyle, reconheceu que a rede social pode ser banida no país, embora tenha frisado que a decisão final cabe ao órgão regulador.

Imagem: Divulgação

Posicionamentos de xAI, X e Musk

Diante da repercussão negativa, a xAI e o próprio Elon Musk afirmaram que adotarão punições contra usuários que gerarem conteúdo ilegal, mas a estratégia tem sido criticada por especialistas por se basear em ações posteriores em vez de impedir a criação do material. A X declarou que remove publicações irregulares, suspende perfis associados e colabora com autoridades policiais conforme necessário.

Além disso, a xAI passou a exigir assinatura paga para liberar a geração de imagens no chatbot, mas o site The Verge identificou que essa barreira pode ser contornada. A polêmica reforça o debate sobre a eficácia de controles técnicos e medidas de compliance em plataformas de IA.

Com informações de Olhardigital