A partir desta sexta-feira (9), o Grok, gerador de imagens por inteligência artificial da xAI, passou a funcionar apenas para usuários pagantes. A mudança ocorre após reportagens e críticas envolvendo a criação de deepfakes de mulheres e crianças em situações de nudez ou teor sensual sem autorização.

O anúncio foi feito pela própria ferramenta na rede social X, controlada por Elon Musk, fundador da xAI. Em publicação oficial na manhã desta sexta, o Grok afirmou que “a geração e edição de imagens estão atualmente limitadas a assinantes pagantes”.

Pressão de autoridades na União Europeia e no Reino Unido

Fontes governamentais informam que, antes da restrição, legisladores da União Europeia, da França e do Reino Unido ameaçaram aplicar multas e proibições caso a plataforma não adotasse medidas para evitar a fabricação de conteúdo ilegal. A Comissão Europeia, por exemplo, determinou que o X mantenha arquivados todos os documentos internos relacionados ao Grok até o final do ano.

Ministros franceses também encaminharam denúncias a promotores e órgãos reguladores de mídia, enquanto em Londres um representante do governo classificou a limitação como “insuficiente e insultuosa para as vítimas de misoginia e violência sexual”, pois, segundo ele, transformar um recurso problemático em serviço pago não resolve o risco de geração de material ilegal.

Regras e ameaças de sanções

Desde sua criação, o Grok prometia oferecer menos restrições de conteúdo que seus concorrentes. Em 3 de janeiro, Musk declarou no X que “quem usar o Grok para produzir conteúdo ilegal sofrerá as mesmas consequências de quem postar material proibido”.

Imagem: Shutterstock

Em paralelo, o Reino Unido prepara um projeto de lei para criminalizar ferramentas de IA que produzam abuso sexual infantil, incluindo a exigência de testes prévios para bloquear a criação de conteúdo ilícito. Na esfera internacional, em maio de 2025, os Estados Unidos aprovaram a Lei Take It Down, voltada ao combate da “pornografia de vingança” e deepfakes.

Até o momento, não há previsão de volta do Grok ao acesso livre, e a empresa afirma revisar constantemente suas políticas de uso, em busca de equilibrar inovação e segurança.

Com informações de Revistaoeste