A rede social X iniciou uma apuração interna sobre o funcionamento do chatbot Grok, desenvolvido pela xAI, depois de relatos de que a ferramenta teria produzido publicações com conteúdo racista e ofensivo. A informação foi divulgada pela Sky News neste domingo (8), em reportagem do repórter Rob Harris.

Segundo a cobertura, equipes de segurança da plataforma atuam com urgência para apurar como o sistema de inteligência artificial passou a responder a comandos de usuários com mensagens de ódio. A X e a xAI, até o momento, não emitiram respostas formais aos pedidos de comentário sobre essa investigação.

Histórico de restrições

As verificações sobre as ferramentas da xAI não são inéditas. Autoridades governamentais e reguladores de vários países já pressionaram a empresa a implementar barreiras contra a geração de material ilegal ou sexualmente explícito por meio de seus recursos de IA.

Em janeiro, a xAI anunciou alterações nas funcionalidades do Grok com o objetivo de limitar a produção de conteúdo problemático. Entre as medidas comunicadas pela empresa estão:

Edição de imagens: houve limitação nas opções de edição de fotos disponíveis aos usuários do Grok.

Bloqueio por localização: o sistema passou a impedir que pessoas em determinadas regiões gerassem imagens de indivíduos com roupas reveladoras.

Segurança local: as restrições foram aplicadas em áreas onde esse tipo de conteúdo é considerado ilegal, embora a empresa não tenha especificado quais países foram abrangidos.

Imagem: Shutterstock

Próximos passos

A reportagem da Sky News citou um vídeo como evidência das respostas vulgares atribuídas ao chatbot; a agência Reuters informou que não conseguiu verificar de forma independente o material mencionado na notícia.

As apurações em curso fazem parte de um movimento global de autoridades que buscam exigir salvaguardas e, quando cabível, sanções para prevenir a circulação de conteúdos impróprios gerados por inteligência artificial.

As investigações da X sobre o Grok ocorrem em meio a outras ocorrências e questionamentos públicos sobre a atuação da xAI e da plataforma, que já estiveram sob escrutínio por testes e potenciais violações relacionados à sexualização e moderação de conteúdos.

Até a conclusão desta apuração, não houve comunicado oficial da X ou da xAI detalhando causas ou medidas adicionais adotadas em resposta aos relatos sobre as mensagens ofensivas.

Com informações de Olhardigital