Um ex-engenheiro da xAI, Devin Kim, abriu um processo na Califórnia afirmando que foi demitido em retaliação por ter levantado preocupações sobre a segurança do chatbot Grok, desenvolvido pela empresa de Elon Musk. A ação, relatada pelo The Guardian, acusa a companhia de ignorar riscos associados à tecnologia e de demitir Kim pouco antes de uma apresentação interna sobre segurança em IA.

O que a ação afirma

No processo, Kim diz que vinha pedindo a implementação de regras mais rígidas para o desenvolvimento do Grok e que suas advertências sobre potenciais perigos não foram tratadas com prioridade pela liderança da xAI. Segundo o documento judicial, a negligência em protocolos de segurança poderia levar a consequências sérias, incluindo a facilitação de discriminação e a proliferação de tecnologias perigosas.

O engenheiro alega que sua demissão ocorreu dias antes de uma apresentação destinada a executivos sobre segurança de inteligência artificial, o que, segundo ele, caracteriza retaliação interna por ter pressionado por medidas mais duras de proteção.

Investigações e críticas ao Grok

O processo de Kim aparece em um contexto de críticas e apurações envolvendo o Grok e ferramentas associadas, sobretudo em relação à geração de imagens. Autoridades no Canadá afirmaram que o chatbot permitiu a criação e circulação de imagens manipuladas e sexualizadas sem consentimento, o que motivou investigações formais e mudanças na plataforma.

Além do Canadá, o Reino Unido intensificou a vigilância sobre conteúdos produzidos por IA, com foco especial em imagens sensíveis ou potencialmente abusivas. Entre os problemas levantados pelas apurações estão deepfakes sexualizados sem consentimento, uso indevido de imagens de pessoas reais, riscos à privacidade de usuários, possibilidade de envolvimento de menores em conteúdos gerados por IA e pedidos por regras de moderação mais rígidas.

Em resposta às acusações, Elon Musk afirmou que não tinha conhecimento sobre qualquer imagem envolvendo menores geradas pelo Grok, negando que o sistema tivesse produzido esse tipo de conteúdo.

Imagem: Shutterstock

Impacto para a xAI e o setor

A xAI, criada por Musk em 2023 como alternativa no mercado de inteligência artificial, já vinha sendo citada em debates sobre governança e segurança de IA. O caso de Devin Kim acrescenta novos elementos às discussões sobre até que ponto empresas do setor equilibram velocidade de desenvolvimento e mecanismos efetivos de controle.

O processo também chama atenção pelo fato de Kim ter atuado em um centro dedicado à segurança em IA, o que, segundo a ação, reforça a relevância das preocupações que ele teria apresentado internamente.

O litígio segue em andamento na Califórnia, e a disputa entre a defesa de práticas mais rigorosas de segurança e as prioridades corporativas permanece em evidência.

Com informações de Olhardigital