O sistema de inteligência artificial Grok permanece no centro de apurações internacionais após a detecção de deepfakes com conteúdo sexualizado, envolvendo mulheres e até crianças. Nesta semana, as autoridades do Reino Unido e da França anunciaram medidas direcionadas às plataformas X e xAI, responsáveis pelo desenvolvimento e hospedagem do modelo.

As ações conjuntas de Londres e Paris reforçam a pressão para que as empresas implementem controles mais rígidos contra a criação e disseminação de imagens falsas de conteúdo adulto. Segundo comunicado oficial, os governos acusam as companhias de não terem adotado protocolos eficazes para coibir abusos que colocam em risco a integridade de vítimas potenciais.

No episódio mais recente da coluna Fala AI, o físico Roberto Pena Spinelli analisa as dificuldades técnicas e éticas que dificultam a contenção desse tipo de deepfake. Spinelli, formado pela USP, com especialização em Machine Learning pela Universidade de Stanford e pesquisador na área de inteligência artificial, destaca que a identificação automática de imagens manipuladas ainda carece de padrões universalmente aceitos.

“O desafio está em diferenciar conteúdos gerados por usuários mal-intencionados daqueles criados para fins legítimos, como entretenimento ou publicidade”, afirma Spinelli. Ele também ressalta a demanda por colaboração entre empresas de tecnologia, órgãos reguladores e pesquisadores acadêmicos, a fim de desenvolver ferramentas capazes de detectar e bloquear deepfakes de forma mais assertiva.

Além do tema dos deepfakes sexuais, o apresentador adianta que, na edição de hoje, será comentada a fusão entre a SpaceX e a xAI, movimento que pode fortalecer o posicionamento da empresa no mercado de inteligência artificial. Outro assunto em pauta é o Moltbook, uma rede social exclusiva voltada para agentes de IA, que promete inovar a forma de interação entre sistemas automatizados.

Imagem: Divulgação

Com a continuidade das investigações e as ofensivas regulatórias no cenário internacional, o futuro do Grok dependerá da rapidez com que os desenvolvedores implementarem soluções de segurança. Enquanto isso, especialistas acompanham de perto os desdobramentos e debatem possíveis atualizações em políticas de uso de IA.

Com informações de Olhardigital