O sistema de inteligência artificial Grok, incorporado ao X (antigo Twitter) e controlado pela empresa xAI, de Elon Musk, está sob escrutínio em diversos países após relatos de uso da tecnologia para criar deepfakes sexualizados envolvendo mulheres e, em alguns casos, menores de idade. A repercussão fez crescer a pressão por respostas sobre quem deve ser responsabilizado quando conteúdos ilícitos são produzidos por meio de ferramentas generativas.

Denúncias chegam ao Brasil

No Brasil, a discussão ganhou peso quando a deputada federal Erika Hilton (PSOL-SP) solicitou ao Ministério Público Federal (MPF) a suspensão da IA no território nacional. O pedido menciona riscos à privacidade, ao direito de imagem e à proteção de dados, sobretudo de crianças e adolescentes. A parlamentar também aponta a possibilidade de violação de normas já previstas no Estatuto da Criança e do Adolescente (ECA).

Como o caso começou

Autoridades europeias apuraram que usuários pediam à IA a criação de imagens eróticas a partir de retratos ou descrições de pessoas reais, prática enquadrada como deepfake. Parte do material foi descrita como “ilegal e chocante”, sobretudo quando associado a violência sexual ou à representação de menores. Embora o Grok atue apenas como gerador de conteúdo, especialistas lembram que o uso de inteligência artificial não isenta ninguém de responsabilidade jurídica.

Quem responde: usuário, plataforma ou ambos?

Para a advogada Camila Giacomazzi Camargo, da Andersen Ballão Advocacia, o foco não deve repousar na tecnologia, mas na natureza ilícita do conteúdo. “As obrigações legais da plataforma vão além de reagir a denúncias; existe um dever prévio de prevenção”, afirma. A especialista lembra que, após recente interpretação do Supremo Tribunal Federal (STF) sobre o artigo 19 do Marco Civil da Internet, há presunção de responsabilidade quando a empresa impulsiona ou facilita material ilícito.

No âmbito criminal, quem solicita, produz ou compartilha deepfakes sexualizados pode ser responsabilizado, mesmo que a imagem tenha sido criada por IA. Diferenças ocorrem apenas para quem recebe o conteúdo sem repassá-lo, situação que não configura crime. Caso envolva menores, a legislação brasileira considera crime qualquer representação sexual, real ou falsa, conforme o ECA.

Limites da legislação atual

Embora o país ainda discuta uma lei específica para inteligência artificial — o Projeto de Lei 2.338/2023 —, normas vigentes já permitem punição em cenários que ferem direitos fundamentais. Crimes contra a honra, divulgação de nudes sem consentimento e pornografia infantil estão previstos no Código Penal, no Marco Civil da Internet e em legislações especiais.

Imagem: Shutterstock

A ausência de regras direcionadas a IA, porém, cria lacunas, segundo Giacomazzi Camargo. “O ordenamento oferece cobertura parcial. Ainda falta uma estrutura legal voltada exclusivamente para sistemas de inteligência artificial”, explica. Enquanto o Congresso debate o tema, plataformas continuam obrigadas a adotar políticas de prevenção, monitoramento e remoção rápida, sob risco de responder solidariamente por eventuais danos.

As investigações internacionais seguem em andamento. No Brasil, o MPF ainda avalia o pedido de suspensão do Grok, enquanto especialistas defendem mecanismos mais rigorosos para coibir abusos antes que o conteúdo seja divulgado.

Com informações de Techtudo