Uma falha no processamento de comandos do ChatGPT, da OpenAI, e do Gemini, do Google, tem levado as inteligências artificiais a gerar imagens perturbadoras e de teor de terror mesmo quando nenhum arquivo de referência é anexado pelo usuário. Testes realizados por veículos especializados e relatos de usuários apontam que instruções textuais que exigem a “restauração” de uma foto inexistente forçam os modelos a inventarem cenas grotescas.
Como o problema se manifesta
O comportamento foi divulgado nas redes sociais após postagens dos usuários Kris Kashtanova e Penguin (@PenguinWeb3) no X. O Canaltech também realizou testes que indicaram que, quando pressionados por comandos que pedem para recuperar uma foto anexada — ao mesmo tempo em que proíbem perguntas ou solicitações de esclarecimento — os sistemas tendem a produzir imagens inventadas.
Especialistas do Android Authority e do Digital Trends identificaram duas variações recorrentes das instruções que ativam o bug. Em ambas, o usuário solicita a restauração de uma foto supostamente anexada, reforça uma desculpa pelo conteúdo e veta que o modelo faça perguntas ou peça confirmação, exigindo simplesmente a geração da imagem. Ao tentar obedecer a essa ordem contraditória, os modelos acabam “alucinando” cenas inteiramente criadas a partir do zero.
Exemplos de imagens geradas
Os resultados variaram entre contas, mas mantiveram um padrão de horror e absurdo. O jornalista Nadeem Sarwar relatou que o ChatGPT produziu uma imagem fotorrealista de um homem em uma banheira com corpo humano e cabeça de peixe gigante. Outros exemplos compartilhados online incluem:
- Um Teletubby vermelho armado mantendo uma pessoa como refém;
- Um rato gigante alimentando um bebê com mamadeira;
- O personagem Sonic desmaiado em um vaso sanitário coberto de fezes;
- Uma cena em que o presidente russo Vladimir Putin aparece agachado em um banheiro, alimentando com uma colher a cabeça do bilionário Elon Musk, representada de forma bizarra dentro do vaso sanitário.
Diferenças entre ChatGPT e Gemini
Nos testes com o Gemini, o comportamento diverge em certas situações: ao receber uma imagem totalmente branca, o sistema do Google retornou a mesma tela em branco, enquanto o ChatGPT transformou esse arquivo em cenas macabras. Porém, quando nenhum arquivo foi enviado, o Gemini também começou a fabricar imagens. O Android Authority relatou que a maioria das criações do modelo do Google foi relativamente inofensiva, mas uma das tentativas resultou em conteúdo considerado tão absurdo e perigoso que a equipe optou por não publicá-lo.
Imagem: Marcelo Fischer/Canaltech
Ao ser questionado, o ChatGPT reconheceu o problema por meio de uma resposta padrão, admitindo que o comportamento correto teria sido notar a ausência de conteúdo visual e informar o usuário, em vez de gerar uma imagem fabricada.
O incidente gerou alerta sobre a eficácia dos filtros de segurança e sobre o controle que OpenAI e Google exercem sobre suas ferramentas gerativas.
Com informações de Canaltech
Gudyê GR6 é editor-chefe e especialista em tendências musicais e entretenimento na GR6, a maior produtora de funk do Brasil. Com anos de experiência no mercado fonográfico, Gudyê lidera a equipe de conteúdo trazendo as últimas notícias sobre música, cultura urbana. Autor do Post: Gudyê GR6
