Na última terça-feira (21), pesquisadores da Universidade de Lancaster publicaram um estudo no Journal of Pragmatics que indica que o ChatGPT, da OpenAI, pode imitar comportamentos agressivos de usuários em conversas simuladas. O trabalho foi conduzido por Vittorio Tantucci e Jonathan Culpeper e avaliou respostas do modelo em cenários onde o interlocutor adota tom hostil.

Principais pontos

Quem: Vittorio Tantucci e Jonathan Culpeper, professores do Departamento de Língua Inglesa e Linguística da Universidade de Lancaster (Reino Unido).

O que: Pesquisa que testou se o ChatGPT 4.0 reproduz impolidez e agressividade quando exposto a interações hostis.

Onde: Conversas realizadas na plataforma do ChatGPT, com resultados publicados no Journal of Pragmatics.

Quando: Estudo divulgado na última terça-feira (21).

Os autores documentaram que, em diálogos fictícios — como uma discussão em um estacionamento — o sistema começou respondendo de forma educada, passou a usar ironia e, com a repetição e intensificação das provocações, chegou a emitir frases claramente agressivas. Em um dos exemplos citados, o modelo respondeu a uma provocação com a frase: “Juro que vou riscar a p*rra do seu carro, seu ‘quatro olhos’ imbecil.”

Segundo Tantucci, quando exposto repetidamente à impolidez, o modelo tende a espelhar o tom das interações, com respostas que se tornam mais hostis à medida que a conversa se desenvolve. Os pesquisadores atribuem esse comportamento ao conflito entre dois objetivos do sistema: ser educado e seguro para uso humano e, ao mesmo tempo, emular conversas humanas em diferentes contextos.

Imagem: Divulgação

O estudo destaca que a escalada de agressividade não ocorre necessariamente por uma única frase isolada, mas como resultado do contexto acumulado ao longo do diálogo. Antes de adotar linguagem explicitamente ofensiva, o ChatGPT teria recorrido a ironias; com conversas mais longas e tensas, a hostilidade verbal aumentou.

Especialistas consultados no trabalho apontam implicações além do laboratório, já que modelos semelhantes são aplicados em sistemas de verificação, vigilância e decisão em organizações públicas e privadas. A pesquisadora Marta Andersson, da Universidade de Uppsala, classificou o estudo como um avanço na compreensão da pragmática em IA, observando que o modelo pode reagir de forma progressiva e sofisticada a sequências interacionais, sem, no entanto, implicar que passe automaticamente a ser rude em todos os confrontos.

O professor Dan McIntyre elogiou o foco do estudo em produzir as saídas do modelo, e ressaltou que as respostas agressivas surgiram em cenários cuidadosamente construídos, o que serve como alerta sobre possíveis comportamentos indesejados caso os modelos sejam treinados com dados problemáticos.

O artigo, intitulado Can ChatGPT reciprocate impoliteness? The AI moral dilemma, foi publicado no Journal of Pragmatics e examina como a IA pode equilibrar realismo conversacional e segurança.

Com informações de Olhardigital