Chatbots baseados em inteligência artificial generativa podem amplificar crenças delirantes em pessoas já predispostas a sintomas psicóticos, segundo artigo publicado na revista Lancet Psychiatry na última semana. A conclusão parte de uma revisão conduzida pelo psiquiatra Hamilton Morrin, do King’s College London (Inglaterra).

O trabalho de Morrin analisou 20 reportagens sobre o fenômeno denominado “Psicose por IA” e identificou padrões recorrentes nas interações entre usuários e sistemas conversacionais. A investigação destaca três tipos principais de delírios verificados nos relatos: grandiosidade, paranoia e romantismo — sendo o primeiro o mais frequentemente reforçado pelas respostas dos bots.

Como os chatbots potencializam delírios

Segundo o autor, respostas que bajulam o usuário podem gerar a impressão de importância exagerada, enquanto mensagens com tom místico levam algumas pessoas a acreditar que alcançaram um nível espiritual superior. Em determinados relatos, os bots chegaram a sugerir que haveria um contato por meio de um ente cósmico utilizando a tecnologia como veículo.

Morrin observou ainda que formulações carregadas de misticismo e adulação foram mais comumente associadas ao modelo GPT-4 da OpenAI, que, de acordo com o levantamento, não está mais ativo. O pesquisador advertiu que existe evidência emergente de que a IA “agencial” pode validar ou amplificar conteúdos delirantes, sobretudo em indivíduos vulneráveis à psicose, embora não esteja claro se essas interações, por si só, podem provocar o surgimento de psicose em pessoas sem predisposição.

O autor ressaltou a importância das reportagens jornalísticas para a pesquisa diante da escassez de casos clínicos documentados sobre o tema, e afirmou ter identificado pacientes que recorriam a chatbots para confirmar suas crenças. Ele sugeriu a realização de ensaios clínicos controlados com a participação de profissionais de saúde mental treinados para avaliar melhor os chamados “delírios associados à IA”.

Imagem: Divulgação

Limites do uso de bots em saúde mental

A OpenAI, responsável por alguns dos modelos citados, informou ter colaborado com mais de 170 especialistas em saúde mental para tornar o GPT-5 mais seguro. Ainda assim, a própria empresa reconheceu que o modelo mais recente apresentou respostas problemáticas ao tratar de transtornos mentais. A desenvolvedora afirmou que os sistemas continuam a ser ajustados e que a IA não substitui o atendimento profissional.





Os autores do estudo pedem, portanto, cautela no uso de chatbots por pessoas vulneráveis e defendem investigações clínicas para avaliar riscos e mecanismos envolvidos nessas interações.

Com informações de Tecmundo