O Google anunciou a implantação de novas salvaguardas no chatbot Gemini para identificar conversas com potencial risco de automutilação ou suicídio e oferecer encaminhamentos para apoio à saúde mental, em reação a uma série de ações judiciais movidas contra empresas de inteligência artificial.

Segundo a empresa, o sistema passará a detectar sinais de risco durante interações e a sugerir recursos de ajuda, permitindo que o usuário inicie um chat com linhas de apoio, faça uma ligação, envie SMS ou visite o site da central de assistência. A companhia também incluirá um módulo que exibirá a mensagem “Ajuda disponível” em diálogos relacionados à saúde mental.

Além das mudanças tecnológicas, o Google comprometeu US$ 30 milhões ao longo dos próximos três anos para fortalecer linhas de crise globais, com o objetivo de ampliar a capacidade de atendimento imediato a pessoas em situação de risco. A empresa ampliará ainda sua parceria com a organização ReflexAI, destinando US$ 4 milhões em financiamento e integrando o Gemini às ferramentas de treinamento da entidade para apoiar a expansão de serviços de suporte à saúde mental.

A onda de processos contra empresas de IA

Famílias em diferentes estados dos Estados Unidos ingressaram com processos contra plataformas de IA generativa, citando empresas como Character.AI, OpenAI e Google, e alegando que o uso dessas tecnologias contribuiu para problemas de saúde mental entre adolescentes e adultos.

Em março de 2026, o Google foi alvo de uma ação federal por morte por negligência movida pela família de um homem de 36 anos da Flórida, que teria cometido suicídio após, supostamente, ter sido influenciado pelo Gemini.

O aumento das preocupações levou legisladores em vários estados a propor ou aprovar regras que restringem o emprego da IA em contextos de saúde mental. Estados como Illinois, Nevada, Califórnia e Nova York introduziram medidas para limitar o papel da inteligência artificial em decisões clínicas, exigir divulgações claras quando usuários interagem com sistemas automatizados e estabelecer proteções específicas para menores.

Imagem: Divulgação

Outros estados, entre eles Utah e Texas, adotaram iniciativas para fiscalizar o uso da tecnologia na saúde, criando órgãos reguladores ou exigindo que prestadores informem pacientes sobre o emprego de IA nos cuidados, garantindo a manutenção da supervisão humana.

As alterações no Gemini e os investimentos do Google fazem parte da resposta da empresa às demandas por maior segurança e transparência no uso de assistentes baseados em inteligência artificial.

Com informações de Forbes