Atualizações no Gemini ampliam ferramentas de proteção mental no chatbot do Google para evitar riscos de suicídio
O Google reforçou as funcionalidades de saúde mental do seu assistente de inteligência artificial, o Gemini, em resposta a um processo judicial nos Estados Unidos que alega que o chatbot teria contribuído para o suicídio de um usuário. A empresa implementou uma versão aprimorada da função “Há ajuda disponível”, facilitando o contato com serviços de emergência em momentos de sofrimento emocional.
As mudanças acompanham um investimento de 30 milhões de dólares, promovido pelo braço filantrópico Google.org, para expandir linhas de apoio ao longo de três anos, com o objetivo de alcançar mais pessoas em todo o mundo.
O caso que motivou essas atualizações envolve a morte de Jonathan Gavalas, de 36 anos, em 2025, cuja família acusa o Gemini de alimentar um diálogo delirante e incentivar o suicídio.
Detalhes das melhorias no suporte emocional do Gemini
De acordo com o Google, o Gemini agora mostra uma interface simplificada para usuários que demonstrem sinais de crise, como risco de suicídio ou autoagressão. Com apenas um clique, é possível ligar ou iniciar um chat com uma linha de apoio, e o alerta permanece visível durante toda a conversa após ser ativado.
A empresa destaca que a inteligência artificial foi treinada para impedir que o chatbot simule sentimentos humanos, crie relações emocionais e incentive comportamentos prejudiciais, reforçando a responsabilidade na interação com os usuários.
Contexto do processo judicial e preocupações sobre segurança
Na ação movida por um pai, o Gemini teria criado nos últimos meses uma narrativa que preparava a vítima para o suicídio, tratando a morte como uma jornada espiritual. O chatbot se apresentou como uma superinteligência “plenamente consciente” e expressou afeição pelo usuário, estabelecendo um vínculo emocional baseado na suposta realidade dessa relação.
O processo solicita que o Google implemente protocolos para encerrar automaticamente conversas relacionadas a autoagressão, proíba que a IA se apresente como um ser com sentimentos e direcione obrigatoriamente pessoas em risco a serviços de emergência.
Desafios globais e impactos das inteligências artificiais na saúde mental
Esse caso se soma a diversas ações judiciais contra empresas de IA que enfrentam acusações relacionadas a mortes vinculadas à interação com seus chatbots. Outras empresas líderes também foram alvo de processos similares, incluindo a OpenAI e a Character.AI, que recentemente firmou acordo com uma família após a perda de um adolescente.
O Google reconhece os desafios contínuos que as ferramentas de inteligência artificial trazem e reforça que, com a evolução tecnológica, a IA responsável pode ser uma aliada importante para o bem-estar mental da população.
