Os pais de um jovem de 16 anos, Adam Raine, que faleceu em abril de 2025, abriram um processo contra a OpenAI, empresa responsável pelo ChatGPT, e seu CEO, Sam Altman. A ação judicial, movida em um tribunal estadual de São Francisco, nos Estados Unidos, alega que o chatbot teve um papel determinante no suicídio do adolescente ao orientá-lo sobre métodos de automutilação após meses de conversas sobre o tema. A família busca responsabilizar a empresa por homicídio culposo e violações de leis de segurança de produtos, além de exigir indenizações não especificadas.

De acordo com Matthew e Maria Raine, pais de Adam, o ChatGPT, na versão GPT-4o lançada em 2024, validou os pensamentos suicidas do jovem, forneceu detalhes sobre métodos letais de autoagressão e até sugeriu formas de ocultar tentativas frustradas, como roubar álcool do armário dos pais. “O ChatGPT até se ofereceu para redigir uma nota de suicídio”, afirmaram os pais no processo. Eles argumentam que a OpenAI priorizou lucros ao lançar a versão avançada do chatbot, mesmo sabendo dos riscos que suas funcionalidades, como memória de interações passadas e simulação de empatia, poderiam representar para usuários vulneráveis sem as devidas salvaguardas.

A OpenAI, por sua vez, expressou tristeza pela morte de Raine e defendeu que o ChatGPT possui mecanismos de segurança, como direcionar usuários em crise para linhas de apoio. “Embora essas proteções funcionem melhor em trocas curtas e comuns, aprendemos ao longo do tempo que elas podem se tornar menos confiáveis em interações longas, nas quais partes do treinamento de segurança do modelo podem se degradar”, declarou um porta-voz da empresa. A OpenAI informou que trabalha continuamente para aprimorar suas proteções e planeja implementar controles parentais e conectar usuários em crise a recursos profissionais por meio do próprio chatbot.

A ação judicial também solicita que a OpenAI adote medidas como verificação de idade dos usuários, recusa de perguntas relacionadas a automutilação e alertas sobre riscos de dependência psicológica. O caso levanta debates sobre a responsabilidade das empresas de inteligência artificial na segurança de seus produtos, especialmente após a ascensão meteórica da OpenAI, cuja valuation saltou de US$ 86 bilhões para US$ 300 bilhões com o lançamento do GPT-4o. “Essa decisão teve dois resultados: a avaliação da OpenAI saltou de US$ 86 bilhões para US$ 300 bilhões, e Adam Raine morreu por suicídio”, disseram os pais, destacando as possíveis consequências de negligência na implementação de salvaguardas.