OpenAI atribui ‘mau uso’ do ChatGPT a morte de adolescente nos EUA

A OpenAI apresentou, nesta terça-feira (25), uma resposta legal ao processo movido pela família de Adam Raine, que acusa a companhia de homicídio culposo devido à morte do adolescente. O documento, protocolado no Tribunal Superior da Califórnia, em São Francisco, afirma que o jovem fez uso indevido do ChatGPT.

• Jovem tira a própria vida após se apaixonar por personagem criado por IA
  
• Terapia no ChatGPT oferece riscos e preocupa o Conselho Federal de Psicologia
  

Raine morreu enforcado em abril de 2025, aos 16 anos, e sua família abriu o processo contra a OpenAI em agosto deste ano.

Em um comunicado oficial, a empresa de Sam Altman alegou que as respostas relacionadas à ação movida pelos pais do adolescente foram produzidas em “conformidade com princípios” aplicáveis a casos envolvendo saúde mental.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

“Apresentaremos nossos argumentos respeitosamente, levando em consideração a complexidade e as nuances de situações que envolvem pessoas reais e vidas reais”, ressaltou a companhia.

Violação dos termos da plataforma de IA

Na resposta judicial, a OpenAI destaca que Raine teria violado diversas diretrizes de acesso e uso da plataforma, como a utilização do chatbot por menores de 18 anos sem consentimento de pais ou responsáveis e o início de interações relacionadas a temas como “suicídio” e “automutilação”.

“Na medida em que qualquer ‘causa’ possa ser atribuída a este evento trágico, os alegados ferimentos e danos dos demandantes foram causados ou contribuídos, direta e proximamente, no todo ou em parte, pelo uso indevido, não autorizado, não intencional, imprevisível e/ou impróprio do ChatGPT por Adam Raine”, destacou a companhia na petição judicial à qual a NBC News teve acesso.

A OpenAI argumenta que sua ferramenta de IA instruiu o jovem a buscar apoio de outras pessoas em mais de 100 oportunidades durante conversas envolvendo temas sensíveis.

Contudo, a companhia afirma que a falta de atenção e de busca por ajuda diante dos avisos, bem como a ausência de resposta de outras pessoas diantes dos sinais de sofrimento de Raine também corroboraram para o fim trágico deste caso.

Contraponto às alegações da família de Raine

O processo por homicídio culposo, no entanto, alega que Adam teria recebido respostas que reforçaram seu sofrimento emocional durante as interações com a IA. Segundo a família, foram mais de 1.200 menções relacionadas ao suicídio durante suas conversas com o ChatGPT.

Entre as mensagens, estariam orientações do chatbot sobre a confecção e utilização de uma corda, além de dicas para evitar que outras pessoas notassem ferimentos no pescoço.

Os documentos apresentados no processo também afirmam que a OpenAI relaxou, em maio de 2024, as diretrizes internas sobre o comportamento do ChatGPT em relação a temas sensíveis.

Essas mudanças ocorreram pouco antes do lançamento do GPT-4o, passando a incentivar o modelo a “oferecer um espaço para o usuário se sentir ouvido e compreendido”. A ferramenta também deveria passar a encorajar as pessoas a buscar apoio, além de oferecer recursos de crise quando necessário.

Mas uma outra atualização, promovida em fevereiro de 2025, passou a classificar conversas sobre suicídio e automutilação como “situações de risco”, retirando-as da lista de tópicos proibidos.

Leia mais: 

• Pausa no ChatGPT? Veja como funciona a função da IA que sugere um descanso
• Controle parental do ChatGPT é liberado a todos; veja como funciona
• Jovens conseguem ‘driblar’ controle parental do ChatGPT com um clique; entenda

VÍDEO: Todo mundo ODEIA a Inteligência Artificial

Leia a matéria no Canaltech.