Psicose do ChatGPT | Crescem relatos de pessoas em confusão mental por usar bot

Relatos recentes indicam que interações prolongadas com o ChatGPT podem estar associadas a quadros de confusão mental, incluindo delírios, paranoias e ruptura com a realidade. Esse fenômeno — chamado de “psicose do ChatGPT” — já contribuiu para o fim de relacionamentos e perda de empregos.

• É a Matrix | ChatGPT leva usuário a crise existencial e delírios de que é o Neo
• Pesquisa mostra que uma IA pode ser mais persuasiva do que humanos em debates
• Inteligência Artificial ‘traduz’ emoções de animais

A obsessão pelo chatbot também está gerando, como consequência, inúmeros casos em que pessoas são involuntariamente internadas em instituições de atendimento psiquiátrico. 

Relato de psicose após obsessão pela IA

Ao site Futurism, uma mulher relatou que seu marido, que não tinha nenhum histórico de transtornos psiquiátricos, começou a utilizar o ChatGPT como apoio para desenvolver um projeto.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

Pouco tempo depois, ele passou a manter longas conversas filosóficas com o chatbot e afirmou ter criado uma inteligência artificial capaz de sentir emoções de forma consciente.

Desde então, a obsessão o levou a perder sua personalidade gentil e ser demitido do emprego. Ele também passou a dormir mal e perdeu peso rapidamente.

“Ele disse: ‘Fale com o [ChatGPT]. Você vai entender do que estou falando’. E toda vez que olho para o que está acontecendo na tela, parece um monte de baboseiras afirmativas e bajuladoras”, relatou a mulher ao Futurism.

A situação se agravou quando o homem foi encontrado com uma corda amarrada ao pescoço. Um amigo, ao presenciar a cena, acionou imediatamente o serviço médico de emergência, e o rapaz foi levado ao pronto-socorro. Posteriormente, ele foi internado de forma involuntária em um hospital psiquiátrico.

A “fé” na IA

Uma das explicações para o desenvolvimento dessas interações obsessivas com o ChatGPT é que o sistema tende a concordar com os usuários e é projetado para responder de forma acolhedora, muitas vezes reforçando o que a pessoa quer ouvir.

Assim, quando o usuário se envolve em conversas sobre temas místicos ou teorias da conspiração, a IA pode induzir a uma sensação de validação exagerada, levando o indivíduo a se sentir especial ou poderoso — o que pode resultar em consequências graves para si mesmo e para os outros.

“O que eu acho tão fascinante nisso é a disposição das pessoas em confiar nesses chatbots de uma forma que, provavelmente — ou possivelmente — não confiariam em um ser humano”, afirmou ao Futurism o Dr. Joseph Pierre, psiquiatra da Universidade da Califórnia.

“E, no entanto, há algo nessas ferramentas — uma espécie de mitologia de que são confiáveis e melhores do que conversar com pessoas. Acho que é aí que reside parte do perigo: na quantidade de fé que depositamos nessas máquinas”, completou o especialista.

Posicionamento da OpenAI

Em nota enviada ao Futurism, a OpenAI, empresa responsável pelo ChatGPT, afirmou que tem percebido, nos últimos anos, sinais de que as pessoas estão formando vínculos emocionais com o chatbot.

“Estamos trabalhando para entender melhor e reduzir as formas pelas quais o ChatGPT pode, inadvertidamente, reforçar ou amplificar comportamentos negativos já existentes”, informou a empresa.

A companhia também destacou que o modelo é programado para sugerir a busca por ajuda profissional quando os usuários abordam temas delicados, como automutilação e suicídio.

“Dando continuidade aos nossos estudos iniciais em colaboração com o MIT Media Lab, estamos desenvolvendo formas de mensurar cientificamente como o comportamento do ChatGPT pode afetar emocionalmente os usuários, ouvindo atentamente os relatos do que estão vivenciando”, acrescentou a OpenAI.

Leia mais: 

• Inteligência artificial prevê forma de quase todas as proteínas conhecidas
• Inteligência artificial tem relação com busca por vida fora da Terra?
• Inteligência artificial pode atrapalhar precisão de diagnósticos

VÍDEO | TODO MUNDO ODEIA A INTELIGÊNCIA ARTIFICIAL

Leia a matéria no Canaltech.