“Destrua os meus argumentos” | Mulher vence processo judicial usando o ChatGPT

As ferramentas de inteligência artificial (IA) já estão sendo usadas como consultoras jurídicas. Foi o que aconteceu com uma moradora do estado do Novo México, nos Estados Unidos, que, entre os prompts, pedia ao ChatGPT: “Destrua meus argumentos”.

• IA se tornará indispensável para boa prestação de justiça, diz presidente do STF
• Startup usa IA para revolucionar o trabalho jurídico e recebe US$ 50 milhões
• Juiz acusa empresa de atrasar ação e aplica multa por mau uso de IA em processo

A história é de Staci Dennett, dona de uma empresa de fitness que recebeu uma intimação judicial por uma dívida não paga. Ela recorreu ao ChatGPT para obter conselhos sobre como responder à notificação oficial.

Dennett contou à NBC News que costuma usar a IA da OpenAI apenas em seus negócios e em sua vida pessoal, mas nunca havia recorrido à ferramenta para lidar com processos judiciais.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

Após as consultas ao chatbot, Staci recebeu modelos e rascunhos de argumentos para suas respostas, enquanto pedia frequentemente que ele encontrasse falhas na sua lógica.

“Eu dizia ao ChatGPT para fingir que era um professor de Direito de Harvard e destruir meus argumentos. Destruí-los até eu tirar nota máxima na tarefa”, destacou Dennett.

Redução da dívida e elogios de advogados

Como resultado, Staci Dennett economizou mais de US$ 2 mil em relação à sua dívida original — vitória parcial que ela atribui, em grande parte, à IA.

Além disso, a empresária afirmou que os advogados da parte contrária chegaram a elogiar seu conhecimento sobre a lei e os procedimentos judiciais.

“Se o Direito é algo que lhe interessa como profissão, você certamente poderia fazer o trabalho”, escreveram os advogados a Dennett em um e-mail.

Alertas de empresas com ferramentas de IA

Mesmo com o sucesso em casos como o de Staci, empresas como o Google alertam para que usuários não utilizem ferramentas de IA para certos tipos de aconselhamento.

“Não confie nos serviços para aconselhamento médico, jurídico, financeiro ou de qualquer outra natureza profissional. Qualquer conteúdo sobre esses tópicos é fornecido apenas para fins informativos e não substitui o aconselhamento de um profissional qualificado”, informa a big tech, que tem em seu portfólio o Gemini.

A xAI, empresa de Elon Musk, segue a mesma linha e pede que seus recursos não sejam usados para “tomar decisões financeiras, de crédito, educacionais, de emprego, de moradia, de seguro, legais ou médicas”.

Advogados e informações falsas da IA

Embora o caso da moradora do Novo México seja um exemplo do uso da IA por parte da sociedade civil, cresce a preocupação com advogados que utilizam essas ferramentas em seus processos — e, nesses casos, o desfecho muitas vezes é negativo.

Um exemplo é o de um advogado australiano que sofreu uma série de sanções após usar citações falsas geradas por IA em um processo judicial de disputa conjugal em 2024.

Apesar de ter pedido desculpas e arcado com os custos da audiência, o profissional agora enfrenta restrições, como não poder atuar como advogado principal, não administrar seu próprio escritório de advocacia nem exercer a profissão sem supervisão por um período de dois anos.

Nesse contexto, especialistas dizem compreender o fato de pessoas sem advogado recorrerem à IA por não poderem pagar um profissional. Por outro lado, são críticos em relação a advogados que usam a tecnologia sem uma revisão adequada.

“O que não consigo entender é um advogado que trai os princípios mais fundamentais de nossas responsabilidades para com nossos clientes… e apresenta argumentos baseados em pura invenção”, afirmou o advogado Robert Freund à NBC.

Leia mais:

• Contestação de prova com IA não é aceita na Justiça — nota da banca foi mantida
• Meta tem vitória na justiça sobre treinamento de IA com livros

VÍDEO | A IA VAI SUBSTITUIR OS MÉDICOS?

Leia a matéria no Canaltech.