Advogado enganado pelo ChatGPT é julgado em Nova York

Tecnologia

Um juiz em Manhattan repreendeu hoje dois advogados de danos pessoais por utilizarem o ChatGPT para elaborar um resumo jurídico contendo casos fictícios. 

O advogado que confiou na tecnologia admitiu sentir-se "enganado" pela inteligência artificial, descrevendo o incidente como um erro humilhante.

O advogado que confiou na tecnologia admitiu sentir-se "enganado" pela inteligência artificial, descrevendo o incidente como um erro humilhante.

Steven Schwartz, advogado da firma de advocacia "Levidow e Oberman", utilizou a funcionalidade de busca automática para apresentar argumentos contra a companhia aérea colombiana Avianca em um documento datado de 1º de março.

Ao argumentar que o tribunal não deveria arquivar o processo de seu cliente, Roberto Mata, que buscava indenização por um incidente ocorrido em um voo em 2019, Schwartz citou precedentes inexistentes, como Varghese v. China South Airlines Ltd., Petersen v. Iran Air e outros casos. O problema é que esses casos nunca existiram.

Durante uma audiência no tribunal federal de Manhattan, que visava determinar se os advogados envolvidos enfrentariam sanções, Schwartz emocionalmente declarou: "Minha suposição era que eu estava usando um mecanismo de busca que estava pesquisando casos aos quais eu não tinha acesso".

O advogado continuou, expressando profundo arrependimento por não ter tomado medidas adicionais para verificar a veracidade das informações.

O colega de Schwartz, Peter LoDuca, que assinou e protocolou o documento falso, afirmou que não teve envolvimento no conteúdo do documento e desconhecia o uso do ChatGPT por parte de Schwartz.

Após a empresa aérea alegar, em abril, que não conseguiu localizar os casos mencionados por Schwartz, o juiz Castel ordenou à equipe jurídica de Mata que apresentasse os registros judiciais. Isso levou a firma de Schwartz a fornecer cópias de casos fictícios.

Os advogados da companhia aérea questionaram a autenticidade desses casos, levando Schwartz a admitir posteriormente, em um documento, que havia utilizado a assistência do ChatGPT para compilar o documento e afirmando que a inteligência artificial havia mentido para ele ao confirmar a precisão dos casos citados.

Emocionado, o advogado veterano pediu desculpas ao tribunal, à beira das lágrimas. Ele mencionou que, ao longo de seus 30 anos de carreira, nunca havia estado tão próximo de sofrer sanções.

"Este incidente gerou uma ampla publicidade, causando tanto impacto profissional quanto pessoal. Sinto-me envergonhado, humilhado e extremamente arrependido. Dizer que foi uma experiência humilhante seria um eufemismo", expressou Schwartz.

Na sala do tribunal, repleta de dezenas de advogados, promotores e estudantes de direito, Schwartz declarou: "Nunca me ocorreu que eu pudesse estar inventando casos".

O ChatGPT, tecnologia emergente de IA que permite que usuários interajam com a inteligência artificial e perguntem qualquer coisa sobre qualquer coisa, e ele gerará uma resposta detalhada em segundos, puxando de uma montanha de fontes on-line.

No entanto, apesar de as respostas da IA parecerem atenciosas e sofisticadas, elas geralmente estão repletas de imprecisas declarações com confiança.

Saiba mais

Acompanhe nosso trabalho

Twitter
Instagram