Michael Cohen usou o Google Bard para criar citações de casos falsos em um documento jurídico

Como aí consta Arquivamento, que permaneceu aberto na sexta-feira, Cohen disse que seu advogado poderia usar o Google Bart, um chatbot de IA, para gerar citações de casos para ajudar a preparar o caso para reduzir sua libertação supervisionada. Ele se declarou culpado em 2018 e cumpriu pena de prisão.

Cohen citou essas citações de um de seus advogados, David M. Ele disse que os deu a Schwartz, que mais tarde os usou em uma moção apresentada a um juiz federal dos EUA em nome de Cohen.

A admissão de Cohen ocorre depois que o juiz distrital dos EUA Jesse Furman, do Distrito Sul de Nova York, disse Na ordem de 12 de dezembro Ele não conseguiu encontrar nenhum dos três casos citados por Schwartz e pediu uma “explicação completa” de como os casos foram incluídos e “que papel, se houver”, Cohen pode ter desempenhado neles antes de serem arquivados.

Cohen escreveu no processo que “não acompanhou as tendências emergentes (e os riscos associados) em tecnologia jurídica e não percebeu que o Google Bart era um serviço de texto generativo que, como o ChatGPT, poderia exibir citações e explicações. .” Para ele, o Google Bart parecia um “mecanismo de busca superalimentado”.

Cohen disse que em nenhum momento levantou qualquer preocupação sobre Schwartz ou suas “citações” legais. “Não me ocorreu então – e me pergunto agora – que o Sr. Schwartz desistiria de sua submissão sem sequer confirmar que havia casos”, escreveu Cohen.

Schwartz não retornou imediatamente um pedido de comentário.

O episódio ocorre no momento em que se espera que Cohen desempenhe um papel fundamental no processo criminal de Manhattan contra Trump. Uma nova geração de ferramentas de linguagem de IA entrando no campo jurídico é um sinal de como a IA está se tornando comum no trabalho jurídico.

De acordo com informações apresentadas por Cohen, E. Tanya Perry, ex-promotora federal, está agora representando Cohen em um esforço para reduzir sua liberdade condicional. Cohen disse que Schwartz cometeu um “erro honesto” e Perry forneceu citações de casos factuais sobre por que a liberdade condicional de Cohen deveria ser encerrada.

É pelo menos a segunda vez neste ano que um juiz federal de Manhattan confronta promotores por usarem citações falsas geradas por IA. Em um caso não relacionado, dois advogados foram multados em US$ 5.000 em junho por usarem o ChatGPT para gerar citações judiciais falsas.