Homem usa advogado criado por IA em processo nos EUA e recebe reprimenda de juíza
Em Nova York, um avatar gerado por IA tentou representar um homem em tribunal, revelando os desafios do uso da tecnologia no sistema judiciário
Bastaram apenas alguns segundos para que os juízes de um tribunal de apelações de Nova York, EUA, percebessem que o homem em um vídeo, prestes a apresentar um argumento em um processo, não apenas não tinha diploma de Direito, como também sequer existia de verdade.
O mais recente capítulo da chegada da inteligência artificial ao mundo jurídico ocorreu em 26 de março, sob a cúpula de vitrais do Tribunal de Apelação da Primeira Divisão Judicial da Suprema Corte do Estado de Nova York, onde um painel de juízes se preparava para ouvir Jerome Dewald, autor de uma ação trabalhista.
É + que streaming. É arte, cultura e história.
Golpe do pix para falsos advogados; ENTENDA
Advogado por IA: percepção da cena
"O apelante enviou um vídeo para sua argumentação", disse a juíza Sallie Manzanet-Daniels. "Ok. Vamos assistir agora ao vídeo."
Na tela, apareceu um homem sorridente, de aparência jovem, cabelo estilizado, camisa social e suéter.
"Com a devida vênia, excelências", começou o homem. — Venho hoje aqui humildemente, representando-me em causa própria, perante um painel de cinco ilustres juízes.
"Ok, espere um momento", interrompeu Manzanet-Daniels. "Esse é o advogado do caso?"
"Fui eu quem gerou isso. Essa pessoa não é real", respondeu Dewald. Era, de fato, um avatar gerado por inteligência artificial. A juíza não ficou nada satisfeita:
"Seria bom saber disso quando o senhor fez a solicitação. O senhor não me informou", disse Manzanet-Daniels, antes de ordenar o desligamento do vídeo. "Não gosto de ser enganada", acrescentou, antes de permitir que Dewald continuasse com seus argumentos.
Advogado por IA: explicação
Posteriormente, Dewald enviou uma carta de desculpas ao tribunal, afirmando que não teve intenção de causar qualquer dano. Como não tinha advogado para representá-lo no processo, precisou apresentar seus argumentos legais por conta própria — e achou que o avatar conseguiria fazer a apresentação de forma mais clara, sem os seus costumeiros murmúrios, gaguejos e tropeços nas palavras.
Em entrevista à Associated Press, Dewald contou que solicitou permissão ao tribunal para exibir um vídeo gravado e, em seguida, utilizou um produto criado por uma empresa de tecnologia de São Francisco para gerar o avatar. Inicialmente, tentou criar uma réplica digital de si mesmo, mas não conseguiu concluir a tempo da audiência.
"O tribunal ficou realmente irritado com isso" admitiu Dewald. "Eles me deram uma bela bronca."
Daniel Shin, professor adjunto e diretor assistente de pesquisa do Centro de Tecnologia Jurídica e Judiciária da Faculdade de Direito William & Mary, disse que não ficou surpreso ao saber que Dewald usou uma pessoa falsa para apresentar argumentos em um tribunal de apelações em Nova York.
"Do meu ponto de vista, isso era inevitável", afirmou.
Ele explicou que seria improvável um advogado fazer algo semelhante, por conta da tradição, das regras do tribunal e do risco de descredenciamento. No entanto, indivíduos que se representam sozinhos e pedem permissão para falar ao tribunal geralmente não recebem orientações sobre os riscos de usar um vídeo sintético para apresentar seus argumentos.
Dewald afirmou que tenta acompanhar os avanços tecnológicos e, recentemente, participou de um webinar promovido pela Associação Americana de Advogados (ABA) sobre o uso de IA no universo jurídico.
Advogado por IA: outros casos
Mesmo advogados licenciados já enfrentaram problemas com o uso equivocado da inteligência artificial.
Em junho de 2023, dois advogados e um escritório de advocacia foram multados em US$ 5 mil cada por um juiz federal em Nova York, após utilizarem uma ferramenta de IA para realizar pesquisas jurídicas e acabarem citando casos fictícios inventados pelo chatbot.
O escritório alegou ter cometido um “erro de boa-fé” por não compreender que a IA poderia gerar informações falsas.
Mais tarde, ainda em 2023, outras decisões judiciais fictícias geradas por IA foram citadas em documentos apresentados pelos advogados de Michael Cohen, ex-advogado pessoal do ex-presidente Donald Trump.
Cohen assumiu a responsabilidade, dizendo que não sabia que a ferramenta do Google que utilizava para pesquisas jurídicas também poderia produzir chamadas "alucinações de IA".
Embora esses exemplos tenham sido considerados erros, a Suprema Corte do Arizona começou, no mês passado, a usar intencionalmente dois avatares gerados por inteligência artificial — semelhantes ao que Dewald utilizou — para resumir decisões judiciais ao público. No site do tribunal, os avatares, chamados “Daniel” e “Victoria”, declaram estar ali "para compartilhar as notícias do tribunal".