Em 26 de março, durante uma audiência sobre disputa trabalhista, DeWaard foi duramente repreendido por não informar o juiz sobre a inteligência artificial durante sua argumentação oral. Embora o tribunal tenha permitido que DeWald enviasse o vídeo, a juíza Sallie Manzanet-Daniels ficou confusa quando um orador desconhecido que claramente não era DeWald apareceu na tela.
“Espere um minuto”, Manzanette-Daniels interrompeu o vídeo assim que o avatar terminou a primeira frase. "Ele é o advogado de defesa neste caso?"
“Eu o criei”, respondeu DeWald, “não é uma pessoa real”.
O avatar – um “cara alto e bonito” chamado Jim – foi fornecido por uma empresa de avatares de inteligência artificial chamada Tavus. Dewald disse que o vídeo foi enviado porque ele tinha dificuldade para falar, mas o tribunal não tinha conhecimento de que seu conteúdo foi gerado artificialmente.
“Teria sido bom se você soubesse disso quando se inscreveu. Você não me contou, senhor, e não gosto de ser enganado”, disse Manzanette-Daniels em resposta à admissão de Dewald. "Você não pensa neste tribunal como o início do seu negócio."
É o mais recente de uma série de confusões que ocorreram quando as pessoas tentaram combinar processos legais com tecnologia de inteligência artificial. Em 2023, dois advogados e um escritório de advocacia foram punidos por apresentarem pesquisas jurídicas falsas fabricadas pelo ChatGPT. A empresa “Roboadvogado” DoNotPay também foi condenada a pagar uma indenização de US$ 193 mil à Comissão Federal de Comércio em fevereiro por promover, sem provas, que seus serviços de representação legal de inteligência artificial eram tão bons quanto advogados reais.