OddsFrontTribunal Supremo do Novo México sanciona advogado contra testemunhas fabricadas por IA
A descoberta de contemplação move o problema generativo-AI da profissão jurídica além de falsas citações, mostrando como a produção de modelo não verificada pode contaminar o registro de fato de um recurso criminal.
Tradução automática · Original em inglês · Ver original
O Supremo Tribunal do Novo México multou o advogado Stephen Aarons em US $ 5.000 e o manteve em desprezo após um breve recurso criminal contendo testemunhos da polícia e testemunhas que não existiam. O tribunal disse que o falso material apareceu em trabalhos preparados com ChatGPT e ordenou que a questão fosse referida ao sistema disciplinar do advogado do estado. O apelo de assassinato subjacente continua pendente e foi reenviado a um defensor público.
Uma falha de fato, não apenas uma má citação
Casos disciplinares anteriores envolvendo a IA generativa têm frequentemente focado em precedentes inventados, citações inexatas ou números de caso inexistentes. Este episódio é mais sério porque o material gerado por modelo foi apresentado como parte da história evidenciada de uma perseguição de assassinato. De acordo com o relatório do tribunal, a breve incluiu declarações de testemunhas ficcionais e detalhes sobre a roupa do presumido tiroteio, potencialmente confundindo o registro sobre o qual um tribunal de recurso deve avaliar uma convicção.
Aarons disse ao tribunal que ele tinha fornecido um transcrição de julgamento gerado por computador e outros materiais para ChatGPT e espera que ele produza um resumo dependente. Esse fluxo de trabalho falhou na fase de verificação mais básica: a proza gerada foi tratada como uma conta fiel de documentos originais sem ser verificada linha por linha. Os juízes concluíram que a conduta justificou tanto uma penalidade financeira como uma descoberta formal de desprezo.
Por que o julgamento importa além de um caso
A sanção ilustra a diferença entre usar a IA como ajuda administrativa e delegar julgamento profissional para ela. Os modelos de língua geram sequências plausíveis de palavras; eles não certificam independentemente que uma testemunha, citação ou evento aparece em um registo judicial. Em processos criminais, onde a liberdade de um acusado e a integridade de uma convicção estão em jogo, os fatos fabricados podem comprometer o processo devidamente, mesmo se forem introduzidos por erro.
As Nações Unidas identificaram separadamente os bias de automação, a transparência e a responsabilidade como riscos centrais quando a IA entra em sistemas de justiça. A sua discussão de 2026 sobre AI e justiça recomendou garantias práticas como avaliações de impacto, mecanismos de auditoria e supervisão humana clara. O caso de Nova México fornece um exemplo concreto de por que essas proteções não podem ser limitadas a software formalmente comprado pelos tribunais: o uso privado dos advogados de ferramentas de inteligência artificial do consumidor também pode afetar a tomada de decisão judicial.
O Conselho Disciplinar decidirá agora se novas penalidades profissionais são garantidas. O apelo pendente deve ser avaliado a partir de um registro autenticado, sem contar com o material fabricado. Os tribunais e as autoridades judiciais em outros lugares estarão a ver se a resposta do Novo México se torna um modelo para a divulgação obrigatória, obrigações de verificação ou requisitos de treinamento quando os advogados usam AI generativo.