新墨西哥最高法院对人工智能制造的证人制裁律师

New Mexico’s Supreme Court has fined attorney Stephen Aarons $5,000 and held him in contempt after a criminal-appeal brief contained police testimony and witnesses that did not exist. The court said the false material appeared in work prepared with ChatGPT and ordered that the matter be referred to the state’s attorney disciplinary system. The underlying murder appeal remains pending and has been reassigned to a public defender.

事实上的失败,不只是一个坏引用

以前涉及生成人工智能的纪律案例往往集中在发明的先例、不准确的引用或不存在的案例数字上。 这个事件更为严重,因为模型产生的材料作为谋杀诉讼的显而易见历史的一部分被介绍。 根据法院的报告,这段短信包含了虚构的证人声明和关于据称射手的衣服的细节,潜在地混淆了上诉法院必须评估判决的记录。

阿隆斯告诉法院,他已经向ChatGPT提供了一份由计算机创建的审判翻译和其他材料,并预计它会产生一个可靠的总结。 这个工作流在最基本的验证阶段失败:产生的预测被视为源文件的忠实账户,而无需经线检查。 法官们得出结论,这项行为证明了财务处罚和正式的侮辱。

為什麼判決超越一個案例

该处罚描述了使用人工智能作为行政援助和委托专业判断之间的区别。 语言模型产生可靠的单词序列;它们不独立证明一个见证、引用或事件出现在审判记录中。 在刑事诉讼中,被告的自由和判决的完整性处于争议之中,制造的事实可能会损害适当的审判,即使错误地引入。

联合国分别确定了自动化偏见、透明度和责任度,当人工智能进入司法系统时,它们是核心风险。 其2026年关于人工智能和正义的讨论建议实用保障,如影响评估,审计机制和清晰的人类监督。 新墨西哥案件提供了一个具体的例子,为什么这些保护不能仅限于法庭正式购买的软件:律师的私人使用消费者人工智能工具也可能影响司法决策。

纪律委员会现在将决定是否有额外的职业处罚。 目前的请求必须从认证记录中进行评估,而不依赖于制造材料。 其他地方的法院和法官当局将检查新墨西哥的反应是否成为强制披露、验证任务或培训要求的模型,当律师使用生成人工智能时。