뉴 멕시코 대법원은 AI 제조 증인에 대한 변호사를 처벌

뉴 멕시코 대법원은 변호사 스티븐 아론스에게 5,000 달러의 벌금을 부과하고 범죄 소송 짧은 경찰 증언과 존재하지 않는 증언을 포함 한 후 그를 경멸했다. 법원은 가짜 자료가 ChatGPT와 함께 준비된 작업에 나타났다고 말했고, 사건이 국가의 변호사 징계 시스템에 전달되도록 명령했다. 근본적인 살인 소송은 여전히 기다리고 있으며 공공 변호사에게 다시 배정되었습니다.

사실적 실패, 단순히 나쁜 인용문이 아닌

생성적인 AI를 포함하는 이전의 징계 사례는 종종 발명 된 전례, 부정확한 인용문 또는 존재하지 않는 사례 번호에 초점을 맞추었습니다. 이 에피소드는 모델 생성 자료가 살인 소송의 명백한 역사의 일부로 제시되었기 때문에 더 심각합니다. 법원의 보고서에 따르면, 간략한 내용에는 고상 증인 발언과 총격자의 옷에 대한 세부 사항이 포함되어 있으며, 재판소가 유죄 판결을 평가해야하는 기록을 잠재적으로 혼란스럽게합니다.

Aarons는 법원에 그가 컴퓨터 생성 재판 트랜스크립트와 다른 자료를 ChatGPT에 공급하고 그것이 의존 할 수있는 요약을 생성 할 것으로 예상했다고 말했다. 그 작업 흐름은 가장 기본적인 검증 단계에서 실패했습니다 : 생성 된 프로세스는 원본 문서의 충실한 계산으로 처리되었으며 라인에 따라 검사되지 않았습니다. 재판관들은 이 행동이 재정적 벌금과 공식적인 경멸 발견을 정당화했다고 결론 내렸다.

왜 판결은 한 가지 사건을 넘어서야 하는가?

처벌은 AI를 행정 지원으로 사용하고 전문 판단을 위임하는 사이의 차이를 보여줍니다. 언어 모델은 말의 확실한 순서를 생성; 그들은 독립적으로 증언, 인용 또는 이벤트가 법원 기록에 나타나는 것을 증명하지 않습니다. 범죄 절차에서 피고인의 자유와 유죄 판결의 무결성이 위협되는 경우, 제조된 사실은 잘못에 의해 제시되더라도 적절한 절차를 훼손할 수 있습니다.

유엔은 개별적으로 자동화 비아스, 투명성 및 책임성이 AI가 사법 시스템에 들어갈 때 중앙 위험으로 식별되었습니다. 인공지능과 정의에 관한 2026 논의는 영향 평가, 감사 메커니즘 및 명확한 인간 감독과 같은 실용적인 보안 조치를 권고했습니다. 뉴 멕시코 사건은 이러한 보호가 법원에 의해 공식적으로 구입된 소프트웨어에 제한되지 않는 이유에 대한 구체적인 예를 제공합니다 : 변호사의 소비자 지능 도구의 개인 사용은 또한 법원 결정에 영향을 미칠 수 있습니다.

이제 징계위원회는 추가 직업 처벌이 허용되는지 여부를 결정할 것입니다. 한편, 기다리고 있는 요청은 제조된 재료에 의존하지 않고, 진정된 기록에서 평가되어야 한다. 다른 곳의 법원 및 법원 당국은 변호사가 생성 지능을 사용하는 경우 뉴 멕시코의 반응이 의무 공개, 검증 임무 또는 훈련 요구 사항의 모델이되는지 여부를 확인할 것입니다.