Tòa án Tối cao New Mexico trừng phạt luật sư đối với nhân chứng AI

Tòa án Tối cao New Mexico đã phạt luật sư Stephen Aarons 5.000 đô la và giữ anh ta trong sự hối hận sau khi một cuộc phỏng vấn tội phạm ngắn chứa bằng chứng cảnh sát và bằng chứng không tồn tại. Tòa án cho biết các tài liệu giả xuất hiện trong các công việc được chuẩn bị với ChatGPT và ra lệnh để vụ việc được đề cập đến hệ thống kỷ luật luật của nhà nước. Vụ truy tố giết người cơ bản vẫn đang chờ đợi và đã được chuyển lại cho một người bảo vệ công cộng.

Một sự thất bại thực tế, không chỉ là một引用 xấu

Các trường hợp kỷ luật trước đây liên quan đến AI sinh sản thường tập trung vào các nguyên tắc được phát minh, các bản báo cáo không chính xác hoặc các số trường hợp không tồn tại. Chương trình này nghiêm trọng hơn bởi vì các tài liệu được tạo ra bởi mô hình đã được trình bày như là một phần trong lịch sử chứng minh của một cuộc truy tố giết người. Theo báo cáo của tòa án, bài viết ngắn bao gồm các tuyên bố và chi tiết về quần áo của kẻ bắn súng, có khả năng gây nhầm lẫn về bản ghi trên đó một tòa án phán xét phải đánh giá một kết án.

Aarons nói với tòa án rằng ông đã cung cấp một bản sao xét xử được tạo ra bởi máy tính và các tài liệu khác cho ChatGPT và mong đợi nó sẽ tạo ra một tổng hợp đáng tin cậy. Quá trình làm việc đó thất bại trong giai đoạn xác minh cơ bản nhất: Proza được tạo ra được xử lý như một tài khoản trung thành của tài liệu nguồn mà không được kiểm tra hàng rào. Các thẩm phán kết luận rằng hành vi này đã biện minh cho cả một hình phạt tài chính và một sự tìm kiếm chính thức của sự phản bội.

Tại sao quyết định quan trọng hơn một trường hợp

Hình phạt này minh họa sự khác biệt giữa việc sử dụng AI như một trợ giúp hành chính và ủy quyền phán quyết chuyên nghiệp cho nó. Các mô hình ngôn ngữ tạo ra các chuỗi đáng tin cậy của từ; chúng không chứng minh một cách độc lập rằng một nhân chứng, lời đề cập hoặc sự kiện xuất hiện trong hồ sơ tòa án. Trong các vụ án hình sự, nơi tự do của một người bị cáo và tính toàn vẹn của một sự kết tội đang được đặt cược, các sự kiện được thực hiện có thể làm suy yếu quá trình đúng đắn ngay cả khi chúng được đưa ra một cách sai lầm.

Liên Hợp Quốc đã phân biệt xác định sự tự động hóa, minh bạch và trách nhiệm là rủi ro trung tâm khi AI bước vào hệ thống công lý. Cuộc thảo luận năm 2026 về AI và công lý đề nghị các biện pháp bảo vệ thực tế như đánh giá tác động, cơ chế kiểm toán và giám sát con người rõ ràng. Vụ New Mexico cung cấp một ví dụ cụ thể tại sao các bảo vệ này không thể được giới hạn với phần mềm được mua chính thức bởi các tòa án: việc sử dụng công cụ AI của luật sư riêng cũng có thể ảnh hưởng đến việc ra quyết định của tòa án.

Hội đồng kỷ luật hiện sẽ quyết định liệu các hình phạt nghề nghiệp bổ sung có được đảm bảo hay không. Trong khi đó, yêu cầu đang chờ phải được đánh giá từ một hồ sơ được xác thực, mà không dựa vào vật liệu được chế tạo. Các tòa án và cơ quan tư vấn ở nơi khác sẽ kiểm tra xem liệu phản ứng của New Mexico có trở thành một mô hình cho việc tiết lộ bắt buộc, các nhiệm vụ xác minh hoặc các yêu cầu đào tạo khi các luật sư sử dụng AI sinh sản.