Верховный суд Нью-Мексико применил санкции к адвокату из-за выдуманных ИИ свидетелей

New Mexico’s Supreme Court has fined attorney Stephen Aarons $5,000 and held him in contempt after a criminal-appeal brief contained police testimony and witnesses that did not exist. The court said the false material appeared in work prepared with ChatGPT and ordered that the matter be referred to the state’s attorney disciplinary system. The underlying murder appeal remains pending and has been reassigned to a public defender.

Фактическая неудача, а не просто плохая цитата

Предыдущие дисциплинарные случаи, связанные с генерирующей ИИ, часто сосредоточены на изобретенных прецедентах, неточных цитатах или несуществующих случаях. Этот эпизод более серьезный, потому что модель-генерированный материал был представлен в рамках очевидной истории убийства. Согласно докладу суда, в короткое запись входили высказывания и подробности о одежде предполагаемого стрельца, потенциально запутав записи, на которых апелляционный суд должен оценить осуждение.

Аронс сказал суду, что он предоставил компьютерно генерированный судебный перевод и другие материалы для ChatGPT и ожидал, что он произведет надежный резюме. Этот рабочий поток провалился на самом базовом этапе проверки: генерируемую прозу рассматривали как верный счёт источников документов без проверки линии по линии. Судьи пришли к выводу, что поведение обосновало как финансовое наказание, так и формальное искажение оскорбления.

Почему суд имеет значение за пределами одного случая

Санкция иллюстрирует разницу между использованием ИИ в качестве административной помощи и делегированием профессионального решения. Модели языков генерируют надежные последовательности слов; они не самостоятельно подтверждают, что свидетельство, цитаты или событие появляются в судебном записке. В уголовных делах, где свобода обвиняемого и целостность осуждения находятся на стадии спора, произведенные факты могут подрывать надлежащий процесс, даже если они введены ошибочно.

Организация Объединенных Наций отдельно идентифицировала автоматизацию, прозрачность и ответственность как центральные риски, когда ИИ попадает в системы правосудия. В 2026 году дискуссия о искусственном искусстве и правосудии рекомендовала практические гарантии, такие как оценки воздействия, аудиторские механизмы и четкий человеческий надзор. Дело в Нью-Мексико дает конкретный пример того, почему эти защиты не могут быть ограничены программным обеспечением, официально приобретенным судами: частное использование адвокатов инструментов потребительской интеллектуальной интеллекта также может повлиять на судебное решение.

Дисциплинарный совет теперь определит, гарантируются ли дополнительные профессиональные санкции. Вместе с тем предстоящий иск должен быть оценен с аутентифицированной записи, не полагаясь на изготовленный материал. Суды и судебные органы в других местах будут следить за тем, становится ли ответ Нью-Мексико образцом обязательного раскрытия, обязанностей по проверке или требований к обучению, когда юристы используют генерирующее искусство искусства.