La Corte Suprema de Nueva México sanciona a abogados a testigos fabricados por AI

La Corte Suprema de Nueva México ha multado al abogado Stephen Aarons por 5.000 dólares y lo ha detenido en desprecio después de que un breve recurso criminal contenga testigos de la policía y testigos que no existieron. El tribunal dijo que el falso material apareció en el trabajo preparado con ChatGPT y ordenó que la cuestión se refiere al sistema disciplinario del abogado del estado. El recurso de asesinato subyacente sigue pendiente y ha sido resignado a un defensor público.

Un fracaso de hecho, no sólo una mala cita

Los casos disciplinarios anteriores que involucran la IA generativa a menudo se han centrado en los precedentes inventados, las citas inexactas o los números de casos no existentes. Este episodio es más grave porque el material generado por el modelo fue presentado como parte de la historia evidenciada de una persecución de asesinato. Según el informe del tribunal, la brevedad incluyó declaraciones de testigos ficticios y detalles sobre la ropa del presunto tiroteo, potencialmente confundido el registro en el que un tribunal de apelación debe evaluar una condena.

Aarons dijo al tribunal que había suministrado un transcripto de juicio generado por ordenador y otros materiales a ChatGPT y esperaba que produjera un resumen dependiente. El flujo de trabajo falleció en la fase de verificación más básica: la prosa generada fue tratada como una cuenta fiel de documentos de fuente sin ser verificada línea por línea. Los juicios concluyeron que la conducta justificó tanto una sanción financiera como un hallazgo formal de desprecio.

¿Por qué la decisión es más allá de un caso?

La sanción ilustra la diferencia entre el uso de la IA como ayuda administrativa y la delegación de juicio profesional a ella. Los modelos lingüísticos generan secuencias plausibles de palabras; no certifica independientemente que un testigo, citación o evento aparece en un registro judicial. En los procedimientos penales, donde la libertad de un acusado y la integridad de una convicción están en juego, los hechos fabricados pueden comprometer el juicio debido incluso si se introducen por error.

Las Naciones Unidas han identificado por separado los bias de la automatización, la transparencia y la responsabilidad como riesgos centrales cuando la inteligencia artificial entra en los sistemas de justicia. Su discusión 2026 sobre la inteligencia artificial y la justicia recomendó medidas de seguridad prácticas como evaluaciones de impacto, mecanismos de auditoría y transparente supervisión humana. El caso de Nueva México proporciona un ejemplo concreto de por qué estas protecciones no pueden limitarse a software formalmente comprado por los tribunales: el uso privado de los abogados de las herramientas de inteligencia artificial del consumidor también puede afectar a la toma de decisiones judiciales.

El Consejo Disciplinario decidirá si se garantizan nuevas penas profesionales. La demanda pendiente debe ser evaluada a partir de un registro autenticado, sin contar con el material fabricado. Los tribunales y las autoridades judiciales en otros lugares verán si la respuesta de Nueva México se convierte en un modelo para la divulgación obligatoria, las tareas de verificación o los requisitos de formación cuando los abogados usan AI generativo.