OddsFrontNew Mexico Supreme Court sanktioniert Rechtsanwalt gegen AI-Fabrik-Zeugen
Das Verachtungspflicht bewegt das generative-AI-Problem des juristischen Berufs über falsche Zitate hinaus, was zeigt, wie unkontrollierte Modellproduktion die tatsächliche Aufzeichnung eines Strafanklagens kontaminieren kann.
Maschinell übersetzt · Englisches Original · Original anzeigen
New Mexico’s Supreme Court has fined attorney Stephen Aarons $5,000 and held him in contempt after a criminal-appeal brief contained police testimony and witnesses that did not exist. The court said the false material appeared in work prepared with ChatGPT and ordered that the matter be referred to the state’s attorney disciplinary system. The underlying murder appeal remains pending and has been reassigned to a public defender.
Ein fehlendes Versagen, nicht nur eine schlechte Zitate
Vorherige Disziplinarfälle, die generative KI beinhalten, haben sich oft auf erfundenen Vorurteile, unzureichende Zitate oder unexistente Fällezahlen konzentriert. Diese Episode ist ernster, weil das Modellgenerierte Material als Teil der offensichtlichen Geschichte einer Mordverfolgung vorgestellt wurde. Die Berichterstattung des Gerichts berichtet, dass die Kurzzeit fiktive Zeugen-Erklärungen und Details über die Kleidung des angeblichen Schussers enthielt, was möglicherweise die Aufzeichnung verwirrt, auf der ein Berufungsgericht eine Verurteilung beurteilen muss.
Aarons erzählte dem Gericht, dass er ChatGPT ein computergeneriertes Verfahrentranscript und andere Materialien lieferte und erwartete, dass es eine abhängige Zusammenfassung produzieren würde. Dieser Workflow fehlte in der grundlegendsten Verifikationsphase: Erzeugte Prose wurde als treues Konto von Quelldokumenten behandelt, ohne line-by-line zu überprüfen. Die Richter schließen, dass das Verhalten sowohl eine finanzielle Strafe als auch eine formelle Verachtung gerechtfertigt hat.
Warum die Entscheidung über einen Fall hinausgeht
Die Sanktion illustriert den Unterschied zwischen der Verwendung von AI als Verwaltungshilfe und der Delegierung professioneller Urteile darauf. Sprachmodelle generieren plausible Sequenzen von Wörtern; sie bestätigen nicht unabhängig, dass ein Zeugnis, Zitat oder Ereignis in einem Gerichtsbuch erscheint. In Strafverfahren, in denen die Freiheit und die Integrität einer Verurteilung des Angeklagten in Streit stehen, können verarbeitete Fakten den angemessenen Prozess untergraben, auch wenn sie durch Fehler eingeführt werden.
Die Vereinten Nationen haben die Automatisierungskräfte, Transparenz und Rechenschaftspflicht als zentrale Risiken identifiziert, wenn KI in die Justiz-Systeme eintritt. Seine 2026 Diskussion über KI und Gerechtigkeit empfohlen praktische Sicherheiten wie Auswirkungsbewertungen, Auditmechanismen und klares menschliches Überwachungs. Der New Mexico-Satz bietet ein konkretes Beispiel dafür, warum diese Schutzmaßnahmen nicht auf Software beschränkt werden können, die formell von Gerichten gekauft wird: Die private Verwendung von Verbraucher-AI-Tools durch Anwälte kann auch die Entscheidungsfindung des Gerichts beeinflussen.
Das Disziplinarrat wird nun bestimmen, ob weitere Berufsstraßen garantiert werden. Die widerstandende Anfrage muss unterdessen aus einer authentischen Aufzeichnung beurteilt werden, ohne auf das hergestellte Material zu verlassen. Gerichte und Barbehörden werden an anderer Stelle überwachen, ob die New Mexico-Reaktion zu einem Modell für obligatorische Offenlegung, Verifizierung oder Schulungsanforderungen wird, wenn Anwälte generative AI verwenden.