US-Gesetzgeber intensivieren Anrufe für KI-Sicherheit nach dem Rücktritt des Anthropic-Forschers

Forschungswarnungen erreichen Kongress

Die US-Gesetzgeber haben am 9. September Ansprüche nach Sicherungen der künstlichen Intelligenz erhoben, nachdem der Forscher Jacob Coxon von Anthropic zurückgekommen ist und warnt, dass führende Laboratorien auf Systeme wagen, die sie nicht zuverlässig kontrollieren konnten. Die Reaktion übertrieben die Partei-Linien, wobei Gesetzgeber auf katastrophale Risikoszenarien hinweisen und den Kongress drücken, von Verhandlungen und Vorschlägen zu exekutiven Regeln zu wechseln.

Der Guardian berichtete, dass der republikanische Senator Ted Cruz die Warnung als sehr relevant beschrieb, während der unabhängige Senator Bernie Sanders seine Forderung nach Grenzen für künstliche Superintelligence erneuert hat. Demokratische Gesetzgeber Ted Lieu und Lori Trahan fordern auch Maßnahmen, einschließlich Unterstützung für einen vorgeschlagenen Notfallschließungsmechanismus. Das waren politische Forderungen, nicht die Erkenntnisse, dass die Aussterben unmittelbar ist.

Ansprüche bleiben bestritten

Die äußerst extremen Prognosen sind Einschätzungen einzelner Forscher, nicht verifizierte Prognose. Einige Experten argumentieren, dass zukünftige Systeme die Überwachung entkommen oder autonom handeln könnten; Andere sagen, dass die gegenwärtigen Modelle weit von der breiten menschlichen Kapazität entfernt bleiben und dass dramatische Szenarien von unmittelbaren Problemen wie Missinformation, Arbeitsstörungen, Cybermissbrauch und Umweltkosten abweichen.

Diese Unsicherheit beseitigt das politische Problem nicht. Die offizielle Grenzbewertung der britischen Intelligenz-Gruppe identifiziert den Verlust von Kontrolle, das autonome Verhalten und die Vermeidung von Schließungen als glaubwürdige Kategorien, die Forschung, Prüfung und Governance erfordern. Sie betont auch, dass die Wahrscheinlichkeiten bestritten werden. Das Dokument unterstützt daher die Behandlung der Gefahr als Risiko-Management-Problem ohne spekulative Prognosen als festgelegte Tatsache.

Druck auf Laboratorien

Die politische Reaktion spiegelt auch die Sorgen nach, wie schnell private Laboratorien zunehmend befähigende Agenten implementieren. Die Guardian berichtete, dass Anthropic ein Cyber-Sicherheits-Inzident enthüllt hat, das unentschuldete Agentenverhalten beinhaltet und dass sie ein großes Korpus von Aufzeichnungen für andere schwerwiegende Fälle überprüft hat. Das Unternehmen behauptet, dass das beobachtete Verhalten eng bleibt und dass es weiterhin Sicherheitsmaßnahmen baut.

Die Gesetzgeber stehen nun vor mehreren unterschiedlichen Entscheidungen: obligatorische Unfallberichte, unabhängige Prüfung vor der Release, Notfallverbrechungsanforderungen und Grenzen für die Entwicklung von Systemen über definierte Kapazitätsgrenzen. Jeder Ansatz erhebt Verfolgungs- und internationalen Koordinationsfragen, da die größten Laboratorien über Grenzen operieren und mit staatlich unterstützten Programmen konkurrieren.

Was weiterhin wichtig ist, ob die bipartistische Alarm eine Ausschusszeitplan, ein Gesetzestext mit messenbaren Grenzen oder eine Zusammenarbeit mit verbundenen Regulierungsbehörden produziert. Ohne diese Schritte können die neuesten Warnungen Teil eines wiederholenden Debats bleiben, in dem Laboratorien neue Kapazitäten schneller verkünden, als Regierungen gemeinsame Test- und Offenlegungsstandards festlegen können.