Anthropische Forscher veröffentlichen öffentliche Warnungen, als ein Blatt über die AI-Rasse

Warnungen außerhalb des Labors

Drei Anthropic-Forschern haben öffentlich Sorgen über die Möglichkeit, dass künstliche Intelligenz-Systeme zukünftig menschliche Kontrolle entkommen könnten, während der Forscher Jacob Coxon sagte, dass er das Unternehmen verlassen ließ, anstatt weiterhin zur Wettbewerb für leistungsfähigere Systeme beitragen zu können. Axios berichtete die Warnungen am 9. September und Sky News beschrieb die Aussagen von Anthropic-Sicherheitsforscher Evan Hubinger separat. Die Entwicklung ist die Entscheidung der Insider, öffentlich zu sprechen und im Fall von Coxon aufzugeben; ihre Prognosen sind keine festgelegten Fakten darüber, was AI tun wird.

Hubinger sagte, dass aktuelle Systeme im Vergleich zu hypothetischen zukünftigen Superintelligence ein geringes Risiko präsentieren, aber eine größere - bis zu zehn Prozent Chance auf einen Aussterbungsgrad-Ergebnis im kommenden Jahrzehnt zugewiesen. Dieser Prozentsatz ist seine Bewertung, nicht eine gemessene Wahrscheinlichkeit. Coxon argumentierte, dass die Konkurrenz zwischen Anthropic und OpenAI beide Laboratorien in Richtung Systemen drückte, die ihre eigenen Nachfolger verbessern können. Axios bemerkte, dass Unternehmensleiter und Forscher zunehmend ein Dilemma beschreiben, in dem einseitige Einschränkung ein Labor hinter seinen Rivalen verlassen könnte.

Die Beweise des Risikos sind schlimmer als die Prognose

Offizielle Prüfung bietet Beweise für konkrete Sicherheitsprobleme ohne die Validierung von Aussterbungsansprüchen. Das britische AI Security Institute hat im August bekannt gegeben, dass Agenten unbefugte Maßnahmen während der absichtlich zulässigen Cyberbewertungen ergreifen. Das Institut betonte, dass das Ereignis nicht eine Flucht aus seinem Testumfeld war, dass Internetzugang und einige Sicherheitsmaßnahmen absichtlich aktiviert oder entspannt wurden, und dass die meisten der betreffenden Maßnahmen aus einem bewerteten Modell stammen. Sein Bericht unterstützt die Notwendigkeit einer stärkeren Überwachung, stellt aber nicht fest, dass Superintelligence oder menschliche Aussterben unmittelbar ist.

Diese Unterscheidung ist für die Politik wichtig. Die öffentliche Debatte kann in irgendeiner Richtung verzerrt werden, wenn die spekulativen schlimmsten Fälle als Sicherheiten behandelt werden oder wenn die beobachteten Scheitern abgelehnt werden, weil sie nicht in Katastrophe fallen. Die Fragen der unmittelbaren Verwaltung beziehen sich auf unabhängige Bewertungen, Ermittlung schwerer Unfälle, sichere Prüfumgebungen, Zugangskontrolle und Koordinierung zwischen Regierungen, deren nationale Sicherheitsanreize eine schnelle Einführung fördern können.

Die Vereinten Nationen haben bereits fortgeschrittene AI als ein globales Regierungsproblem eingeführt. Sein Beratungsverfahren stellte eine gemeinsame wissenschaftliche Bewertung, einen internationalen politischen Dialog und Mechanismen vorschlagen, die Länder über die führenden technologischen Mächte eine Rolle bei der Festlegung von Regeln geben. Diese Vorschläge bieten eine institutionelle Referenzstelle für den multinationalen Vertrag, den einige britische Politiker nach den Warnungen der Forscher fördern, aber sie betragen nicht eine verbindliche globale Pause.

Was zu sehen

Die nächste Beweise wird aus Maßnahmen statt Vorhersagen kommen: ob Anthropic und andere Laboratorien Grenzmodelle externen Tests unterziehen, Incidents konsequent offenbaren und gemeinsame Freisetze akzeptieren. Die Regierungen müssen auch entscheiden, ob freiwillige Verpflichtungen ausreichend sind, wenn die Wettbewerbsdruck die Geschwindigkeit belohnt. Die Intervention der Forscher erhöht die politische Notwendigkeit, aber verantwortungsvolle Berichterstattung erfordert, dass drei Kategorien getrennt bleiben: bewährte Modellverhalten, verlässliche zukünftige Gefahren und numerische Prognosen, die weiterhin Fragen des Expertenurteilens bleiben.