Anthropic sagt, dass Nutzer versuchten, Claude für Waffen, Pathogene und Überwachung zu benutzen

Ein breiterer Katalog versuchter Missbrauchs

Anthropic sagt, dass Kriminelle, staatlich verbundene Gruppen, Forscher, Spyware-Betreiber und Propagandisten versuchten, ihre Claude-Modelle für Aktivitäten von Cyberangriffen bis hin zu konventionellen Waffenentwicklung und biologischen Forschungen zu verwenden. Der neue Bedrohungsintelligence-Bericht des Unternehmens beschreibt Bemühungen, die Raketen- und Drone-Software, die Überwachung von Disidenten, Einflusskampagnen und Forschung beinhalten, die sowohl wissenschaftliche als auch gefährliche militärische Anwendungen haben könnten.

Das Unternehmen sagte, dass es alle in der Berichterstattung enthaltenen Operationen erkannte und deaktivierte. Es identifizierte nicht die Institutionen oder Länder hinter mehreren biologischen Fällen und sagte, dass die Absicht von einigen Forschern unsicher bleibt. Diese Qualifikation ist wichtig: Unterstützung mit einer Studie eines Virus wie Chikungunya könnte zu Impfungen beitragen, aber ähnliche Kenntnisse und Laborplanung könnte in Richtung schädlicher pathogener Arbeit umgewandelt werden. Der Bericht dokumentiert daher Risikoindikatoren, anstatt zu beweisen, dass eine biologische Waffe abgeschlossen ist.

Waffen, Spionage und Influence Operations

Die von Anthropic beschriebenen Fälle beinhalten Versuche in Jemen, China und Russland, Software zu entwickeln, die mit Feuerwaffen, Raketen, bewaffneten Dronen, Explosiven und anderen Munition verbunden ist. Der Bericht identifizierte auch die russische Cyber-Spionageaktivität, schnelle kriminelle Hacking, China-verwandte Überwachung der Uyghurs in Syrien, Überwachung von innerstaatlichen Disidenten und Propagandaarbeit im Zusammenhang mit Russland, Malaysia, Iran und Bangladesch. Diese Beispiele zeigen, dass ein Modell über mehrere etablierte Sicherheitsbedrohungen angewendet wird, anstatt eine völlig neue Konfliktskategorie zu schaffen.

Die zentrale Veränderung ist die Geschwindigkeit und Zugänglichkeit. Ein allgemeiner Assistant kann den Benutzern helfen, technische Informationen, Entwurfcode, Übersetzung von Materialien und Iterate durch komplexe Aufgaben zu organisieren. Die US-National Security Agency warnte zuvor, dass Gegner bereits AI verwenden, um die Geschwindigkeit, die Skala und die Sofistikierung offensiver Cyber-Operationen zu erhöhen, einschließlich Spur-Fishing, Deepfakes und Unterstützung für nationale Hacker. Anthropic's Fälle bieten ein Unternehmensniveau-Snapshot dieses breiteren Musters.

Was der Bericht nicht löst

Die Entdeckungen stammen aus der inneren Sichtbarkeit von Anthropic in seinen eigenen Dienst. Sie messen keine Missbrauch durch offene Modelle, rivale Plattformen oder Systeme, die ganz außerhalb der überwachten kommerziellen Infrastruktur betrieben werden. Sie hängen auch von den Entdeckungsmethoden des Unternehmens ab und von den Urteilen, über welche Aktivität verdächtig war. Dies macht eine unabhängige Beurteilung wichtig, insbesondere wenn Anthropic Identitäten aufhält, um Untersuchungen zu schützen oder nicht den Absicht feststellen kann.

Die unmittelbare politische Frage ist, ob freiwillige Überwachung und Kontoverbot ausreichend sind, da Modelle in der Lage sind, mehr Codierung und wissenschaftliche Funktionen zu erhalten. Regierungen und Entwickler benötigen Mechanismen für vertrauliche Ereignisse, unabhängige Bewertung und schnelle Koordinierung bei grenzüberschreitenden Risiken. Der Bericht verstärkt den Fall, dass AI-Sicherheit jetzt als ein operatives nationales Sicherheitsproblem behandelt wird, während ein klares Unterschied zwischen versuchten Missbrauch, bewährten Kapazitäten und einem erfolgreich abgeschlossenen Angriff beibehalten wird.