Anthropic 表示用户试图雇用 Claude 用于武器、病原体和监测

更广泛的试用错误的目录

Anthropic表示,犯罪分子、国家相关团体、研究人员、间谍软件运营商和宣传者试图利用其克劳德模型进行从网络攻击到传统武器开发和生物研究的活动。 该公司的新威胁情报报告描述了涉及导弹和无人机软件的努力,监测分子,影响力运动和研究,这可能有合法的科学和危险的军事应用。

该公司表示,它检测并阻止了报告中包含的所有操作。 该机构并没有确定几个生物案例背后的机构或国家,并表示一些研究人员的意图仍然不确定。 这个资格很重要:帮助研究一个病毒,如<unk>瓜尼亚,可以为疫苗做出贡献,但类似的知识和实验室规划可以转向有害的病原体工作。 因此,该报告记录了风险指标,而不是证明生物武器已经完成。

武器、间谍和影响行动

安特罗皮克所描述的案例包括也门、中国和俄罗斯试图开发与火箭、导弹、无人机、爆炸物和其他弹药相关的软件。 该报告还确定了俄罗斯的网络间谍活动、快速的犯罪黑客、与中国有关的叙利亚乌格尔人监测、对国内反对派的监测以及与俄罗斯、马来西亚、伊朗和孟加拉国相关的宣传工作。 这些例子表明,一个模型在多个确定的安全威胁中被应用,而不是创造一个全新的冲突类别。

主要的变化是速度和可用性。 一般用途助理可以帮助用户组织技术信息、编码草案、翻译材料和通过复杂任务进行 iterate。 美国国家安全局此前警告说,反对者已经使用人工智能来增加攻击性网络行动的速度、规模和复杂性,包括加速捕鱼、深度攻击和支持国家黑客。 Anthropic 的案例提供公司级的该更广泛的模式的截图。

报告不解决的

這些發現來自Anthropic的內在可視性,在其自己的服務。 他们不测量通过开放型号、竞争对手平台或完全在监控的商业基础设施外运行的系统进行的滥用。 他们也依赖于公司的检测方法和关于哪些活动是可疑的判断。 这使得独立评估很重要,尤其是当Anthropic保留身份以保护调查或无法确定意图时。

即时的政策问题是,是否有足够的自愿监测和账户禁令,因为模型获得更有能力的编码和科学功能。 政府和开发人员将需要机械的机密事件共享,独立评估和快速协调,当风险跨境。 该报告加强了对人工智能安全作为运营国家安全问题的案例,同时保持了试图滥用、被证明的能力和成功完成的攻击之间的明确区别。