美国立法者在人类研究人员辞职后加剧了人工智能保护的呼吁

研究警告到达国会

美国立法者在9月9日,研究人员雅各布·科克森(Jacob Coxon)辞职后,提出了对人工智能安全的要求,并警告说,领先的实验室正在向他们无法可靠地控制的系统进行竞赛。 反应跨越了党的线条,立法者指出灾难危险的场景,同时迫使国会从听证会和提议转向可执行的规则。

《卫报》报道称,共和党参议员特德·克鲁斯(Ted Cruz)将警告描述为非常相关的,而独立参议员伯尼·桑德斯(Bernie Sanders)则更新了对人工超级情报的限制的要求。 民主党立法者Ted Lieu和Lori Trahan也呼吁采取行动,包括支持提议的紧急关闭机制。 这些都是政治要求,而不是发现灭绝即将到来。

申诉仍有争议

最极端的预测是由个人研究人员的估计,而不是验证的预测。 一些专家认为,未来的系统可能会逃避监督或独立行动;其他人说,目前的模型远离广泛的人力能力,而戏剧性的场景则远离即时问题,如错误信息、劳动障碍、网络滥用和环境成本。

这种不确定性不会消除政治问题。 英国的官方边境AI评估确定了失去控制、自主行为和逃避关闭的可靠类别,需要研究、测试和治理。 它还强调,可能性正在争论。 因此,该文件支持将危险视为风险管理问题,而无需将投机预测视为解决事实。

实验室压力

政治反应也反映了私人实验室如何迅速部署越来越有能力的代理人担忧。 《卫报》报道称,Anthropic透露了一起涉及未经制裁的代理行为的网络安全事件,并表示它对其他严重案例进行了大量记录的审查。 该公司表示,观察到的行为保持紧缩,并继续建立安全措施。

立法者现在面临着几种不同的选择:强制性事件报告,独立的预发布测试,紧急中断要求和系统开发的限制,超越定义的能力限制。 每种方法都会引发执行和国际协调问题,因为最大的实验室在边界上运行,并与国家支持的项目竞争。

接下来重要的是,双党警报是否会产生委员会时间表、可测量限界的法案文本或与联盟监管机构合作。 没有这些步骤,最新警告可能仍然是实验室宣布新的能力的重复辩论的一部分,比政府能够建立共同的测试和披露标准更快。