天文学首席呼吁缓慢人工智能能力增长和永久的外部评估

首席执行官要求自己的行业放缓

南极首席执行官达里奥·阿莫迪(Dario Amodei)周六呼吁立即减少边境人工智能能力的速度。 更重要的是,他将上诉与公司提议的行动相结合:Anthropic将为独立评估人员提供继续员工级别的访问,以便他们能够审查安全程序,监测事件,并在培训期间评估模型行为。

该提案有三层。 企业首先以保守和调整工作的时间放弃的速度建设,行业将协调共同标准,政府将追求国际协调。 阿莫迪没有宣布停止安特罗皮克的工作,也没有提供强制性的时间表,所以发展是一个政策承诺和游说干预,而不是一个经过验证的行业间休息。

警告符合商业动机

卫报和Axios独立报道了这份公告,并将其连接到最近的案例,其中实验人工智能代理人行为超越他们的计划范围。 阿莫迪认为,越来越自主的系统可能会超越研究人员监督他们的能力。 这些预测仍然是他的评估,没有确定的结果,文章并没有采取投机时间线作为事实。

实际障碍是竞争压力。 人工智能实验室正在大量投入计算基础设施、模型培训和招聘,如果竞争对手继续加速,单方面限制就很难。 然而,永久的外部访问可能比全球协议更早进行测试,因为它在安特罗皮克的控制之下。 关键问题是谁选择评估员,他们可能披露什么信息,以及他们的发现是否有运营后果。

与美国现行政策相矛盾

该提案也反对美国的政策框架,促进志愿合作。 六月白宫执行命令指示机构开发先进网络能力的分类基准,以及政府早期访问指定的边境模式的志愿机制。 命令明确撤销了强制许可、预清或允许新型版的权力。

下面的内容将显示阿莫迪的干预是否改变公司行为,或者只是监管辩论的条件。 证据将包括正式评估员的任期,公布的访问规则,延迟的培训或发布时间表,以及竞争对手开发人员的共同承诺。 因为这是技术政府的发展而不是军事行动或欺骗,所以不适合警告。