英国绿色公司提出全球人工智能监管和禁止自主致命武器

五部分政治挑战

英国绿党提出了一项五点计划,以减少先进人工智能的力量和安全风险。 9月10日,Sky News报道说,该计划包括国际合作,建立一个全球人工智能监督机构,并对致命自主武器进行法律禁令。 该提案标志着政治干预,而不是英国法律的变化,但它将军事自治和企业权力放在同一监管辩论中。

该党的案例是,边境系统的发展速度比国家机构能够监督的速度快。 该计划旨在加强对大型技术公司的公共控制,以及对能够造成严重损害的系统的国际规则。 全球监管机构需要与其他政府进行谈判,而武器禁令则需要确定哪些系统具有不可接受的自治权,以及人类控制的程度。

The weapons component exposes a direct policy fault line. In June, the UK government announced more than £5 billion for drones and autonomous weapons as part of its Defence Investment Plan. The programme envisages uncrewed naval systems, autonomous aircraft working alongside crewed fighters and expanded battlefield-drone capabilities. The government describes those investments as a way to improve deterrence and military effectiveness.

人类控制的未解决问题

联合国已经确定了能够在没有人控制的情况下攻击平民的自主武器,是对平民的保护构成威胁。 秘书长安东尼奥·古特雷斯(António Guterres)多次说,机器不应该在没有有意义的人类权威的情况下做出生命或死亡的决定。 这个官方立场支持绿党提议的国际重要性,尽管它不支持党的全国内平台。

英国现有政策说,该国没有完全自主的武器系统,并且没有打算开发选择和攻击目标的武器,而没有符合背景的人类参与。 与此同时,政府认为一些防御系统可能需要比直接实时监督许可更快地行动。 因此,争议不仅仅是人类是否重要,而且是人类控制应该如何定义、审查和执行,随着运营速度的增加。

下一个阶段是政治而不是技术。 绿党需要议会支持国家限制和外交合作伙伴建立全球机构或强制性武器协议。 政府将面临压力,以解释其不断扩展的自治防御计划如何符合其现有道德承诺。 直到立法、条约或执行决议遵循,五点包仍然是一个提议,并且不被视为军事警报。