英国首席秘书说,政府必须采取先进的AI安全警告

来自政府的强烈信息

英国首席秘书路易斯·海格(Louise Haigh)表示,英国政府必须认真对待人工智能开发人员的警告,同时继续追求技术的好处。 在《贸易联盟大会》的评论中,她介绍了人工智能作为强大的公共服务、业务生产力和科学研究的潜在驱动力,同时也作为公共安全和国家安全风险的来源。 干预标志着重点的显著变化,因为几个行业数字加剧了政府限制最强大的系统的要求。

哈格没有宣布法案、许可制度或道德制度。 她具体的立场是,部长们应该保持与国际合作伙伴合作的准备,并在发展能力时调整政策。 这个区别很重要。 政府承认,现有规则可能仍然不够,但它没有通过大众广泛的竞选活动者支持的建议,包括对人工超级情报的禁令或有能力阻止边境系统的强制性第三方机制。

现有政策将风险视为运营性

9月8日发布的政府AI风险管理工具库提供了实用的背景。 它要求公共部门团队在人工智能服务的设计、采购和运营过程中确定、证明和处理风险。 来自国家卫生保健委员会的单独建议呼吁持续监测、公众访问安全信息和人体监督。 这些文件表明,英国的政策已经超越了特定部门的自愿道德原则,尽管一个超越边境模式的法案仍然没有解决。

现在讨论了适当的监管界限。 开发最有能力的系统的公司声称,严格针对的规则可以减少灾难风险,而不负担普通初创企业。 议员和权利倡导者也担心即时的伤害,如面部识别,制造性图像和自动工作场所决策。 仅专注于假设未来的系统的政策可能会错过这些问题;涵盖每个人工智能应用的框架可能会造成不均衡的遵守成本和分散的专家监督最高风险模型。

从警告到可行的政策

下一个有意义的发展将是一个政府的反应,确定哪些模型,公司和使用面向强制性义务。 部长们将不得不决定是否需要新的监管机构,事件报告应该如何工作,以及英国是否应该与欧洲和其他合作伙伴协调边界。 海格的演讲很重要,因为它把安全问题放在政府的增长和公共服务议程中,而不是将其视为外部反对。 其重要性最终将取决于该语言是否产生可行的,技术上可靠的规则,而模型能力在超越今天的指导下所提出的假设之前。