英国议会委员会呼吁立法制定人工智能监管机构和人权保护措施

立法者寻求强制性监督

英国议员和同事组成的跨党委员会呼吁建立一个关于人工智能的新的法律框架,包括一个独立的监管机构,有权监测和遵守损害。 联合人权委员会希望议会对高风险系统施加更强的义务,要求人工智能生命周期的透明度,并禁止使用它认为不符合保护权利。 特别是在9月14日的干预,将英国的辩论推向超越关于先进模型的一般警告,以及针对特定的机构设计。

该委员会确定了即时担忧以及投机性危险。 其例子包括公众面部认可、性情明确的深度事实以及自动工作场所决策,这些决策可以无需合理的依据引发纪律。 这些案件将隐私、平等、表达和程序公平置于论点的中心。 因此,该提案比单独的停止或缓慢系统的开发活动更广泛:它将规范人工智能在普通的公共和商业设施中如何建造、评估和部署。

测试与执行之间的差距

英国已经运营了一家由国家支持的人工智能安全研究所,但政府自己的机构描述清楚地表明,该机构进行评估和研究,而不是作为监管机构。 其工作旨在了解政策、评估安全相关能力以及研究网络滥用、虚假信息、虚假行为和失去人体控制等风险。 主要开发人员的参与已经大大依赖于合作,这在确定危险和强迫公司解决危险之间留下了实际区别。

该委员会提议的监管机构将通过技术审查与法律当局联系来解决这一区别。 基于风险的义务可能会使日常应用程序更轻松处理,同时对能够广泛或严重损害的系统提出更苛刻的要求。 强制性披露规则也将向监管机构和受影响的人提供更多关于如何训练、测试和使用后果系统的信息。 现有监管机构之间的准确限制、上诉机制和责任分配仍未解决。

接下来的发生了什么

建议本身不会改变英国法律。 部长必须决定是否将其纳入政府法案,调整现有部门对部门的方法,或者否认单一监管机构的案件。 中央政治测试将是政府是否愿意使模型访问、独立评估和透明度强制性,而技术公司则警告分裂或过度广泛的规则可能会减缓投资。 此外,议会还将不得不确定哪些人权侵犯者是正确的,哪些人可以采取保护措施。

发展在英国之外重要,因为政府正在测试人工智能治理的竞争模式。 英国支持技术评估和国际协调,而委员会认为没有执行的研究能力不足。 一个立法监管机构将标志着这一平衡的重大变化。 接下来的证据是政府的正式回应,随之而来的是任何立法草案,规定权力、监管实体、罚款和处理最有能力的一般用途模型。