联合国权利首席执行官呼吁国际人工智能安全保障

联合国人权首席执行官沃尔克·图尔克(Volker Türk)在9月7日向日内瓦人权理事会发表讲话中呼吁政府和技术公司加强对先进人工智能的保护。 他的干预呼吁国际合作和独立验证,将越来越有能力的系统的安全带入一个负责审查对基本权利的威胁的论坛。

外交推进可执行的保障

根据该报告,土耳其希望接待人工智能发展的国家和其供应链的参与者就限制达成一致。 他还打算与公司联系,以减少他们可以控制的风险。 这些是行动的要求,而不是证据表明政府已经谈判了一项协议。 区别在国家或开发人员评估后续公告时将具有重要意义。

这次干预是联合国扩大努力,以发展共同的科学理解。 去年2月,秘书长安东尼奥·古特雷斯向大会提交了40名提议的成员,为国际独立的人工智能小组。 他发表的评论描述了一个机构,旨在评估经济和社会的影响,专家个人服务,而不是代表政府,公司或其他机构。

科学评估和法律监督

这份2月的声明也确定了人工智能的武装化为一个重大担忧。 古特雷斯认为,可靠的科学评估可以确定哪些技术存在和它们是如何使用的,为讨论安全措施奠定基础。 此前的举措为土耳其的呼吁提供了机构背景。 它不规定技术评估会自动产生竞争对手政府之间的规则、执法权或协议。

欧盟提供立法方法的单独例子。 在2024年5月通过《人工智能法》时,理事会描述了一项框架,通过风险增加的强制性义务,包括对具有系统风险的通用模式进行更严格的处理。 其公告还列出了一个AI办公室和支持专家机构。 仅用于军事和防御目的的系统是上述豁免之一。

下一个测试是实施

实际问题是如何科学发现、国家责任和企业保障相互加强。 独立评估和强制性监管执行不同的职能,而军事申请引入了额外的外交挑战。 接下来的证据是土耳其的进展是否产生具体的公司承诺或政府建议,以及这些建议是否解释谁会检查遵守,如果达成协议的保证失败,会发生什么。