英国委员会提出44项为医疗保健中使用的人工智能保护措施

适用于适应系统的规则

一项英国委员会发布了44项关于国家卫生服务和其他医疗保健提供商使用的人工智能监管的建议。 BBC News报道了9月10日的建议,因为医药和医疗保健产品监管机构发布了委员会的最终草案。 核心论点是,为静态设备设计的规则不适当控制可能改变的软件,因为它会遇到新的数据。

建议包括人工智能产品进入使用后持续监测,在性能恶化时撤回批准的能力,对违反安全要求的开发人员更清晰的罚款,以及对新系统进行测试的监督路径。 患者还有权知道什么时候人工智能参与他们的护理,并获得有关产品的可理解信息。 这些措施旨在保持临床责任,同时提供有用的工具,以便到达医院和手术。

公共援助有条件

The commission gathered evidence from more than 12,000 patients, clinicians, healthcare leaders, developers and members of the public over a year, according to the government release. Additional deliberative research found that accuracy was the public's leading priority, while human oversight, proportional regulation and protection against unequal outcomes were recurring conditions for acceptance. The recommendations therefore treat trust as an operational safety requirement rather than a communications exercise.

BBC 报道强调了通过 AI 笔记工具已经在一般实践中使用的实用挑战。 这些系统可以减少行政工作,但它们也可能产生不准确的记录,或者使患者不愿意披露敏感信息。 该委员会的态度让负责审查结果的临床医生,并在适当情况下提供更清晰的信息和退出期望。 它不建议用自动决策替换专业判断。

从咨询报告到可执行的规则

MHRA 监管药品和医疗设备,但委员会本身是独立的,非立法的。 因此,该报告是一个草案,而不是现行立法。 政府和监管机构必须决定哪些建议需要初级立法、修订医疗设备规则或采购和临床管理的变化。 这种区别是必不可少的:出版会设定政策方向,而法律义务则依赖于随后的决定。

接下来的测试将是部长是否接受完整的包,如何持续的监测将通过变化的模型工作,谁承担责任,当性能在批准后流动。 监管机构也将需要在国际上协调,因为许多医疗保健系统使用相同的开发人员和模型。 然而,即时发展是具体的:一年的官方审查提供了详细的监管框架,而人工智能从行政支持转向更广泛的临床使用。