Ủy ban Anh đề xuất 44 bảo vệ cho AI được sử dụng trong chăm sóc sức khỏe

Quy định được thiết kế cho các hệ thống thích ứng

Một Ủy ban Anh đã công bố 44 khuyến nghị về điều chỉnh trí tuệ nhân tạo được sử dụng bởi Dịch vụ Y tế Quốc gia và các nhà cung cấp dịch vụ y tế khác. BBC News đã báo cáo các khuyến nghị vào ngày 10 tháng 9 sau khi Cơ quan quản lý Dược phẩm và Sản phẩm Y tế công bố bản kế hoạch cuối cùng của Ủy ban. Lý do chính là các quy tắc được thiết kế cho các thiết bị tĩnh không quản lý một cách thích hợp các phần mềm có thể thay đổi khi nó gặp phải dữ liệu mới.

Các đề xuất bao gồm giám sát liên tục sau khi một sản phẩm AI được sử dụng, khả năng rút lại sự chấp thuận khi hiệu suất suy yếu, các hình phạt rõ ràng hơn cho các nhà phát triển vi phạm các yêu cầu an toàn và các con đường được giám sát để kiểm tra các hệ thống mới. Bệnh nhân cũng có quyền biết khi nào AI được tham gia vào chăm sóc của họ và để có được thông tin dễ hiểu về sản phẩm. Những biện pháp này nhằm mục đích duy trì trách nhiệm lâm sàng trong khi cho phép các công cụ hữu ích để tiếp cận bệnh viện và phẫu thuật.

Hỗ trợ công cộng có điều kiện

Ủy ban đã thu thập bằng chứng từ hơn 12.000 bệnh nhân, các bác sĩ y tế, các nhà lãnh đạo y tế, nhà phát triển và các thành viên công chúng trong một năm, theo thông báo của chính phủ. Nghiên cứu bổ sung có ý định cho thấy tính chính xác là ưu tiên hàng đầu của công chúng, trong khi giám sát con người, quy định tương đối và bảo vệ chống lại kết quả bất bình đẳng là điều kiện tái diễn cho sự chấp nhận. Do đó, các khuyến nghị coi sự tin tưởng là một yêu cầu an toàn hoạt động chứ không phải là một bài tập truyền thông.

Báo cáo của BBC nhấn mạnh những thách thức thực tế thông qua các công cụ ghi chú AI đã được sử dụng trong thực hành nói chung. Các hệ thống như vậy có thể làm giảm công việc hành chính, nhưng chúng cũng có thể tạo ra các hồ sơ không chính xác hoặc làm cho bệnh nhân ít sẵn sàng tiết lộ thông tin nhạy cảm. Cách tiếp cận của Ủy ban cho phép các bác sĩ lâm sàng chịu trách nhiệm xem xét kết quả và đề xuất thông tin rõ ràng hơn và kỳ vọng bỏ phiếu khi thích hợp. Nó không khuyến khích thay thế phán quyết chuyên nghiệp bằng các quyết định tự động.

Từ báo cáo tư vấn đến các quy tắc có thể thực hiện

MHRA quy định các loại thuốc và thiết bị y tế, nhưng chính ủy ban là độc lập và không hợp pháp. Vì vậy, báo cáo của nó là một kế hoạch, không phải luật pháp hiện có. Chính phủ và các cơ quan quản lý phải quyết định những đề xuất nào đòi hỏi luật cơ bản, các quy định sửa đổi về thiết bị y tế hoặc các thay đổi về việc mua sắm và quản lý lâm sàng. Sự phân biệt đó là cần thiết: xuất bản thiết lập một hướng chính sách, trong khi nghĩa vụ pháp lý sẽ phụ thuộc vào các quyết định sau đó.

Các thử nghiệm tiếp theo sẽ là liệu các bộ trưởng có chấp nhận gói đầy đủ, làm thế nào giám sát liên tục sẽ hoạt động trên các mô hình đang thay đổi, và ai chịu trách nhiệm khi hiệu suất dập tắt sau khi phê duyệt. Các nhà quản lý cũng sẽ cần phối hợp quốc tế vì nhiều hệ thống chăm sóc sức khỏe sử dụng các nhà phát triển và mô hình tương tự. Tuy nhiên, sự phát triển ngay lập tức là cụ thể: một đánh giá chính thức kéo dài một năm đã cung cấp một khung quy định chi tiết cũng như AI chuyển từ hỗ trợ hành chính sang sử dụng lâm sàng rộng hơn.