Ủy ban Quốc hội Anh kêu gọi một cơ quan quản lý AI và các biện pháp bảo vệ nhân quyền

Luật sư tìm kiếm giám sát thực thi

Một Ủy ban liên đới của các nghị sĩ Anh và các đồng nghiệp đã kêu gọi một khuôn khổ pháp luật mới để quản lý trí tuệ nhân tạo, bao gồm một cơ quan quản lý độc lập có khả năng giám sát các tổn hại và thực hiện tuân thủ. Ủy ban Mối hợp về Nhân quyền muốn Quốc hội áp đặt các nghĩa vụ mạnh mẽ hơn đối với các hệ thống có rủi ro cao hơn, yêu cầu minh bạch trong suốt vòng đời của AI và cấm sử dụng nó được coi là không tương thích với các quyền được bảo vệ. Sự can thiệp, đặc biệt là vào ngày 14 tháng 9, đưa cuộc tranh luận của Vương quốc Anh vượt xa những lời cảnh báo chung về các mô hình tiên tiến và hướng tới một thiết kế tổ chức cụ thể.

Ủy ban đã xác định những mối quan tâm ngay lập tức cũng như những nguy hiểm giả định. Các ví dụ của nó bao gồm công nhận khuôn mặt công cộng, những sai lầm tình dục rõ ràng và các quyết định tự động tại nơi làm việc có thể kích hoạt kỷ luật mà không có cơ sở hợp lý. Những trường hợp này đặt quyền riêng tư, bình đẳng, biểu hiện và công bằng thủ tục ở trung tâm của luận án. Vì vậy, đề xuất này rộng hơn so với chiến dịch riêng biệt để ngăn chặn hoặc làm chậm sự phát triển của các hệ thống có khả năng đặc biệt: nó sẽ quy định cách AI được xây dựng, đánh giá và triển khai trên các thiết lập công cộng và thương mại thông thường.

Khác biệt giữa kiểm tra và thực thi

Vương quốc Anh đã hoạt động một Viện An ninh AI được hỗ trợ bởi nhà nước, nhưng mô tả tổ chức của chính phủ cho thấy rõ ràng rằng cơ quan này thực hiện đánh giá và nghiên cứu thay vì hoạt động như một nhà quản lý. Công việc của nó được thiết kế để thông báo về chính sách, đánh giá các khả năng liên quan đến an ninh và nghiên cứu rủi ro như lạm dụng mạng, lạm dụng thông tin, lừa đảo và mất kiểm soát của con người. Sự tham gia của các nhà phát triển hàng đầu đã phụ thuộc đáng kể vào sự hợp tác, mà để lại sự phân biệt thực tế giữa việc xác định một nguy hiểm và buộc một công ty để khắc phục nó.

Người quản lý đề xuất của Ủy ban sẽ giải quyết sự phân biệt này bằng cách tham gia kiểm tra kỹ thuật với cơ quan pháp lý. Các nhiệm vụ dựa trên rủi ro có thể cho phép xử lý nhẹ hơn cho các ứng dụng thường xuyên trong khi đặt các yêu cầu đòi hỏi nhiều hơn cho các hệ thống có khả năng gây tổn hại rộng rãi hoặc nghiêm trọng. Các quy tắc tiết lộ bắt buộc cũng sẽ cung cấp cho các cơ quan quản lý và những người bị ảnh hưởng nhiều thông tin hơn về cách các hệ thống hậu quả được đào tạo, kiểm tra và sử dụng. Các giới hạn chính xác, các cơ chế khiếu nại và sự chia rẽ trách nhiệm giữa các cơ quan quản lý hiện có vẫn chưa được giải quyết.

Chuyện gì xảy ra tiếp theo

Chính bản thân các khuyến nghị không thay đổi luật pháp Anh. Các bộ trưởng phải quyết định liệu họ có phải được đưa vào một dự luật của chính phủ, thích ứng với phương pháp tiếp cận hiện tại theo lĩnh vực hoặc từ chối trường hợp cho một cơ quan quản lý duy nhất. Thử nghiệm chính trị trung tâm sẽ là liệu chính phủ có sẵn sàng làm cho việc truy cập mô hình, đánh giá độc lập và minh bạch bắt buộc trong khi các công ty công nghệ cảnh báo rằng các quy tắc phân tán hoặc quá rộng có thể làm chậm đầu tư. Ngoài ra, Quốc hội cũng sẽ phải xác định những người sử dụng những người vi phạm quyền con người một cách chính xác và những người có thể tiến hành các biện pháp bảo vệ.

Sự phát triển là quan trọng bên ngoài Vương quốc Anh vì chính phủ đang thử nghiệm các mô hình cạnh tranh của quản lý AI. Vương quốc Anh đã thúc đẩy đánh giá kỹ thuật và phối hợp quốc tế, trong khi Ủy ban cho rằng khả năng nghiên cứu mà không có thực thi là không đủ. Một cơ quan quản lý pháp luật sẽ đánh dấu một sự thay đổi đáng kể trong sự cân bằng đó. Bằng chứng tiếp theo để theo dõi là một phản ứng chính thức của chính phủ, sau đó là bất kỳ dự thảo pháp luật nào xác định quyền lực, các tổ chức được quy định, hình phạt và xử lý các mô hình có khả năng nhất cho mục đích chung.