Vương quốc Anh Green đề xuất quy định AI toàn cầu và cấm vũ khí tử vong độc lập

Một thách thức chính trị năm phần

Đảng xanh của Anh đã đề xuất một chương trình năm điểm để giảm nguy cơ quyền lực và an ninh của trí tuệ nhân tạo tiên tiến. Sky News hôm 10/9, thông báo rằng gói bao gồm hợp tác quốc tế để thành lập cơ quan giám sát AI toàn cầu và cấm pháp lý vũ khí độc lập chết người. Dự án này đánh dấu sự can thiệp chính trị chứ không phải là một sự thay đổi trong luật pháp Anh, nhưng nó đặt sự độc lập quân sự và quyền lực doanh nghiệp trong cùng một cuộc tranh luận quy định.

Vấn đề của đảng là hệ thống biên giới đang phát triển nhanh hơn các tổ chức quốc gia có thể giám sát chúng. Kế hoạch của nó tìm kiếm sự kiểm soát công cộng mạnh mẽ hơn đối với các công ty công nghệ lớn cùng với các quy tắc quốc tế về các hệ thống có khả năng gây hại nghiêm trọng. Một cơ quan quản lý toàn cầu sẽ yêu cầu đàm phán với các chính phủ khác, trong khi một cấm vũ khí sẽ phải xác định những hệ thống nào thực hiện sự độc lập không thể chấp nhận được và mức độ kiểm soát của con người phải được duy trì.

Phần vũ khí tiết lộ một dòng lỗi chính sách trực tiếp. Vào tháng 6, chính phủ Anh đã công bố hơn £ 5 tỷ cho máy bay không người lái và vũ khí tự trị như một phần của Kế hoạch Đầu tư Quốc phòng. Chương trình này dự kiến các hệ thống hải quân không được trang bị, máy bay tự trị hoạt động cùng với các chiến binh trang bị và khả năng mở rộng của máy bay không quân chiến trường. Chính phủ mô tả các khoản đầu tư này như một cách để cải thiện sự trì hoãn và hiệu quả quân sự.

Vấn đề không được giải quyết về kiểm soát con người

Liên Hợp Quốc đã xác định vũ khí độc lập có khả năng tấn công người dân mà không có sự kiểm soát của con người là mối đe dọa đối với sự bảo vệ của người dân. Tổng thư ký António Guterres đã nhiều lần tranh luận rằng máy móc không nên đưa ra quyết định về sự sống hay cái chết mà không có quyền lực của con người có ý nghĩa. Vấn đề chính thức này ủng hộ tầm quan trọng quốc tế của đề xuất của Green, mặc dù nó không ủng hộ toàn bộ nền tảng nội bộ của đảng.

Chính sách hiện tại của Anh nói rằng nước này không sở hữu các hệ thống vũ khí độc lập hoàn toàn và không có ý định phát triển vũ khí mà chọn và tấn công các mục tiêu mà không có sự tham gia của con người phù hợp với bối cảnh. Đồng thời, chính phủ tuyên bố rằng một số hệ thống phòng thủ có thể cần hành động nhanh hơn so với các giấy phép giám sát trực tiếp trong thời gian thực. Do đó, sự bất đồng không đơn giản là liệu con người có quan trọng hay không, mà là cách kiểm soát con người nên được xác định, kiểm toán và thực hiện như tốc độ hoạt động tăng lên.

Bước tiếp theo là chính trị chứ không phải công nghệ. Người xanh sẽ cần sự hỗ trợ của Quốc hội đối với các hạn chế quốc gia và các đối tác ngoại giao đối với một tổ chức toàn cầu hoặc thỏa thuận vũ khí bắt buộc. Chính phủ sẽ phải đối mặt với áp lực để giải thích làm thế nào chương trình tự vệ mở rộng của nó phù hợp với cam kết đạo đức hiện có của nó. Cho đến khi luật pháp, hiệp ước hoặc quyết định điều hành được thực hiện, gói năm điểm vẫn là một đề xuất và không được coi là một cảnh báo quân sự.