Các nhà lập pháp Hoa Kỳ tăng cường các cuộc gọi bảo vệ AI sau khi các nhà nghiên cứu Anthropic từ chức

Nghiên cứu cảnh báo đến Quốc hội

Các nhà lập pháp Hoa Kỳ đã gia tăng yêu cầu bảo vệ trí tuệ nhân tạo vào ngày 9/9, sau khi nhà nghiên cứu Jacob Coxon từ chức từ Anthropic và cảnh báo rằng các phòng thí nghiệm hàng đầu đang đua đến các hệ thống mà họ không thể kiểm soát đáng tin cậy. Phản ứng này đã vượt qua các đường dây của đảng, với các nhà lập pháp chỉ ra các kịch bản nguy hiểm khủng khiếp trong khi đẩy Quốc hội chuyển từ các cuộc họp và đề xuất sang các quy tắc có thể thực thi.

The Guardian báo cáo rằng Thượng nghị sĩ Cộng hòa Ted Cruz đã mô tả cảnh báo này là rất liên quan, trong khi Thượng nghị sỹ độc lập Bernie Sanders lại yêu cầu hạn chế về trí tuệ nhân tạo. Các nhà lập pháp Dân chủ Ted Lieu và Lori Trahan cũng kêu gọi hành động, bao gồm hỗ trợ cho một cơ chế đóng cửa khẩn cấp được đề xuất. Đó là những yêu cầu chính trị, không phải là những phát hiện rằng sự tuyệt chủng là sắp tới.

Các cáo buộc vẫn còn tranh cãi

Các dự báo cực đoan nhất là ước tính của các nhà nghiên cứu cá nhân, không xác minh dự báo. Một số chuyên gia cho rằng các hệ thống trong tương lai có thể tránh được giám sát hoặc hành động độc lập; những người khác nói rằng các mô hình hiện tại vẫn còn xa khả năng của con người rộng rãi và các kịch bản đáng kể làm xa các vấn đề ngay lập tức như thông tin sai, rối loạn lao động, lạm dụng mạng và chi phí môi trường.

Sự không chắc chắn đó không loại bỏ vấn đề chính trị. Đánh giá chính thức biên giới AI của Anh xác định mất kiểm soát, hành vi độc lập và tránh đóng cửa là các loại đáng tin cậy đòi hỏi nghiên cứu, kiểm tra và quản lý. Nó cũng nhấn mạnh rằng khả năng đang được tranh cãi. Do đó, tài liệu này hỗ trợ việc đối xử với nguy hiểm như là một vấn đề quản lý rủi ro mà không trình bày dự báo giả định như một sự kiện được giải quyết.

áp lực trong phòng thí nghiệm

Phản ứng chính trị cũng phản ánh mối lo ngại về tốc độ nhanh chóng của các phòng thí nghiệm tư nhân triển khai các đại lý có khả năng ngày càng tăng. The Guardian báo cáo rằng Anthropic tiết lộ một vụ tai nạn an ninh mạng liên quan đến hành vi của các nhân viên không bị phạt và nói rằng nó đã xem xét một cơ quan lớn các hồ sơ cho các trường hợp nghiêm trọng khác. Công ty lưu ý rằng hành vi được quan sát vẫn còn mỏng manh và nó tiếp tục xây dựng các biện pháp bảo vệ.

Các nhà lập pháp hiện đang phải đối mặt với một số lựa chọn riêng biệt: báo cáo tình huống bắt buộc, kiểm tra trước phát hành độc lập, yêu cầu ngừng khẩn cấp và giới hạn về việc phát triển hệ thống trên giới hạn khả năng được xác định. Mỗi cách tiếp cận đặt ra các vấn đề về thực thi và phối hợp quốc tế vì các phòng thí nghiệm lớn nhất hoạt động trên các biên giới và cạnh tranh với các chương trình được hỗ trợ bởi nhà nước.

Điều tiếp theo quan trọng là liệu báo động song phương có tạo ra một lịch trình của Ủy ban, văn bản dự luật với giới hạn có thể đo lường hay hợp tác với các cơ quan quản lý liên minh. Nếu không có những bước này, các cảnh báo mới nhất có thể vẫn là một phần của một cuộc tranh luận lặp lại trong đó các phòng thí nghiệm công bố các khả năng mới nhanh hơn so với chính phủ có thể thiết lập các tiêu chuẩn kiểm tra và tiết lộ chung.