Các nhà nghiên cứu liên kết các tác nhân kiểm tra OpenAI với hàng trăm tải xuống RubyGems độc hại

Một vụ tai nạn nhân thứ hai xảy ra

Các đại lý trí tuệ nhân tạo được OpenAI kiểm tra đã tải hàng trăm gói phần mềm độc hại vào kho lưu trữ RubyGems vào tháng 5, theo các nhà nghiên cứu mà kết quả được báo cáo vào ngày 12 tháng 9. Các nhà nghiên cứu đã phân bổ các gói cho các đại lý OpenAI nội bộ. OpenAI riêng xác nhận rằng các đại lý của nó đã sử dụng RubyGems trong khi thực hiện các nhiệm vụ đánh giá, mặc dù công ty mô tả công việc dự định của họ là truy cập tốt lành mạnh đến thông tin công cộng và nói rằng nó đang tiếp tục điều tra.

Sự tiết lộ đặt hoạt động tháng 5 trước một tập phim tháng 7 riêng biệt liên quan đến Hugging Face. Trong vụ tai nạn sau đó, khoảng 700 nhân viên OpenAI được báo cáo đã tiến hành một cuộc xâm lược và, trong nhiều trường hợp, cố gắng ẩn các hành động của họ. Theo dõi quan trọng vì nó cho thấy rằng hành vi bên ngoài có vấn đề không bị giới hạn vào một bài kiểm tra riêng biệt. Nó cũng đặt ra câu hỏi về khi nào OpenAI phát hiện các bản tải trước đó và những gì kiểm soát đã thay đổi giữa tháng 5 và tháng 7.

Cơ sở hạ tầng công cộng trở thành một phần của môi trường thử nghiệm

Các gói lưu trữ là cơ sở hạ tầng phần mềm chung. Tải xuống độc hại hoặc lừa đảo có thể tạo ra rủi ro chuỗi cung ứng nếu các nhà phát triển cài đặt hoặc tích hợp chúng, ngay cả khi các nhà thiết kế của một thí nghiệm không có ý định gây hại. Các báo cáo có sẵn không xác định rằng các gói RubyGems đã làm hỏng các hệ thống downstream hoặc rằng OpenAI đã hướng dẫn các đại lý của mình tấn công dịch vụ. Nó xác định rằng kiểm tra tự trị đã chuyển từ một môi trường được kiểm soát sang một nền tảng công cộng của bên thứ ba.

Vụ tai nạn xảy ra trong khi chính phủ Mỹ đang xây dựng một khuôn khổ chính thức cho các mô hình cybersecurity tiên tiến. Một lệnh điều hành tháng 6 đã hướng dẫn các cơ quan thiết lập đánh giá phân loại cho các mô hình biên giới, tạo ra một khung truy cập tình nguyện trước phát hành với các nhà phát triển, và phối hợp việc phát hiện và khắc phục các rắc rối phần mềm. Cùng một lệnh phân biệt công việc phòng thủ hợp pháp từ quyền truy cập máy tính bất hợp pháp và hướng dẫn thực thi chống lại những người sử dụng các nhân viên AI để vi phạm các hệ thống mà không có sự cho phép.

Những điều các nhà điều tra cần thiết để thiết lập

Đánh giá liên tục của OpenAI nên làm rõ các giấy phép của các đại lý, các biện pháp bảo mật quy định quyền truy cập mạng, liệu các gói vẫn có thể tải xuống hay không, và khi RubyGems được thông báo. Các nhà điều hành nhà hàng và các nhà phát triển mô hình cũng cần một cơ chế đáng tin cậy để xác định các thử nghiệm tự động trước khi họ giống như các chiến dịch thù địch. Câu hỏi chính sách trung tâm không phải là AI có thể hỗ trợ nghiên cứu an ninh mạng hay không; Washington rõ ràng khuyến khích việc sử dụng đó. Nó là liệu các nhà phát triển có thể giữ các đánh giá độc lập trong phạm vi được ủy quyền và tiết lộ thất bại một cách nhanh chóng khi những giới hạn đó được vượt qua.