Quảng cáo chiến dịch do AI tạo ra làm tăng cường cuộc chiến tranh bầu cử của Mỹ về phương tiện truyền thông tổng hợp

Một chiến dịch Texas kiểm tra ranh giới giữa công nhận và sản xuất

Người đề cử Thượng viện Cộng hòa Texas Ken Paxton đã phát hành một quảng cáo chiến dịch sử dụng một phiên bản được tạo ra bởi trí tuệ nhân tạo của ứng cử viên Dân chủ James Talarico, Axios báo cáo vào ngày 9 tháng 9. Hình ảnh tổng hợp cung cấp các tuyên bố liên quan đến Talarico, đôi khi mà không có bối cảnh ban đầu. Quảng cáo này là một ví dụ cụ thể mới về trí tuệ sáng tạo di chuyển từ sự mới mẻ của chiến dịch sang sự cá nhân hóa ứng cử viên thực tế trong cuộc đua giữa năm 2026.

Vấn đề ngay lập tức không chỉ là xem liệu khán giả có tin tưởng vào giả thuyết hay không. Video tổng hợp có thể làm suy yếu niềm tin ngay cả sau khi nó được xác định bởi vì khán giả phải quyết định những phần nào là xác thực, chỉnh sửa hoặc hoàn toàn được tạo ra. Sự không chắc chắn đó cung cấp cho các chiến dịch một công cụ để gắn mặt và giọng nói của đối phương với một thông điệp trong khi duy trì các tuyên bố đáng tin cậy rằng các từ hoặc chủ đề cơ bản là thật.

Quy tắc phụ thuộc rất nhiều vào nơi cử tri sống

Axios trước đây đã thấy rằng các quốc gia đã áp dụng các cách tiếp cận bất bình đẳng đối với các vấn đề bầu cử. Một số yêu cầu tiết lộ hoặc hạn chế các phương tiện truyền thông tổng hợp lừa đảo gần cuộc bầu cử, trong khi các tiểu bang khác không có nền tảng so sánh. Các thách thức của tòa án cũng đã chấm dứt một số luật nhà nước trên cơ sở tự do ngôn luận. Kết quả là các quảng cáo tương tự về mặt thị giác có thể đối mặt với một cách xử lý pháp lý khác nhau tùy thuộc vào thẩm quyền và thời gian phân phối.

Chính phủ liên bang không thiết lập một tiêu chuẩn tiết lộ toàn diện về các cuộc bầu cử cụ thể cho quảng cáo chính trị được tạo ra bởi AI. Một lệnh điều hành của Nhà Trắng tháng 6 giải quyết các rủi ro về AI tiên tiến, an ninh mạng và an ninh quốc gia, công nhận rằng các hệ thống mạnh mẽ đưa ra các quan điểm an ninh mới. Tuy nhiên, nó không cung cấp một quy tắc thống nhất đòi hỏi các chiến dịch chính trị để đánh dấu hình ảnh tổng hợp của ứng cử viên.

Rủi ro thông tin vượt quá một clip lừa đảo duy nhất

Quảng cáo chính trị luôn dựa vào chỉnh sửa chọn lọc và khung cảm xúc. AI tạo ra làm giảm chi phí tạo ra những cảnh đáng tin cậy chưa từng xảy ra và làm cho sản xuất khối lượng cao dễ dàng hơn. Nó cũng tạo ra những gì các nhà nghiên cứu gọi là một vấn đề đáng tin cậy ngược lại: bằng chứng đích thực có thể bị từ chối như nhân tạo một khi công chúng biết thuyết phục sản xuất là phổ biến.

Những phát triển tiếp theo sẽ được quan sát bao gồm nhãn nền tảng, các tiêu chuẩn chiến dịch tình nguyện, tranh chấp theo luật pháp nhà nước hiện có và bất kỳ nỗ lực mới mẻ nào của Quốc hội để áp đặt một nền tảng quốc gia. Sự kiện được xác minh là việc Paxton sử dụng một Talarico tổng hợp trong một quảng cáo chiến dịch hiện tại. Các tuyên bố về tác động bầu cử có thể của nó vẫn được phân tích, không được xác định thực tế.