California giới hạn các tính năng truyền thông xã hội độc hại cho trẻ em

Một gói an toàn trẻ em rộng lớn hơn

Chính phủ California Gavin Newsom đã ký một gói luật công nghệ vào ngày 10 tháng 9 đặt ra những hạn chế mới về cách các dịch vụ truyền thông xã hội và chatbot trí tuệ nhân tạo có thể tương tác với trẻ em. Các biện pháp bao gồm Nghị định 1709 của Hội đồng, trong đó ngăn chặn các nền tảng được bao phủ từ cung cấp cho người dùng dưới 16 với các tính năng như quét vô hạn và phát video tự động. Luật pháp coi thiết kế giao diện là một vấn đề an toàn chứ không phải chỉ tập trung vào các mảnh riêng lẻ của nội dung có hại.

gói cũng tạo ra các biện pháp bảo vệ bổ sung cho các chatbot đồng hành và mở rộng các biện pháp pháp luật đối với hình ảnh tình dục được thay đổi kỹ thuật số hoặc tạo ra bởi AI của trẻ em. Kết hợp, các hóa đơn vượt quá các công cụ kiểm soát của cha mẹ và áp đặt thuế trực tiếp trên các công ty công nghệ. Kích thước của California và sự tập trung của các công ty công nghệ lớn có nghĩa là các quy tắc có thể ảnh hưởng đến các quyết định sản phẩm xa hơn nhiều so với nhà nước, ngay cả khi các công ty sau đó thách thức các phần của gói tại tòa án.

Lựa chọn thiết kế vào ánh sáng quy định

Lý luận trung tâm đằng sau biện pháp truyền thông xã hội là các loại thực phẩm liên tục, tự nhấp và khuyến nghị cá nhân có thể kéo dài việc sử dụng theo những cách đặc biệt hậu quả đối với trẻ em. Các cơ quan quản lý châu Âu đã đạt được kết luận ban đầu tương tự. Trong tháng 7 năm ngoái, Ủy ban châu Âu cho biết Instagram và Facebook có thể đã vi phạm Luật Dịch vụ kỹ thuật số thông qua các yếu tố thiết kế bao gồm vô hạn xoay, tự động, thông báo và hệ thống khuyến nghị, trong khi không đánh giá và giảm thiểu rủi ro một cách thích hợp.

Kết quả châu Âu này không xác nhận hành động pháp lý của California, nhưng nó cho thấy nhà nước đang hành động trong một sự thay đổi quy định quốc tế rộng lớn hơn. Các cơ quan đang ngày càng xem xét liệu kiến trúc cơ bản của các nền tảng có tạo ra rủi ro dự đoán hay không. Cách tiếp cận này khác so với yêu cầu các công ty chỉ loại bỏ các bài đăng bất hợp pháp sau khi xuất bản: nó hỏi xem thiết lập mặc định và hệ thống tham gia có phù hợp với người dùng trẻ không.

Thực hiện và thách thức pháp lý

Các nhóm tự do dân sự và công nghệ đã gây ra mối lo ngại rằng việc áp dụng các hạn chế dựa trên tuổi tác có thể đòi hỏi kiểm tra danh tính xâm lược hoặc hạn chế biểu hiện hợp pháp. Những phản đối này sẽ hình thành việc thực thi và bất kỳ tranh chấp hiến pháp nào. Các nhà quản lý sẽ cần phải xác định cách các dịch vụ có thể xác định người dùng trẻ hơn mà không thu thập dữ liệu cá nhân quá mức, và cách rộng rãi các thuật ngữ như tính năng nghiện nên được giải thích như sản phẩm phát triển.

Bước quan trọng tiếp theo là quyết định và chuẩn bị cho sự tuân thủ. Các công ty phải quyết định liệu họ có xây dựng những trải nghiệm đặc biệt California hay áp dụng các lỗi tương tự rộng rãi hơn. Các tòa án cuối cùng có thể xác định cách các nhiệm vụ mới tương tác với các bảo vệ tự do ngôn luận và pháp luật liên bang. Đối với các nhà hoạch định chính sách ở những nơi khác, California sẽ trở thành một thử nghiệm xem các biện pháp bảo vệ tập trung vào thiết kế có thể làm giảm rủi ro cho trẻ em mà không tạo ra một lớp mới của vấn đề bảo mật.