Thực phẩm của trẻ em ở Anh trở nên giới tính trong vài phút, một nghiên cứu mới trên phương tiện truyền thông xã hội cho thấy

Các thuật toán nhanh chóng chia nội dung theo giới tính

Các phương tiện truyền thông xã hội được tạo ra cho người dùng thanh thiếu niên bắt đầu phục vụ các tài liệu có giới tính riêng biệt trong vòng 20 phút, theo nghiên cứu được phát hành bởi Plan International UK và được báo cáo bởi Sky News. Tổ chức đã tạo ra sáu tài khoản TikTok kiểm tra đại diện cho người dùng từ 13 đến 16 tuổi. Sau ít hơn hai giờ đi bộ, các bữa ăn đã hướng các tài khoản đến các chủ đề liên quan đến giới tính ngày càng cụ thể, bao gồm sự xuất hiện và nội dung sang trọng cho các cô gái và các thông điệp về sự giàu có, sức mạnh thể chất và sự cô lập cảm xúc cho các chàng trai. Những phát hiện này liên quan đến hành vi của các hệ thống khuyến nghị chứ không phải là vật liệu được trẻ em cố ý yêu cầu.

Trẻ em mô tả mô hình rộng hơn

Dự án cũng đã khảo sát 1.440 người trong độ tuổi từ 7 đến 17. 70 phần trăm các cô gái và 67 phần trăm các chàng trai nói rằng họ thường xuyên gặp các bài viết cho họ biết họ nên trông như thế nào, ăn mặc hoặc hành vi, hoặc những nghề nghiệp và sở thích họ nên theo đuổi. Hai mươi hai phần trăm muốn các công ty truyền thông xã hội loại bỏ các tài liệu có hại hơn. Trong một bài kiểm tra, một tài khoản đại diện cho một cô gái 13 tuổi quan tâm đến kịch, âm nhạc và nhảy cuối cùng đã được hiển thị tài liệu liên quan đến buồn bã, tự tử, tự tử và lạm dụng vật chất. Các nhà nghiên cứu báo cáo nội dung trong quá trình thử nghiệm, nhưng TikTok xác định rằng nó không vi phạm các quy tắc của nó.

Tại sao những phát hiện quan trọng

Nghiên cứu này thêm bằng chứng cho luận rằng chính sách an toàn trẻ em phải đối mặt với thiết kế các hệ thống khuyến cáo, không chỉ các bài đăng bị cấm cá nhân. Một nền tảng có thể loại bỏ nội dung bất hợp pháp rõ ràng trong khi vẫn tạo ra một con đường mà liên tục thu hẹp nguồn cung của người dùng trẻ đến các chủ đề có hại hoặc stereotype. Sự phân biệt này đã trở thành trung tâm của các cuộc tranh luận quy định ở Anh, Liên minh châu Âu và Hoa Kỳ, nơi các chính phủ và các tòa án đang xem xét liệu thiết kế sản phẩm dựa trên sự tham gia có thể tiếp xúc với những rủi ro có thể dự đoán được không.

Anh đang chuẩn bị các biện pháp bảo vệ rộng hơn

Chính phủ Anh đã thông báo ngày 9/9 rằng sẽ chuẩn bị một luật đòi hỏi bảo vệ mặc định mạnh mẽ hơn cho các thiết bị và ứng dụng được sử dụng bởi trẻ em. Các nguyên tắc được đề xuất bao gồm ngăn chặn người dùng dưới 18 tuổi chụp, xem hoặc gửi hình ảnh trần truồng trừ khi đảm bảo tuổi thọ vững chắc xác định rằng người dùng là người lớn. Chính phủ cũng đã nói rằng các chức năng thực phẩm cá nhân hóa và tự động sẽ bị tắt theo mặc định cho trẻ em 16 và 17 tuổi theo các biện pháp riêng biệt. Những đề xuất này không độc lập xác nhận thí nghiệm của Plan International, nhưng họ xác nhận rằng các biện pháp bảo vệ thuật toán và cấp thiết bị là các vấn đề chính sách chính phủ tích cực.

Thử nghiệm tiếp theo là thực hiện

Nghiên cứu không xác định cách thức ăn của mỗi đứa trẻ hành xử, và sáu tài khoản thí nghiệm của nó đại diện cho một thử nghiệm giới hạn thay vì một kiểm tra đầy đủ của hệ thống TikTok. Những gì sau đây sẽ là hậu quả hơn: phản ứng độc lập, tiết lộ phương pháp của các nhà nghiên cứu, phản ứng của nền tảng và bằng chứng cho thấy liệu có thông báo về những thay đổi vật chất trong các khuyến nghị trong tương lai hay không. Đối với các bộ trưởng, thách thức là dịch các cam kết an ninh rộng rãi thành các tiêu chuẩn kỹ thuật có thể thực hiện mà không dựa vào cha mẹ hoặc trẻ em để tự thiết lập các biện pháp bảo vệ. Các nhà quản lý cũng sẽ cần các phương pháp để kiểm tra các con đường khuyến nghị nhiều lần, bởi vì một bài viết cá nhân phù hợp vẫn có thể góp phần vào một chuỗi có hại.