Ленты британских детей за считаные минуты начинают различаться по гендерному признаку, показало новое исследование социальных сетей

Алгоритмы быстро разделяют контент по роду

Социальные медиа-файды, созданные для подростков пользователей, начали сервировать особый гендерный материал в течение 20 минут, согласно исследованию, опубликованному Plan International UK и сообщается Sky News. Организация создала шесть тестируемых аккаунтов TikTok, представляющих пользователей в возрасте от 13 до 16 лет. После менее чем двух часов прогулки, кормления направляли счеты на все более конкретные темы, связанные с полом, включая внешний вид и содержание роскоши для девочек и сообщения о богатстве, физической силе и эмоциональной изоляции для мальчиков. Результаты касаются поведения систем рекомендаций, а не материала, намеренно требуемого детьми.

Дети описывают более широкий образ

The project also surveyed 1,440 people aged seven to 17. Seventy percent of girls and 67 percent of boys said they regularly encountered posts telling them how they should look, dress or behave, or what careers and interests they should pursue. Sixty-two percent wanted social-media companies to remove more harmful material. In one test, an account representing a 13-year-old girl interested in drama, music and dance was eventually shown material concerning sadness, self-harm, suicide and substance abuse. Researchers reported the content during testing, but TikTok determined that it did not violate its rules.

Почему важно, чтобы результаты

Исследование добавляет доказательства к тому, что политика безопасности детей должна рассматривать дизайн систем рекомендаций, а не только индивидуальные запрещенные статьи. Платформа может удалить очевидно незаконный контент, в то время как все еще создает путь, который неоднократно сокращает питание молодого пользователя к вредным или стереотипным темам. Различие стало центральным для регуляторных дебатов в Великобритании, Европейском союзе и США, где правительства и суды рассматривают, подвергает ли дизайн продукции, ориентированный на участие, несовершеннолетних предсказуемым рискам.

Великобритания готовит более широкие гарантии

9 сентября правительство Великобритании объявило о том, что готовит законодательство, требующее более сильной защиты устройств и приложений, используемых детьми. Предложенные принципы включают в себя блокирование пользователей до 18 лет от приема, просмотра или отправки голых изображений, если не установлено, что пользователь является взрослым. Правительство также заявило, что постоянные персонализированные кормления и автоплаи будут отключены по дефолту для 16- и 17-летних под отдельными мерами. Эти предложения не самостоятельно подтверждают эксперимент Plan International, но они подтверждают, что алгоритмические и устройства-на уровне гарантии являются активными правительственными политическими вопросами.

Следующий тест – реализация

Исследование не устанавливает, как поведение кормления каждого ребенка, и его шесть экспериментальных счетов представляют собой ограниченный тест, а не полный аудит системы TikTok. Следующие будут более последовательными: независимая репликация, раскрытие методологии исследователей, ответ платформы и доказательства того, изменили ли они будущие рекомендации. Для министров проблема заключается в том, чтобы перевести широкие обязательства по безопасности в применимые технические стандарты, не полагаясь на родителей или детей, чтобы сами настроить защиту. Регуляторы также будут нуждаться в методах повторного тестирования рекомендационных путей, так как соответствующий индивидуальный пост все же может способствовать вредной последовательности.