英国儿童食物在几分钟内变成性别,新的社交媒体研究发现

算法因性别快速分配内容

对于青少年用户创建的社交媒体 feed 开始在 20 分钟内提供特定的性别材料,据计划国际英国发布的研究和Sky News报道。 该组织创建了六个测试TikTok帐户,代表13至16岁的用户。 经过不到两小时的旋转,营养会将账户转向与性别相关的越来越具体主题,包括女孩的外观和奢侈品内容,以及关于财富、身体强度和男孩的情感隔离的信息。 这些发现涉及推荐系统的行为,而不是孩子故意要求的材料。

儿童描述一个更广泛的模式

The project also surveyed 1,440 people aged seven to 17. Seventy percent of girls and 67 percent of boys said they regularly encountered posts telling them how they should look, dress or behave, or what careers and interests they should pursue. Sixty-two percent wanted social-media companies to remove more harmful material. In one test, an account representing a 13-year-old girl interested in drama, music and dance was eventually shown material concerning sadness, self-harm, suicide and substance abuse. Researchers reported the content during testing, but TikTok determined that it did not violate its rules.

為什麼發現重要

该研究补充了对儿童安全政策必须处理推荐系统的设计的证据,而不仅仅是个人禁止的帖子。 一个平台可以清除显然非法内容,同时仍然创造一个路径,重复缩小一个年轻用户的营养,以有害或类似的主题。 这一区别已经成为英国、欧盟和美国的监管辩论的核心,政府和法院正在审查是否以参与为导向的产品设计将未成年人面临可预见的风险。

英国正在制定更广泛的安全措施

英国政府9月9日宣布,将制定法律,要求儿童使用的设备和应用程序更强的默认保护。 其提出的原则包括阻止18岁以下的用户接收、观看或发送裸体图像,除非坚实的年龄保证证明用户是成年人。 政府还表示,在单独措施下,16岁和17岁的儿童将因默认情况而禁用不断个性化营养和自动补充功能。 这些建议并不独立批准Plan International的实验,但它们确认算法和设备级别的保证是积极的政府政策问题。

下一个测试是实施

研究并没有确定每个孩子的营养行为,其六个实验账户代表了一个有限的测试,而不是TikTok系统的完整审查。 接下来的内容将会更有后果:独立的复制,研究人员的方法论的披露,平台的反应和证据表明是否报告物质改变未来的建议。 对于部长来说,挑战是将广泛的安全承诺转化为可执行的技术标准,而不依靠父母或孩子自己设置保护。 监管机构还需要方法来重复测试推荐路径,因为一个符合的个体帖子仍然可以为有害的序列做出贡献。