Los alimentos para niños en el Reino Unido se vuelven de género en minutos, un nuevo estudio de redes sociales revela

Algoritmos que dividen contenido por género

Los feed de redes sociales creados para los usuarios adolescentes comenzaron a servir material de género distinto en 20 minutos, según la investigación publicada por Plan International UK y informada por Sky News. La organización creó seis cuentas de TikTok de prueba que representan a usuarios de 13 a 16 años. Después de menos de dos horas de escrolling, los feeds dirigían las cuentas hacia temas cada vez más específicos relacionados con el género, incluyendo el aspecto y el contenido de lujo para las niñas y mensajes sobre la riqueza, la fuerza física y la aislamiento emocional para los chicos. Los hallazgos se refieren al comportamiento de los sistemas de recomendación en lugar de los materiales deliberadamente solicitados por los niños.

Los niños describen un patrón más amplio

El proyecto también estudió a 1.440 personas de siete a 17 años. El 70 por ciento de las niñas y el 67 por ciento de los chicos dijeron que encontraron periódicamente publicaciones que les dijeron cómo deben parecer, vestirse o comportarse, o qué carreras y intereses deben perseguir. El 62 por ciento de las empresas de redes sociales quisieron eliminar más material dañino. En una prueba, una cuenta que representa a una niña de 13 años interesada en el drama, la música y la danza fue finalmente mostrada material relacionado con la tristeza, el auto-harm, el suicidio y el abuso de sustancias. Los investigadores informaron del contenido durante los ensayos, pero TikTok determinó que no violó sus reglas.

¿Por qué las conclusiones son importantes?

El estudio añade evidencia al argumento de que la política de seguridad infantil debe abordar el diseño de sistemas de recomendación, no sólo los artículos prohibidos individuales. Una plataforma puede eliminar el contenido obviamente ilegal mientras todavía crea un camino que vuelve a estrechar la alimentación de un joven usuario hacia temas perjudiciales o estereotipados. La distinción se ha convertido en el centro de los debates regulatorios en Gran Bretaña, la Unión Europea y los Estados Unidos, donde los gobiernos y los tribunales están examinando si el diseño de productos motivado por el compromiso exponen a los menores a riesgos previsibles.

Gran Bretaña prepara más medidas de seguridad

El 9 de septiembre, el gobierno británico anunció que prepararía una legislación que requiera una mayor protección de defectos en los dispositivos y aplicaciones utilizados por los niños. Sus principios propuestos incluyen bloquear a los usuarios menores de 18 años de tomar, ver o enviar imágenes desnudas a menos que la garantía de edad establezca que el usuario es un adulto. El gobierno también ha dicho que los alimentos personalizados continuamente y las funciones de autoplay serán desactivados por defecto para los niños de 16 y 17 años bajo medidas separadas. Estas propuestas no validan independientemente el experimento de Plan International, pero confirman que las garantías algorítmicas y de nivel de dispositivo son cuestiones de política del gobierno activas.

La siguiente prueba es la implementación

El estudio no establece cómo se comporta el alimento de cada niño, y sus seis cuentas experimentales representan un test limitado en lugar de una auditoría completa del sistema de TikTok. Lo siguiente será más consejente: la replicación independiente, la divulgación de la metodología de los investigadores, la respuesta de la plataforma y la evidencia que demuestra si se reportan cambios materiales en las recomendaciones futuras. Para los ministros, el desafío es traducir los amplios compromisos de seguridad en normas técnicas aplicables sin contar con los padres o los hijos para configurar las protecciones por sí mismos. Los reguladores también necesitarán métodos para probar los caminos de recomendación repetidamente, ya que un post individual de conformidad todavía puede contribuir a una secuencia perjudicial.