UK-Kindernfutter wird innerhalb von Minuten Geschlecht, neue Social-Media-Studie findet

Algorithmen, die Inhalte nach Geschlecht schnell geteilt haben

Social-Media-Feeds, die für Teenager-Nutzer erstellt wurden, begannen innerhalb von 20 Minuten getrennte Materialien zu servieren, so eine Studie, die von Plan International UK veröffentlicht wurde und von Sky News berichtet wurde. Die Organisation hat sechs Test-TikTok-Konten erstellt, die Benutzer im Alter von 13 bis 16 Jahren repräsentieren. Nach weniger als zwei Stunden Spuren richteten die Feeds die Berichte auf immer spezifischer mit dem Geschlecht verbundene Themen, einschließlich der Aussehen und Luxus-Inhalte für Mädchen und Nachrichten über Reichtum, körperliche Stärke und emotionale Isolation für Jungen. Die Ergebnisse betreffen das Verhalten von Empfehlungssystemen, anstatt das von Kindern absichtlich angeforderte Material.

Kinder beschreiben ein breiteres Muster

Das Projekt untersucht auch 1.440 Menschen im Alter von sieben bis 17 Jahren. 70 Prozent der Mädchen und 67 Prozent der Jungen sagen, dass sie regelmäßig Beiträge treffen, die ihnen erzählen, wie sie aussehen, sich kleiden oder verhalten sollten, oder welche Karriere und Interessen sie verfolgen sollten. 72 Prozent wollten, dass soziale Medienunternehmen schädlicher Materialien entfernen. In einem Test wurde ein Konto, in dem ein 13-jähriges Mädchen, das an Drama, Musik und Tanz interessiert war, schließlich Material über Trauer, Selbstschäden, Selbstmord und Substanzmissbrauch gezeigt. Forscher berichteten über den Inhalt während der Tests, aber TikTok bestätigte, dass es seine Regeln nicht verletzt.

Warum die Ergebnisse wichtig sind

Die Studie ergänzt Beweise für den Argument, dass die Kindersicherheitspolitik die Gestaltung von Empfehlungssystemen, nicht nur einzelne verbotene Posten, behandeln muss. Eine Plattform kann offensichtlich illegale Inhalte entfernen und gleichzeitig einen Pfad erstellen, der wiederholt die Fütterung eines jungen Benutzers zu schädlichen oder stereotypischen Themen verkleinert. Die Unterscheidung ist zentral für regulatorische Debatten in Großbritannien, der Europäischen Union und den Vereinigten Staaten geworden, wo Regierungen und Gerichte prüfen, ob ein engagiertes Produktdesign Minderjährige gegenüber vorhersehbaren Risiken ausgesetzt ist.

Großbritannien plant breitere Sicherheitsmaßnahmen

Die britische Regierung hat am 9. September angekündigt, dass sie eine Gesetzgebung vorbereiten wird, die stärkere Defektschutze für Geräte und Apps von Kindern erfordert. Seine vorgeschlagenen Grundsätze umfassen die Blockierung von Benutzern unter 18 Jahren von der Aufnahme, Anzeige oder Sendung nackter Bilder, es sei denn, die robuste Alterssicherung stellt fest, dass der Benutzer ein Erwachsener ist. Die Regierung hat auch gesagt, dass kontinuierlich personalisierte Feeds und Autoplay-Funktionen unter getrennten Maßnahmen durch Default für 16- und 17-Jährige deaktiviert werden. Diese Vorschläge validieren nicht unabhängig das Experiment von Plan International, aber sie bestätigen, dass algorithmische und Geräte-Ebene-Sicherungen aktive Regierungspolitikfragen sind.

Der nächste Test ist die Umsetzung

Die Studie bestätigt nicht, wie jedes Kind die Fütterung verhält, und seine sechs experimentelle Konten repräsentieren ein begrenztes Test anstatt eine vollständige Prüfung des TikTok-Systems. Das Folgende wird konsequenter sein: unabhängige Replikation, Offenlegung der Methodik der Forscher, Reaktion der Plattform und Beweise, die zeigen, ob es materielle Änderungen in zukünftigen Empfehlungen gibt. Die Herausforderung für die Minister ist es, breite Sicherheitsverpflichtungen in anwendbare technische Standards zu übersetzen, ohne auf Eltern oder Kinder zu verlassen, um sich selbst Schutzmaßnahmen zu konfigurieren. Regulatoren werden auch Methoden benötigen, um die Empfehlungswege wiederholt zu testen, da ein vereinbares einzelnes Post immer noch zu einer schädlichen Folge beitragen kann.