jugendschutz.net Jahresbericht 2024Sexualisierte Gewalt und Hassinhalte: Gefährdungen für Kinder und Jugendliche im Netz nehmen zu

Der erfolgreichen Beseitigung von Jugendschutzverstößen stehen – so zeigt der Jahresbericht von jugendschutz.net – strukturelle Mängel hinsichtlich der Vorsorgemaßnahmen vieler digitaler Dienste entgegen. Zentrales Problem bleibt die fehlende Altersprüfung, ohne die Kinder und Jugendliche auf beliebten Plattformen kaum geschützt sind – etwa vor extremistischer Einflussnahme oder sexuellen Grenzverletzungen.

Hinzu kommt der wachsende Einfluss generativer Künstlicher Intelligenz, die die Verbreitung problematischer Inhalte zusätzlich befeuert. Hier liegt der Fokus der Anbieter auf Innovation, Sicherheit für junge Nutzer*innen hat dabei keine Priorität.

Zwar wurden 99 % der von jugendschutz.net gemeldeten Inhalte gelöscht, allerdings lässt sich feststellen, dass einfache User*innen-Meldungen von den Plattformen nicht mit dem gebührenden Ernst behandelt werden. Um das zu überprüfen, meldete jugendschutz.net zunächst Verstöße aus dem Bereich Extremismus über die normalen Meldewege, die allen User*innen offenstehen. So war für die Plattformen nicht erkennbar, dass tatsächlich jugendschutz.net hinter der Meldung steht. Nach sieben Tagen wurde der Inhalt erneut gemeldet, falls er nicht bereits nach der ersten Meldung entfernt wurde. Dieses Mal allerdings als offizielle Meldung von jugendschutz.net. Besonders eklatant fiel das Ergebnis des Tests bei YouTube aus: Nur 6 % der User-Meldungen resultierten in einer Löschung. Nach der offiziellen Meldung durch jugendschutz.net stieg die Löschquote sprunghaft auf 96 % an. Auch andere Plattformen wie Instagram (17 % / 89 %) und TikTok (27 % / 94 %) löschten signifikant weniger Inhalte, wenn die Meldungen vermeintlich von regulären User*innen kamen.

„Social Media sind weiterhin Einfallstore für sexuelle Belästigung, Gewalt und Extremismus“, sagt Stefan Glaser, Leiter von jugendschutz.net. Besonders alarmierend sei die verstärkte Ansprache junger Menschen durch extremistische Gruppen, auch im Gaming-Bereich: „Rechtsextreme und Islamisten ködern auf TikTok, Instagram und Co. mit hippen Auftritten und Themen, die nah an der Lebenswelt junger Menschen sind. Über Discord erreichen sie spielaffine Jugendliche und führen sie an extremistisches Gedankengut heran.“ Gleichzeitig verschärften technische Innovationen auf dem Feld der KI bestehende Risiken. „Es ist leider inzwischen kinderleicht, Alltagsfotos in Nacktbilder zu verwandeln. Deepnudes werden dann genutzt, um zu mobben oder zu erpressen – eine perfide Dimension der digitalen Gewalt“, warnt Glaser. Zwar zeigten die Recherchen von jugendschutz.net, dass Betreiber punktuell ihre Schutzkonzepte verbessern. „Letztlich können altersdifferenzierte Maßnahmen jedoch nur wirken, wenn auch das Alter der User überprüft wird“, so Glaser.