Jahresbericht jugendschutz.netKI auf jugendaffinen Plattformen: Anbieter schaffen neue Einfallstore für Risiken
jugendschutz.net fungiert als das gemeinsame Kompetenzzentrum von Bund, Ländern und Lan-desmedienanstalten für den Schutz von Kindern und Jugendlichen im Internet. Die Stelle recherchiert Gefahren und Risiken in jugendaffinen Diensten. jugendschutz.net nimmt über seine Online-Beschwerdestelle Hinweise auf Verstöße gegen den Jugendmedienschutz entgegen. Sie wirkt darauf hin, dass Verstöße gegen Jugendschutzbestimmungen beseitigt und Angebote so gestaltet werden, dass Kinder und Jugendliche sie unbeschwert nutzen können. Verstöße im Netz können gemeldet werden unter: https://www.jugendschutz.net/verstoss-melden.
Zentrale Erkenntnisse aus dem aktuellen Jahresbericht 2025
Im Mittelpunkt der Arbeit 2025 standen Recherchen und Analysen zu Künstlicher Intelligenz, Influencing, Social Commerce, Politischem Extremismus, Sexualisierter Gewalt und Selbstgefährdung. Viele bestehende Risiken werden durch KI-Anwendungen, die frei verfügbar und kinderleicht auch für strafbare Handlungen einsetzbar sind, verschärft. Die Anbieter der Dienste unternehmen viel zu wenig für den Schutz von Kindern und Jugendlichen.
Stefan Glaser, Leiter von jugendschutz.net: „Die Gefahr, in beliebten Diensten mit Hass und sexualisierter Gewalt konfrontiert, dort gemobbt, belästigt oder manipuliert zu werden, besteht leider weiter. Die Anbieter setzen dem nur wenig entgegen. Im Gegenteil: Mit neuen Funktionen und Anwendungen schaffen Unternehmen weitere Einfallstore. Insbesondere KI fügt dem Problem eine neue Dimension hinzu: Das Künstliche verschmilzt mit dem Echten und verzerrt die Wahrnehmung von Realität. KI-generierte Influencer*innen präsentieren übernatürlich schöne Körper, die Essstörungen begünstigen. Manipulierte Bilder dienen als Mittel zur Verbreitung extremistischer Narrative oder zur Herabwürdigung. Chatbots entwickeln ein Eigenleben und führen Kinder und Jugendliche in sexualisierte Interaktionen. Hinzu kommt das Problem manipulativer Angebotsdesigns: Algorithmen führen Nutzende durch immer gleiche Inhaltsvorschläge immer tiefer in Gefahrenbereiche hinein. Ein Problem sind die Geschäftsmodelle der Dienste. Es braucht nicht nur Lippenbekenntnisse der Betreiber, für den Schutz von Kindern und Jugendlichen bei der Nutzung zu sorgen. Benötigt werden effektive Maßnahmen, die sich schon bei der Einführung neuer Funktionen und Anwendungen risikomindernd auswirken.“
Dieser Text basiert auf der Pressemitteilung von jugendschutz.net vom 19.5.2026.