jugendschutz.net Jahresbericht 2023Deepfakes, Hetze, Missbrauch: KI verschärft Risiken für Kinder und Jugendliche im Netz
Der Jahresbericht legt einen Fokus auf die Gefahren durch generative Künstliche Intelligenz. Als besonders problematisch werden künstlich erstellte Inhalte im Bereich sexualisierte Gewalt und Mobbing identifiziert. Denn auch Kinder und Jugendliche können Opfer von Deepnudes werden. Dabei handelt es sich um Inhalte, die künstlich erzeugt wurden und echte Personen scheinbar nackt oder in pornografischen Situationen zeigen. Teilweise sind diese KI-generierten Bilder und Videos nicht mehr von echten Aufnahmen zu unterscheiden. Und selbst wenn für die Betrachter*innen noch erkennbar ist, dass es sich um ein gefälschtes Bild handelt, ist es trotzdem sehr belastend für die Betroffenen, dass diese Art von Aufnahmen von ihnen im Umlauf sind.
Weitere Informationen und Hilfestellung zu diesem Thema finden Sie in unserem Themenbereich Sexualisierte Gewalt durch Bilder.
Weitere Schwerpunkte des Jahresberichts sind Hassinhalte, Cybergrooming, problematische Challenges und Pranks sowie die Spieleplattform Roblox. Zum Beispiel stellte jugendschutz.net fest, dass der Krieg in Nahost für antisemitische oder muslimfeindliche Hasspropaganda instrumentalisiert wurde. Es gibt vermehrt Beiträge in Social Media, die junge Menschen zu gesundheitsgefährdendem Verhalten anstiften. Und Kinder werden vor allem in Videochats Opfer von Cybergrooming und sexueller Gewalt.
Kritik übt jugendschutz.net nicht zuletzt auch an den Betreibern der Internetdienste. Nach Ansicht von jugendschutz.net tun sie zu wenig, um Kinder und Jugendliche angemessen zu schützen. Auf gemeldete Verstöße reagieren sie nur unzuverlässig und Altersverifikation findet gar nicht statt oder ist leicht zu umgehen. Die Vorsorgemaßnahmen, die Plattformen anbieten, bleiben dadurch oft wirkungslos.
Bilanz von jugendschutz.net im Jahr 2023
2023 bearbeitete jugendschutz.net 7.645 Verstoßfälle. Davon sind zwei Drittel sexualisierter Gewalt zuzuordnen. Bei 12 Prozent handelt es sich um Sex/Pornografie, bei 11 Prozent um politischen Extremismus. Fünf Prozent gingen auf selbstgefährdende Inhalte zurück und zwei Prozent auf Cybermobbing.
3.210 Verstöße meldete jugendschutz.net an Anbieter und Selbstkontrolleinrichtungen mit dem Ziel der schnellen Abhilfe. 105 Verstoßfälle wurden an die Kommission für Jugendmedienschutz (KJM) zur Einleitung eines Aufsichtsverfahrens übermittelt. Außerdem wurden 252 Fälle an die KJM zur Indizierung durch die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) abgegeben. 3.582 Fälle sendete jugendschutz.net an die Strafverfolgungsbehörden, da kinder- und jugendpornografische Inhalte verbreitet wurden oder Gefahr für Leib und Leben bestand. Am Jahresende waren bei 6.902 Fällen (90 %) die Verstöße beseitigt.