KI in Social MediaWas sollten Eltern über künstliche Intelligenz wissen?

An ChatGPT und Co. kommt man aktuell nicht vorbei. Überall machen sich Menschen Gedanken darum, welche Auswirkungen künstliche Intelligenz (KI) auf unsere Gesellschaft haben wird. Auch in Sozialen Netzwerken kommt KI schon seit einiger Zeit zum Einsatz. Bei aller Begeisterung für den technologischen Fortschritt müssen auch die Risiken von KI besprochen werden. Wir fassen in diesem Artikel zusammen, wo künstliche Intelligenz in den Sozialen Netzwerken zum Einsatz kommt und ob sie für Kinder und Jugendliche problematisch ist.

Plattformen wie TikTok, Instagram und Snapchat nutzen künstliche Intelligenz (KI) vor allem, um das Nutzungserlebnis zu beeinflussen. Sie empfehlen Inhalte, versuchen Unangemessenes auszufiltern und spülen gezielt passende Werbeanzeigen in die Feeds der Benutzer*innen. Gepostete Bilder oder Videos werden analysiert, um passende Effekte, Filter oder Untertitel vorzuschlagen. Solche Mechanismen laufen im Hintergrund ab und werden nicht unbedingt mit KI in Verbindung gebracht. Bei diesen Funktionen handelt es sich um sogenannte „schwache KI“, die für die Lösung bestimmter Probleme entwickelt wurde. Zum Beispiel, um personalisierte Werbung auszuwählen.

Zahlreiche neue Funktionen werden aktuell explizit mit Bezug auf KI beworben. Dazu gehören Bild-Generatoren, Chatbots oder durch KI erschaffene Personen, die beispielsweise als Influencer*innen genutzt werden können.

  • Ein Bild-Generator ist beispielsweise bei TikTok integriert. Mithilfe künstlicher Intelligenz generiert dieser aus textlichen Bildbeschreibungen Bilder, die Nutzende dann als Hintergrund verwenden können.
  • Der Snapbot unterstützt Snapchat Plus Abonnent*innen. Er soll eine ähnliche Kommunikation wie mit Freund*innen simulieren. Man kann ihn beispielsweise Fragen stellen, ihn bitten einen neuen Snap zu erstellen oder nach Inhalten in der App zu suchen.
  • Durch KI generierte Darstellungen einer Person werden bereits von einigen Unternehmen beispielweise auf Instagram genutzt. So können Großkonzerne greifbarer wirken und sind nicht auf eine reale Person „angewiesen“. Zudem kann der computergenerierte Mensch vollständig nach eigenem Belieben erschaffen werden. Die Inhalte dieser KI-Influencer*innen sind jedoch weiterhin von Menschen gemacht, zum Beispiel von Werbeagenturen. Lediglich ihre Erscheinungsform wird, wie etwa in einem Videospiel, per Computer erstellt.

Gefahren von KI in Social Media

Solche neuen Funktionen können einige Risiken vor allem für Kinder und Jugendliche mit sich bringen. Dazu gehören Cybermobbing, Verletzung der Privatsphäre, Desinformation und Deepfakes.

  • Cybermobbing geschieht unter anderem oft, weil sich die Täter*innen im Netz anoym fühlen. Dieses Gefühl kann durch KI verstärkt werden, da man beispielsweise mit computergenerierten Personen auftreten kann. Zudem können großflächige „Angriffe“ mit künstlicher Intelligenz automatisiert gestartet und die Reichweite verstärkt werden.
  • Datenschutz wird bei KI-gestützten Produkten und Diensten nicht besonders großgeschrieben. Sie sammeln oft große Mengen personenbezogener Daten und erschweren Nutzer*innen die Kontrolle darüber, was mit ihren Daten passiert.
  • Mit KI-Bildgeneratoren können Inhalte einfacher erstellt werden, die nicht der Wahrheit entsprechen. So können gezielt Desinformation und Deepfakes verbreitet werden.

Was können Eltern tun?

  • Informieren Sie sich über das Thema künstliche Intelligenz. Um Kinder in der Medienwelt zu begleiten, hilft es, wenn Eltern sich frühzeitig über neue Entwicklungen informieren. Das Bundesministerium für Familie, Senioren, Frauen und Jugend bietet dazu den „Wegweiser Digitale Debatten“ an.
  • Klären Sie ihre Kinder über Datenschutz auf. Nur die nötigsten Daten sollten bei Diensten preisgegeben werden. Unterstützen Sie vor allem Kinder und jüngere Jugendliche dabei, die Datenschutzerklärung der Dienste zu verstehen. Informationen dazu finden Sie in unserer Broschüre „Datenschutz-Tipps für Eltern“.
  • Fake News und Deep Fakes könnten durch die neuen Möglichkeiten von KI-Systemen rapide zunehmen. Daher wird das kritische Überprüfen von Inhalten im Internet zunehmend wichtig. Weitere Informationen dazu finden Sie im Themenbereich Fake News oder in der Elternbroschüre „Willst du mit mir Fakten checken gehen?“ und der dazugehörigen Checkliste.