Expert*innen-Talk „Deepfakes und Extremismus“
Durch den Einsatz generativer KI-Tools lassen sich inzwischen ganz einfach gefälschte Bilder, Videos oder Tonaufnahmen von Personen erzeugen - sogenannte Deepfakes. Besonders gefährlich können Deepfakes sein, wenn sie zum Zwecke gezielter Desinformation von extremistischen Gruppen erstellt und verbreitet werden. Zum Beispiel um politisch Stimmung zu machen. Im klicksafe Expert*innen-Talk zum Thema „Deepfakes und Extremismus“ sprechen wir darüber mit Dr. Bernd Zywietz. Er ist Leiter des Bereichs Politischer Extremismus bei jugendschutz.net.
Bitte beachten Sie auch unseren Expert*innen-Talk mit Ahmad Mansour zum Thema „Extremismus-Prävention“.
Video 1: Was sind Deepfakes?
Der Papst in dicker weißen Daunenjacke, Donald Trump in Handschellen gewaltsam abgeführt und Olaf Scholz beantragt ein AfD-Verbot. Gefälschte Bilder und Videos von bekannten Personen, sogenannte Deepfakes, gibt es viele. Bei einigen Aufnahmen fällt es den Betrachtenden leichter zu erkennen, dass es sich um Fälschungen handelt. Zum Beispiel weil eine Person zu viele Finger oder Zähne hat. Bei anderen ist die Fälschung jedoch kaum zu erkennen. Denn: Deepfakes, die mithilfe generativer KI erstellt werden können, werden immer besser. Dr. Bernd Zywietz von jugendschutz.net erklärt, was wir unter Deepfakes verstehen können und was wir zu ihrem Ursprung wissen sollten.
→ Das Video steht auch zum kostenlosen Download als mp4-Datei zur Verfügung.
Video 2: Wie können Deepfakes von extremistischen Gruppen eingesetzt werden?
Nicht jeder Deepfake dient im Ursprung der gezielten Verbreitung von Desinformation. Problematisch und zum Risiko für die Gesellschaft werden solche Aufnahmen aber genau dann, wenn u.a. extremistische Gruppen solche Inhalte teilen, um die Gesellschaft beispielsweise gegen einzelne Personen aufzubringen und gezielt Hass zu schüren. Dr. Bernd Zywietz beschäftigt sich mit politischem Extremismus und weiß, wie Deepfakes in diesem Kontext eingesetzt werden.
→ Das Video steht auch zum kostenlosen Download als mp4-Datei zur Verfügung.
Video 3: Welche Wirkung können Deepfakes haben?
Deepfakes können starke Emotionen hervorrufen, beispielsweise Empörung oder Hass gegen einzelne Personen oder Bevölkerungsgruppen schüren. Und gerade vor Wahlen können Deepfakes gezielt verbreitet werden, um die Gesellschaft zu polarisieren, wie Dr. Bernd Zywietz von jugendschutz.net beobachtet hat.
→ Das Video steht auch zum kostenlosen Download als mp4-Datei zur Verfügung.
Video 4: Wie können Jugendliche mit extremistischen Deepfakes in Kontakt kommen?
Extremistische Deepfakes werden häufig zunächst in Gruppen zum Beispiel bei dem Messenger Telegram geteilt, bevor sie auf den großen Social-Media-Plattformen wie Instagram und TikTok landen. Einmal verbreitet, sind extremistische Inhalte schwer wieder einzufangen. So können auch Kinder und Jugendliche mit Deepfakes in Berührung kommen, die extremistische Ziele verfolgen. Im Video erklärt Dr. Bernd Zywietz von jugendschutz.net, warum junge Menschen auf der einen Seite schneller als ältere Generationen manipulierte Inhalte erkennen können, auf der anderen Seite jedoch die Gefahr besteht, dass sie die Inhalte dennoch nicht richtig einordnen.
→ Das Video steht auch zum kostenlosen Download als mp4-Datei zur Verfügung.
Video 5: Wie können wir mit Deepfakes umgehen?
Zukünftig wird es immer schwieriger zu erkennen, ob es sich bei einem Foto, Video oder einer Audioaufnahme um einen Deepfake handeln könnte. Einige Dienste sehen vor, dass KI-generierte Inhalte grundsätzlich gekennzeichnet sein müssen. Nicht alle Deepfakes werden aber tatsächlich auch als solche markiert. Dr. Bernd Zywietz gibt uns wichtige Hinweise, wie wir mit Deepfakes im Netz heute und in Zukunft umgehen können.
→ Das Video steht auch zum kostenlosen Download als mp4-Datei zur Verfügung.