Deep Fakes: Eine neue Qualität der Desinformation?

04.02.2021 | Wenn es um die Themen Desinformation und Fake News im Internet geht, fällt immer öfter der Begriff Deep Fakes. Dabei handelt es sich um manipulierte Videos, in denen Personen Dinge tun oder sagen, die sie nie getan oder gesagt haben. Meistens wird beim Thema Deep Fakes davor gewarnt, dass diese künftig die öffentliche Meinung maßgeblich beeinflussen könnten und daher eine große Gefahr für die Demokratie von ihnen ausgehe. Aber stimmt das auch wirklich? klicksafe informiert und gibt Tipps zum Umgang mit Deep Fakes.

Im Folgenden gehen wir einigen Fragen nach, die sich im Zusammenhang mit Deep Fakes stellen. Dabei wird die Frage nach einer möglichen Manipulation der öffentlichen Meinung im Fokus stehen. Neben der politischen Einflussnahme finden Deep Fakes aber auch in anderen Rahmen Anwendung. Beliebt sind zum Beispiel parodistische Videos, bei denen in der Regel aber vollkommen klar ist, dass es sich um eine manipulierte Aufnahme handelt. Eine Gefahr, dass die Aufnahmen für echt gehalten werden könnten, besteht dabei nicht. Weniger lustig ist der Einsatz von Deep-Fake-Technologie im Bereich der Pornografie. Hier werden die Gesichter von Personen in pornografische Aufnahmen eingefügt - ein schwerer Verstoß gegen die Persönlichkeitsrechte und je nach Fall sogar eine Straftat.

Häufige Fragen zum Thema Deep Fakes

Wie funktionieren Deep Fakes?

Im Grunde kann man sich Deep Fakes wie eine digitale Maske vorstellen. Auf eine Videoaufnahme von einem Menschen setzt ein Algorithmus ein neues Gesicht auf. Damit dieses Gesicht einigermaßen realistisch aussieht, benötigt das verwendete Computerprogramm sehr viele Bilder von dem "neuen" Gesicht. Je mehr Bilder das Programm zur Verfügung hat, desto besser ist das Ergebnis. Daher handelt es sich bei den überzeugenderen Deep Fakes auch bisher immer um die Gesichter von bekannten Personen, von denen es frei zugänglich eine Vielzahl von Bildern gibt. Auf der anderen Seite bedeutet das, dass Privatpersonen bisher nicht davon ausgehen müssen, dass sie Opfer von Deep Fakes werden könnten, denn das Ergebnis wäre wohl nicht besonders überzeugend und leicht als Fälschung zu erkennen.

Wie schwer ist es, Deep Fakes zu erstellen?

Das kommt darauf an, wie aufwendig der Deep Fake sein soll. Viele bekannte Deep Fakes sind sehr einfach gehalten. In der Regel ist darauf eine Person zu sehen, die vor der Kamera sitzt und spricht, ohne sich zu bewegen. So ein Deep Fake setzt sich zusammen aus drei Quellen. Erstens die Aufnahme der Person, die vor der Kamera sitzt. Zweitens die manipulierte Tonspur. Und drittens das neue Gesicht, das per Algorithmus in das Video eingefügt wird.

Ein Deep-Fake-Video in dem zu sehen ist, wie eine Person etwas tut, wäre deutlich aufwendiger in der Erstellung. Denn in dem Fall braucht man eine Videoaufnahme von einer Person, die die gewünschte Handlung vornimmt und die darüber hinaus Ähnlichkeit hat mit der Person, die in das Video eingefügt werden soll. Außerdem ist es für Deep-Fake-Programme nach wie vor schwierig, ein Gesicht zu simulieren, das sich bewegt und aus unterschiedlichen Perspektiven zu sehen ist.

An diesen Beispielen sieht man schon, dass ein überzeugender Deep Fake recht viel Aufwand bedeutet, da mehrere Quellen (Video, Audio und Bilder für den Deep Fake) zusammengefügt werden müssen. Viel einfacher sind da "herkömmliche" Mittel der Falschinformationen. Zum Beispiel aus dem Kontext gerissene Fotos, gefälschte Zitate oder bearbeitete Tonaufnahmen.

Woran erkennt man Deep Fakes?

In den allermeisten Fällen ist es bisher so, dass man Deep Fakes mit dem bloßen Auge erkennen kann. So beeindruckend die Technik ist, die hinter den Deep Fakes steckt - perfekt ist sie noch nicht. Typische "Erkennungsmerkmale" sind eine unnatürliche Mimik, ein "leerer Blick" oder auch nicht korrekte Schattenwürfe im Gesicht. Es hilft sich die betreffenden Videos im Vollbildmodus anzuschauen, um diese kleinen Fehler zu entdecken.

Es ist natürlich nicht auszuschließen, dass die Technik sich in Zukunft so verbessert, dass Deep Fakes tatsächlich für uns nicht mehr als solche erkennbar sind. Es herrscht Uneinigkeit darüber, ob in diesem Fall Computerprogramme dabei helfen können, Videos, die bearbeitet wurden, zu enttarnen. In jedem Fall gibt es Unternehmen, die an solchen Methoden arbeiten. Unabhängig von diesen technischen Lösungen gibt es aber auch ganz herkömmliche Methoden, um die Echtheit von Deep Faks zu überprüfen (siehe "Sind wir Deep Fakes hilflos ausgeliefert?").

Kann man Videoaufnahmen überhaupt noch Glauben schenken?

Die Frage müsste eigentlich lauten: "Konnte man Videoaufnahmen jemals Glauben schenken?". Es stimmt, dass Bilder und auch Bewegtbilder von einem Ereignis für die meisten Menschen vertrauenswürdiger wirken als zum Beispiel ein Text, der darüber berichtet. Immerhin hat man ja selber sehen können, was passiert ist. Das ist allerdings ein Vertrauensvorschuss, den Bewegtbilder gar nicht verdient haben. Vollkommen ohne Zutun von Computertechnologie kann man Videoaufnahmen manipulieren, zum Beispiel durch die Wahl des Bildausschnitts, der nur einen Teil des Geschehens zeigt, indem nur ein kleiner Ausschnitt der gesamten Aufnahme gezeigt wird oder auch indem nicht zusammengehörende Ton- und Bildaufnahmen zusammengefügt werden. Auch mit Videoaufnahmen kann man lügen - aber das ist schon seit über 100 Jahren so. Mit Deep Fakes ist lediglich eine weitere Spielart der Manipulation hinzugekommen.

Sind wir Deep Fakes hilflos ausgeliefert?

In Artikeln zum Thema Deep Fakes wird oft der Eindruck erweckt, mit dieser neuen Technologie sei nun der Manipulation Tür und Tor geöffnet. Dabei wird regelmäßig unterschlagen, dass alle Mechanismen, die uns bisher vor Falschinformationen geschützt haben, natürlich auch bei Deep Fakes greifen. Wie bei anderen Fake News ist es auch bei Deep Fakes ratsam, sich erst einmal mit dem Kontext des Videos zu beschäftigen:

  • Wird das Video von einer seriösen Informationsquelle vertrieben oder eher von einer dubiosen Webseite?
  • Wann und wo ist das Video zum ersten Mal aufgetaucht? 
  • Stehen die Aussagen und das Verhalten der gezeigten Person im Gegensatz zu dem, was sie üblicherweise sagt und tut?

Sind Deep Fakes also gar nicht gefährlich?

Deep Fakes sind zumindest nicht grundsätzlich gefährlicher als andere Formen von Falschmeldungen und Desinformationen. Die eher aufwendige Herstellungsweise macht sie vielleicht sogar unattraktiv für Personen, die die Öffentlichkeit beeinflussen wollen, da man mit deutlich simpleren Mitteln ähnliche Effekte erzielen kann. Seriös kann aber natürlich niemand voraussagen, wie sich die Technik in Zukunft weiterentwickeln und wie sie dann eingesetzt wird.

Abschließend lässt sich sagen, dass die vielleicht größte Gefahr von Deep Fakes gar nicht darin besteht, dass Menschen gefälschte Aufnahmen für echt halten könnten, sondern kurioserweise im genauen Gegenteil - nämlich darin, dass sie echte Aufnahmen für gefälscht halten. Regelmäßig wird beim Thema Deep Fakes der Eindruck erweckt, durch sie könne man nun endgültig gar nicht mehr sicher sein, ob man gefälschten Nachrichten aufsitzt oder nicht. Wer diesem Irrglauben folgt, kann schnell das Gefühl entwickeln, keiner Quelle mehr vertrauen zu können. Eine gefährliche Entwicklung für die Demokratie, denn für die politische Willensbildung ist es wichtig, dass Bürger:innen ihren Informationsquellen vertrauen.

Im Übrigen ergeben sich durch diese Dynamik weitere Möglichkeiten der politischen Propaganda. Wenn viele Leute es für wahrscheinlich halten, dass Videos unüberprüfbar gefälscht sein könnten, ist es ein Leichtes, jegliche unliebsame Aufnahme einfach als Deep Fake zu deklarieren. In den USA verbreiteten Anhänger:innen von Verschwörungstheorien so zum Beispiel die Behauptung, das Video, in dem Donald Trump den Wahlsieg seines Kontrahenten Joe Biden anerkennt, sei lediglich ein Deep Fake gewesen.

Für Kinder und Jugendliche ist es wichtig, die nötigen Kompetenzen zu erlernen, um wahre von falschen Informationen zu unterscheiden. Das Thema Deep Fakes eignet sich für die medienpädagogische Arbeit hervorragend, weil sie als besonders "spektakuläre" Form der Manipulation eine große Faszination ausüben. Wichtig ist dabei, nicht nur die scheinbar unendlichen Möglichkeiten der Manipulation zu betonen, sondern auch die Grenzen des Möglichen. Und vor allem auch aufzuzeigen, wie man mithilfe von eigenen Kompetenzen oder Webangeboten wie Faktencheck-Seiten einem Deep Fake auf die Spur kommen kann.

Informationen und umfangreiches Material dazu findet man in den klicksafe-Themenbereichen zu Fake News, zu Verschwörungstheorien und ab dem 09.02.2021 in unserem neuen Themenbereich Desinformation und Meinung.

Hinweis: Dieser Text entstand auf der Grundlage eines Artikels unserer luxemburgischen Partner-Initiative BEE SECURE.