Deepfakes

Wenn es um die Themen Desinformation und Fake News im Internet geht, fällt oft der Begriff Deepfakes. Dabei handelt es sich um manipulierte Videos, in denen Personen Dinge tun oder sagen, die sie nie getan oder gesagt haben. Neben der politischen Einflussnahme finden Deepfakes auch in anderen Rahmen Anwendung. Beliebt sind zum Beispiel parodistische Videos, bei denen in der Regel klar ist, dass es sich um eine manipulierte Aufnahme handelt. Eine Gefahr, dass Deepfake-Aufnahmen für echt gehalten werden könnten, besteht also nicht immer. Weniger lustig ist der Einsatz von Deepfake-Technologie im Bereich der Pornografie. Hier werden die Gesichter von Personen in pornografische Aufnahmen eingefügt – ein schwerer Verstoß gegen die Persönlichkeitsrechte und je nach Fall sogar eine Straftat.

Es ist wichtig, die nötigen Kompetenzen zu erlernen, um wahre von falschen Informationen zu unterscheiden. Das Thema Deepfakes eignet sich hervorragend für die medienpädagogische Arbeit, weil sie als neue technische Form der Manipulation eine große Faszination ausüben. Wichtig ist dabei, nicht nur die scheinbar unendlichen Möglichkeiten der Manipulation zu betonen, sondern auch die Grenzen des Möglichen. Und vor allem aufzuzeigen, wie man mithilfe eigener Kompetenzen oder Webangeboten wie Faktencheck-Seiten Deepfakes auf die Spur kommen kann.

Was sind Deepfakes?

Im Grunde kann man sich Deepfakes wie eine digitale Maske vorstellen. Auf eine Videoaufnahme von einem Menschen setzt ein Algorithmus ein neues Gesicht auf. Damit dieses Gesicht einigermaßen realistisch aussieht, benötigt das verwendete Computerprogramm sehr viele Bilder von dem „neuen“ Gesicht. Je mehr Bilder das Programm zur Verfügung hat, desto besser ist das Ergebnis. Daher handelt es sich bei den überzeugenderen Deepfakes auch bisher immer um die Gesichter von bekannten Personen, von denen es frei zugänglich eine Vielzahl von Bildern gibt.

Neben den den Deepfakes, die das Aussehen einer Person nachstellen, gibt es auch Deepfakes, die die Stimme einer Person imitieren.

Woran erkenne ich Deepfakes?

In den meisten Fällen ist es bisher so, dass man Deepfakes mit dem bloßen Auge erkennen kann. So beeindruckend die Technik ist, auf der Deepfakes basieren –perfekt ist sie noch nicht. Typische Erkennungsmerkmale sind eine unnatürliche Mimik, ein leerer Blick oder auch nicht korrekte Schattenwürfe im Gesicht. Es hilft, sich die betreffenden Videos im Vollbildmodus anzuschauen, um diese kleinen Fehler zu entdecken.

Es ist natürlich nicht auszuschließen, dass die Technik sich in Zukunft so verbessert, dass Deepfakes tatsächlich für uns nicht mehr als solche erkennbar sind. Es herrscht Uneinigkeit darüber, ob in diesem Fall Computerprogramme dabei helfen können, manipulierte Videos zu enttarnen. In jedem Fall gibt es Unternehmen, die an solchen Methoden arbeiten. Unabhängig von diesen technischen Lösungen gibt es aber auch ganz herkömmliche Methoden, um die Echtheit von Deepfakes zu überprüfen.

Wie kann ich die Echtheit von Videos überprüfen?

In Artikeln zum Thema Deepfakes wird oft der Eindruck erweckt, mit dieser neuen Technologie sei nun der Manipulation Tür und Tor geöffnet. Dabei wird regelmäßig unterschlagen, dass alle Mechanismen, die uns bisher vor Falschinformationen geschützt haben, natürlich auch bei Deepfakes greifen. Wie bei anderen Fake News ist es auch bei Deepfakes ratsam, sich erst einmal mit dem Kontext des Videos zu beschäftigen:

  • Wird das Video von einer seriösen Informationsquelle vertrieben oder eher von einer dubiosen Webseite?
  • Wann und wo ist das Video zum ersten Mal aufgetaucht? 
  • Stehen die Aussagen und das Verhalten der gezeigten Person im Gegensatz zu dem, was sie üblicherweise sagt und tut?

Das Bundesamt für Sicherheit in der Informationstechnik bietet viele Hintergrundinformationen zu den technischen Aspekten von Deepfakes und zeigt mögliche Erkennungsmerkmale.

Sind Deepfakes gefährlich?

Die wohl größte Gefahr von Deepfakes besteht nicht darin, dass Menschen gefälschte Aufnahmen für echt halten könnten, sondern kurioserweise im genauen Gegenteil - nämlich darin, dass sie echte Aufnahmen für gefälscht halten. Regelmäßig wird beim Thema Deepfakes der Eindruck erweckt, durch sie könne man nun endgültig gar nicht mehr sicher sein, ob man gefälschten Nachrichten aufsitzt oder nicht. Wer diesem Irrglauben folgt, kann schnell das Gefühl entwickeln, keiner Quelle mehr vertrauen zu können. Eine gefährliche Entwicklung für die Demokratie, denn für die politische Willensbildung ist es wichtig, dass Bürger*innen ihren Informationsquellen vertrauen.

Im Übrigen ergeben sich durch diese Dynamik weitere Möglichkeiten der politischen Propaganda. Wenn viele Leute es für wahrscheinlich halten, dass Videos unüberprüfbar gefälscht sein könnten, ist es ein Leichtes, jegliche unliebsame Aufnahme einfach als Deepfake zu deklarieren. In den USA verbreiteten Anhänger*innen von Verschwörungstheorien so zum Beispiel die Behauptung, das Video, in dem Donald Trump den Wahlsieg seines Kontrahenten Joe Biden anerkennt, sei lediglich ein Deepfake gewesen.