Deepfakes

Wenn es um die Themen Desinformation und Fake News im Internet geht, fällt oft der Begriff Deepfakes. Dabei handelt es sich um manipulierte Videos, in denen Personen Dinge tun oder sagen, die sie nie getan oder gesagt haben. Neben der politischen Einflussnahme finden Deepfakes auch in anderen Rahmen Anwendung. Beliebt sind zum Beispiel parodistische Videos, bei denen in der Regel klar ist, dass es sich um eine manipulierte Aufnahme handelt. Eine Gefahr, dass Deepfake-Aufnahmen für echt gehalten werden könnten, besteht also nicht immer. Weniger lustig ist der Einsatz von Deepfake-Technologie im Bereich der Pornografie. Hier werden die Gesichter von Personen in pornografische Aufnahmen eingefügt – ein schwerer Verstoß gegen die Persönlichkeitsrechte und je nach Fall sogar eine Straftat.

Es ist wichtig, die nötigen Kompetenzen zu erlernen, um wahre von falschen Informationen zu unterscheiden. Das Thema Deepfakes eignet sich hervorragend für die medienpädagogische Arbeit, weil sie als neue technische Form der Manipulation eine große Faszination ausüben. Wichtig ist dabei, nicht nur die scheinbar unendlichen Möglichkeiten der Manipulation zu betonen, sondern auch die Grenzen des Möglichen. Und vor allem aufzuzeigen, wie man mithilfe eigener Kompetenzen oder Webangeboten wie Faktencheck-Seiten Deepfakes auf die Spur kommen kann.

Was sind Deepfakes?

Deepfakes kann man sich wie eine digitale Maske vorstellen. Auf eine Videoaufnahme von einem Menschen setzt ein Algorithmus ein neues Gesicht auf. Damit dieses Gesicht einigermaßen realistisch aussieht, benötigt das verwendete Computerprogramm sehr viele Bilder von dem „neuen“ Gesicht. Je mehr Bilder das Programm zur Verfügung hat, desto besser ist das Ergebnis. Daher handelt es sich bei den überzeugenderen Deepfakes auch bisher immer um die Gesichter von bekannten Personen, von denen es frei zugänglich eine Vielzahl von Bildern gibt.

Neben den Deepfakes, die das Aussehen einer Person nachstellen, gibt es auch Deepfakes, die die Stimme einer Person imitieren.

Woran erkenne ich Deepfakes?

In den meisten Fällen ist es bisher so, dass man Deepfakes mit dem bloßen Auge erkennen kann. So beeindruckend die Technik ist, auf der Deepfakes basieren –perfekt ist sie noch nicht. Typische Erkennungsmerkmale sind eine unnatürliche Mimik, ein leerer Blick oder auch nicht korrekte Schattenwürfe im Gesicht. Es hilft, sich die betreffenden Videos im Vollbildmodus anzuschauen, um diese kleinen Fehler zu entdecken.

Es ist natürlich nicht auszuschließen, dass die Technik sich in Zukunft so verbessert, dass Deepfakes tatsächlich für uns nicht mehr als solche erkennbar sind. Es herrscht Uneinigkeit darüber, ob in diesem Fall Computerprogramme dabei helfen können, manipulierte Videos zu enttarnen. In jedem Fall gibt es Unternehmen, die an solchen Methoden arbeiten. Unabhängig von diesen technischen Lösungen gibt es aber auch ganz herkömmliche Methoden, um die Echtheit von Deepfakes zu überprüfen.

Wie kann ich die Echtheit von Videos überprüfen?

Alle Mechanismen, die uns bisher vor Falschinformationen geschützt haben, greifen auch bei Deepfakes. Hier ist es auch ratsam, sich erst einmal mit dem Kontext des Videos zu beschäftigen:

  • Wird das Video von einer seriösen Informationsquelle vertrieben oder von einer eher dubiosen Webseite?
  • Wann und wo ist das Video zum ersten Mal aufgetaucht? 
  • Stehen die Aussagen und das Verhalten der gezeigten Person im Gegensatz zu dem, was sie üblicherweise sagt und tut?

Das Bundesamt für Sicherheit in der Informationstechnik bietet viele Hintergrundinformationen zu den technischen Aspekten von Deepfakes und zeigt mögliche Erkennungsmerkmale.

Sind Deepfakes gefährlich?

Die wohl größte Gefahr von Deepfakes besteht nicht darin, dass Menschen gefälschte Aufnahmen für echt halten könnten, sondern im genauen Gegenteil - nämlich darin, dass sie echte Aufnahmen für gefälscht halten. Oft wird beim Thema Deepfakes der Eindruck erweckt, durch sie können wir nun endgültig nicht mehr sicher sein, ob wir echte oder gefälschte Nachrichten sehen. Daraus kann schnell das Gefühl resultieren, keiner Quelle mehr vertrauen zu können. Eine gefährliche Entwicklung für die Demokratie, denn für die politische Willensbildung ist es wichtig, dass Bürger*innen ihren Informationsquellen vertrauen.

Durch diese Dynamik ergeben sich weitere Möglichkeiten der politischen Propaganda. Wenn viele Leute es für wahrscheinlich halten, dass Videos unüberprüfbar gefälscht sein könnten, ist es ein Leichtes, jegliche unliebsame Aufnahme einfach als Deepfake zu deklarieren. In den USA verbreiteten Anhänger*innen von Verschwörungstheorien so zum Beispiel die Behauptung, das Video, in dem Donald Trump den Wahlsieg seines Kontrahenten Joe Biden anerkennt, sei lediglich ein Deepfake gewesen.