Deepfakes

Wenn es um Desinformation und Fake News im Internet geht, liest man immer öfter auch von Deepfakes. Deepfakes sind Aufnahmen von Personen, die mithilfe von Computerprogrammen hergestellt werden. Meistens sind mit dem Begriff Deepfake Videos gemeint. Es können aber auch Bilder oder Tonaufnahmen als Deepfakes bezeichnet werden.

Auf den manipulierten Videos sind Personen zu sehen, die Dinge tun oder sagen, die nicht wirklich passiert sind. Es gibt unterschiedliche Gründe, warum Menschen Deepfakes veröffentlichen. Manche möchten Falschinformationen verbreiten. Andere machen Deepfakes, die witzig gemeint sind. Sehr viele Deepfakes sind außerdem im pornografischen Bereich zu finden.
Bei manchen Deepfakes ist es recht offensichtlich, dass die Aufnahme nicht echt ist. Es gibt aber auch Deepfakes, bei denen man nicht leicht erkennen kann, dass die Aufnahmen verändert wurden.

Es ist wichtig, die nötigen Kompetenzen zu erlernen, um wahre von falschen Informationen zu unterscheiden. Das Thema Deepfakes eignet sich hervorragend für die medienpädagogische Arbeit, weil sie als neue technische Form der Manipulation eine große Faszination ausüben. Wichtig ist dabei, nicht nur die scheinbar unendlichen Möglichkeiten der Manipulation zu betonen, sondern auch die Grenzen des Möglichen. Und vor allem aufzuzeigen, wie man mithilfe eigener Kompetenzen oder Faktencheck-Seiten Deepfakes auf die Spur kommen kann.

Was sind Deepfakes?

Deepfakes kann man sich wie eine digitale Maske vorstellen. Auf eine Videoaufnahme von einem Menschen setzt ein Computerprogramm ein neues Gesicht auf. Damit dieses Gesicht realistisch aussieht, benötigt das Computerprogramm sehr viele Bilder von dem „neuen“ Gesicht. Je mehr Bilder das Programm zur Verfügung hat, desto besser ist das Ergebnis. Daher handelt es sich bei den überzeugenderen Deepfakes auch bisher immer um die Gesichter von bekannten Personen. Denn von ihnen gibt es viele Bilder im Internet.

Bei Deepfakes geht es also immer darum, mithilfe von Computerprogrammen die Identität von Personen in Aufnahmen einzufügen, in denen sie in Wirklichkeit gar nicht vorkommen. Zum Beispiel, wenn die Gesichter von bekannten Schauspieler*innen in pornografische Videos eingefügt werden. Oder eine echte Aufnahme einer Person wird so verändert, dass sie etwas ganz anderes sagt als in der ursprünglichen Aufnahme.

Das folgende Video von Monkeypaw Productions und BuzzFeed nutzt Deepfake-Technologie, um vor ihren Gefahren zu warnen. Über die Einstellungen unten rechts im Bild können Sie die englischen Untertitel an- oder ausstellen. Außerdem können Sie die Untertitel automatisch ins Deutsche übersetzen lassen.

Woran erkenne ich Deepfakes?

In den meisten Fällen war es bisher so, dass man Deepfakes mit dem bloßen Auge erkennen kann. So beeindruckend die Technik ist, auf der Deepfakes basieren – ganz perfekt ist sie noch nicht. Typische Erkennungsmerkmale sind eine unnatürliche Mimik, ein leerer Blick oder auch nicht korrekte Schattenwürfe im Gesicht. Es hilft, sich die betreffenden Videos im Vollbildmodus anzuschauen, um diese kleinen Fehler zu entdecken.

Wir müssen allerdings davon ausgehen, dass die Technik sich weiter verbessert und Deepfakes tatsächlich nicht mehr als solche erkennbar sind. Es herrscht Uneinigkeit darüber, ob in diesem Fall Computerprogramme dabei helfen können, manipulierte Videos zu enttarnen. In jedem Fall gibt es Unternehmen, die an solchen Methoden arbeiten. Unabhängig von diesen technischen Lösungen gibt es aber auch ganz herkömmliche Methoden, um die Echtheit von Deepfakes zu überprüfen.

Wie kann ich die Echtheit von Videos überprüfen?

Alle Möglichkeiten, die uns beim Überprüfen von Falschinformationen helfen, können wir auch bei Deepfakes einsetzen. Wie immer bei Falschmeldungen sollte man sich zunächst mit dem Kontext des Videos zu beschäftigen:

  • Kann man das Video auch auf seriösen Nachrichtenseiten finden oder nur auf eher dubiosen Webseiten bzw. auf Social-Media-Plattformen?
  • Haben Faktencheck-Portale das Video schon überprüft? Zum Beispiel Mimikama, CORRECTIV, dpa-Faktencheck oder BAIT: Faktencheck-Kanal für Jugendliche auf TikTok.
  • Kann ich mit einer Suchmaschine herausfinden, wann und wo das Video zum ersten Mal aufgetaucht ist?
  • Stehen die Aussagen und das Verhalten der gezeigten Person im Gegensatz zu dem, was sie üblicherweise sagt und tut?

Das Bundesamt für Sicherheit in der Informationstechnik bietet viele Hintergrundinformationen zu den technischen Aspekten von Deepfakes und zeigt mögliche Erkennungsmerkmale.

Sind Deepfakes gefährlich?

Die wohl größte Gefahr von Deepfakes besteht nicht darin, dass Menschen gefälschte Aufnahmen für echt halten könnten, sondern im genauen Gegenteil - nämlich darin, dass sie echte Aufnahmen für gefälscht halten. Oft wird beim Thema Deepfakes der Eindruck erweckt, durch sie können wir nun endgültig nicht mehr sicher sein, ob wir echte oder gefälschte Nachrichten sehen. Daraus kann schnell das Gefühl resultieren, keiner Quelle mehr vertrauen zu können. Eine gefährliche Entwicklung für die Demokratie, denn für die politische Willensbildung ist es wichtig, dass Bürger*innen ihren Informationsquellen vertrauen.

Durch diese Dynamik ergeben sich weitere Möglichkeiten der politischen Propaganda. Wenn viele Leute es für wahrscheinlich halten, dass Videos unüberprüfbar gefälscht sein könnten, ist es ein Leichtes, jegliche unliebsame Aufnahme einfach als Deepfake zu deklarieren. In den USA verbreiteten Anhänger*innen von Verschwörungstheorien so zum Beispiel die Behauptung, das Video, in dem Donald Trump den Wahlsieg seines Kontrahenten Joe Biden anerkennt, sei lediglich ein Deepfake gewesen.