Sie sind hier:

Deepfakes – der Manipulation ausgeliefert?

Mit Hilfe künstlicher Intelligenz lassen sich Videos heute nahezu perfekt manipulieren, sodass Menschen scheinbar Dinge sagen oder tun, die sie nie gesagt oder getan haben. Manipulationen erreichen eine neue Dimension. Wie groß ist die Gefahr?

30 min
30 min
13.04.2021
13.04.2021
UT
UT
Verfügbarkeit:
Video verfügbar bis 13.04.2026

Mehr zum Thema

Barack Obama, der Donald Trump als „Vollidioten“ bezeichnet, und eine befremdlich wirkende Weihnachtsansprache der britischen Queen Ende 2020: offensichtliche Fakes. Bisher zeigen nur Künstler und Aktivisten auf eher harmlose Weise, was möglich ist. Doch die Manipulationsmöglichkeiten sind beeindruckend – und beängstigend. Was, wenn jemand Fälschungen mit böser Absicht produziert? Fake-Videos von Politikern könnten Wahlen entscheiden oder gar einen Krieg auslösen. Wie realistisch ist ein solches Szenario?

Deepfake des Gesichts von Harald Lesch (Grafik)
Anhand von zahlreichen Aufnahmen lernt die künstliche Intelligenz (KI), wie Harald Lesch aussieht. Dieses Abbild lässt sich anschließend auf ein anderes Gesicht übertragen.
Quelle: ZDF

Für das Deepfake mit Harald Lesch und Dirk Steffens, das für diese Sendung erzeugt wurde, brauchte es nur einen gewöhnlichen Rechner und ein Team mit Computer-Know-how. Die Hauptarbeit übernahm künstliche Intelligenz (KI). Anhand von vielen echten Aufnahmen lernte die KI, wie Harald Lesch und Dirk Steffens aussehen und welche Mimik sie haben. Immer wieder durchläuft die KI dabei einen Lernprozess, das sogenannte Deep Learning, das die Kopie immer lebensechter macht. Die so erzeugten Abbilder lassen sich dann beliebig vertauschen. In unserem Fall wurde Harald Leschs Gesicht auf Dirk Steffens übertragen, sodass dieser als Harald Lesch auftreten konnte.  

Solche KI-Systeme sind kostenlos zum Download verfügbar. Theoretisch kann also jede*r Videos mithilfe der Deepfake-Technologie manipulieren. Da die Systeme jedoch nur die Gesichter tauschen, ist dennoch einiger Aufwand nötig, um damit Politikern Worte in den Mund zu legen. So muss zum Beispiel die Stimme imitiert und der Hintergrund passend gestaltet werden. Angesichts der rasanten Entwicklung der Technologie sollten wir aber wachsam bleiben.

Was wir über Deepfakes wissen

Leschs Kosmos - Übrigens ... zu Deepfakes 

Unsere Intuition ist gar nicht so zuverlässig, wie wir glauben. Professor Harald Lesch über schnelles und langsames Denken – und warum Stirnrunzeln gegen Manipulation helfen kann.

Videolänge
1 min · Wissen
Gemerkt auf Mein ZDF! Merken beendet Bewertet! Bewertung entfernt Zur Merkliste hinzugefügt! Merken beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Um zu verstehen, wie unsere Webseite genutzt wird und um dir ein interessenbezogenes Angebot präsentieren zu können, nutzen wir Cookies und andere Techniken. Hier kannst du mehr erfahren und hier widersprechen.

Um Sendungen mit einer Altersbeschränkung zu jeder Tageszeit anzuschauen, kannst du jetzt eine Altersprüfung durchführen. Dafür benötigst du dein Ausweisdokument.

Du wechselst in den Kinderbereich und bewegst dich mit deinem Kinderprofil weiter.