Sie sind hier:

Manipulierte Veröffentlichungen - Jeder kann zum Video-Fälscher werden

Datum:

Falschnachrichten und gefälschte Fotos sind in sozialen Netzen an der Tagesordnung. Auch auf Videos kann man sich nicht mehr verlassen. Sie könnten ebenfalls manipuliert sein.

Fake melden - Typical
Fake melden - Typical Quelle: dpa

Emma Gonzales überlebte den Amoklauf an ihrer Schule in Parkland im US-Bundesstaat Florida. Sie ist eines der Gesichter der #NeverAgain-Bewegung, die sich in den USA für schärfere Waffengesetze einsetzt. Für die Waffenlobby ist sie ein rotes Tuch und bei Facebook und Twitter immer wieder Zielscheibe von Aggressionen und Verleumdungen.

Zerreißt Gonzales wirklich die Verfassung?

Erst kürzlich tauchte im Netz eine kurze Videosequenz auf, die Gonzales zusammen mit drei anderen jungen Frauen zeigt. In diesem Clip zerreißt Gonzales ein Plakat mit dem Text der US-Verfassung, auf die sich Waffenfans berufen, wenn sie ihr Recht verteidigen, Waffen zu besitzen. Der kurze Clip wurde offenbar zuerst bei Gab.ai gepostet, einem Twitter-ähnlichen Kurznachrichtendienst, bei dem sich auch viele rechtsextreme Nutzer tummeln.

Erst auf den zweiten Blick wird klar: Die Videosequenz ist eine Fälschung. Im Original zerreißt Gonzales aus Protest gegen die laxen US-Waffengesetze ein Plakat, auf dem eine Zielscheibe abgebildet ist. Die unbekannten Fälscher haben dieses Plakat durch ein anderes ersetzt, auf dem der Text der Verfassung zu sehen ist. Auch ein gefälschtes Foto mit demselben Inhalt wurde bei Facebook und Co. verbreitet.

Manipulierte Porno- und Sexvideos

Gefälschte Videos sind kein neues Phänomen. Bisher ließen sich Videos allerdings nur von Fachleuten und mit großem Aufwand manipulieren, sollte das Ergebnis glaubwürdig sein. Das ist seit kurzem anders. Ende letzten Jahres tauchten auf dem US-Internetportal Reddit die ersten von Usern manipulierten Videos auf – meist Porno- und Sexvideos. Auf die Gesichter der Darstellerinnen waren Gesichter von Prominenten montiert worden. Experten sprechen von Deepfakes.

Der Begriff geht auf den gleichlautenden Namen des Reddit-Users zurück, der als einer der ersten solche manipulierten Videos postete und bei Reddit einen mittlerweile gelöschten Diskussionsstrang eröffnete. Deepfakes setzt sich aus den Begriffen "deep learning" und "fake" zusammen. Beim "deep learning" werden künstliche neuronale Netze mit Unmengen an Daten gefüttert und zum Beispiel darauf trainiert, Gesichter auf Fotos zu erkennen.

Videos fälschen leicht gemacht

Anders als bei der Bildbearbeitung mit gängigen Programmen wie Photoshop kommen bei der Bearbeitung von Videos Künstliche Intelligenz und eine Technologie namens "Face-Swap" (Gesichtertausch) zum Einsatz. Mit Hilfe des frei zugänglichen Programms "FakeApp" und einem leistungsstarken PC können auch Nutzer ohne große technischen Vorkenntnisse Videos manipulieren. Längst gibt es im Netz entsprechende Schritt-für-Schritt-Anleitungen.

Noch sind solche Videos nicht fehlerfrei. "Den ausgetauschten Gesichtern fehlen oft Details", so Pina Merkert von der Computerzeitschrift "c’t" auf Nachfrage von heute.de. "Wie die Fehler aussehen, hängt von der Variante des Deepfakes-Algorithmus ab, die zum Einsatz kam." Manche Varianten zeichneten Teile des Gesichts zu weich, während Kanten an anderen Stellen zu hart blieben, sagt Merkert. Man könne aber davon ausgehen, dass die Fälschungen künftig immer besser würden.

Fremde Worte in den Mund gelegt

Längst kann man zum gefälschten Video auch eine gefakte Tonspur produzieren – sprich: der Person im Video fremde Worte lippensynchron in den Mund legen. Forscher der Uni Washington haben entsprechende Algorithmen entwickelt und den Ton in einem Video mit Ex-Präsident Obama manipuliert. An der Uni Erlangen-Nürnberg wurde zudem eine Software programmiert, die Mimik und Lippenbewegungen eines Menschen täuschend echt auf das Videobild einer anderen Person überträgt.

"Beim geschriebenen Wort sind wir es seit jeher gewohnt, Lügen erkennen zu müssen", sagt Merkert. Spätestens seit es Photoshop gibt, haben wir uns auch daran gewöhnt, den Inhalt von Bildern zu hinterfragen. "Was für Bilder galt, gilt jetzt auch für Videos: Es könnte immer auch ein Fake sein", meint die Expertin. Solche Videos können verbreitet werden, um Nutzer gezielt zu manipulieren und Diskussionen in sozialen Netzwerken zu beeinflussen.

Original oder Fälschung?

Wenn die Qualität der Fälschungen immer besser wird, woran kann man dann noch erkennen, ob ein Video manipuliert wurde? Wichtig sei es, den Kontext eines Videos zu berücksichtigen, sagt Merkert. "Widerspricht die gezeigte Situation den Erwartungen, sollte man sehr genau hinschauen." Der Nutzer müsse sich dann fragen, aus welcher Quelle ein Video stamme und wie vertrauenswürdig diese Quelle sei. "Wer allerdings jetzt schon auf Fake-News hereinfällt, wird es in Zukunft noch schwerer haben", meint Merkert.

Gemerkt auf Mein ZDF! Merken beendet Bewertet! Bewertung entfernt Abonniert auf Mein ZDF! Abo beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert

Die Website verwendet Cookies, um Ihnen ein bestmögliches Angebot zu präsentieren. Nähere Informationen und die Möglichkeit, die Verwendung von Cookies einzuschränken finden Sie hier.

Sie wechseln in den Kinderbereich und bewegen sich mit Ihrem Kinderprofil weiter.