Deepfakes – der Manipulation ausgeliefert?

Den größten Schaden haben Deepfakes bisher in einem ganz bestimmten Genre angerichtet: Sie tauchten in der Pornografie zum ersten Mal auf. Auf einer Webseite, auf der Nutzer Inhalte teilen und suchen können, wurden Ende 2017 mehrere Fake-Pornos mit Schauspielerinnen wie Scarlett Johansson oder Emma Watson online gestellt. Innerhalb wenige Monate hatte der Kanal mehr als 90.000 Nutzer, selbst die Software zur Erstellung solcher Videos war zum Download verfügbar. Est nach vier Monaten wurde der Kanal gesperrt. Bis heute sind Schätzungen zufolge über 95 Prozent der im Internet kursierenden Deepfakes Pornos.

Es trifft aber nicht nur Stars. Noelle Martin aus Perth in Australien wurde als 17-jährige Schülerin das Opfer von Fake-Pornografie: Sie fand ihr Gesicht in fremden Bildern und Videos wieder, die auf mehreren pornografischen Foren kursierten. Vermutlich waren die Täter zufällig auf ihre Fotos in sozialen Medien aufmerksam geworden und montierten ihr Gesicht in pornografische Aufnahmen. Die Täter zur Verantwortung zu ziehen ist aber selbst für die großen Stars fast unmöglich. Täter und Webseitenbetreiber agieren aus den unterschiedlichsten Ländern. Das macht die Verfolgung schwierig und die Gesetzeslage verworren. Noelle Martin ging mit ihrer Geschichte an die Öffentlichkeit. Auch dank ihres Einsatzes gibt es in Australien seit 2018 ein Gesetz, nach dem Fake-Pornografie mit bis zu sieben Jahren Gefängnis bestraft werden kann.  

Bildquelle: getty images

Prof. Matthias Niessner forscht an der TU München an Methoden, mit denen sich Deepfakes enttarnen lassen – ebenfalls mithilfe einer KI. Anhand von Hunderten Fake-Videos haben sein Team und er eine Software darauf trainiert, Fälschungen zu erkennen. Sie sucht dabei nach Artefakten im Bild, die für das menschliche Auge unsichtbar sind.

Oben ist das Ergebnis eines Mensch-Maschine-Vergleichs zu sehen: Bei Videos mit hoher Auflösung entlarven Probanden in 67 Prozent der Fälle das Fake. Die Software liegt in 96 Prozent der Fälle richtig. Bei Videos von geringer Qualität, wie in sozialen Medien üblich, sinkt jedoch die Treffsicherheit: bei den Probanden auf 59 Prozent und bei der Software auf 81 Prozent. Dennoch, betont Prof. Niessner, kann die KI keineswegs menschliche Expert*innen bei der Echtheitsanalyse von Videos ersetzen, sie sei nur eines der Tools, die etwa in der Multimediaforensik zur Überprüfung von digitalen Mediendaten genutzt werden.

Bildquelle: ZDF

Unsere Augen wandeln einfallendes Licht um in Nervenimpulse. Doch unser eigentliches Sehorgan ist das Gehirn. Es macht „Plausibilitätskontrollen“, filtert aus der Unmenge an Lichtsignalen das vermeintlich Wichtige heraus und ignoriert den Rest. Das Ganze ist ein komplexer Prozess: Die Sehnerven leiten die Reize zum Thalamus, der Zentrale für Sinneseindrücke. Von dort gelangen sie zum visuellen Cortex, unserem Sehzentrum. Dieses triggert eine Signalflut in die Gegenrichtung und füttert seinerseits den Thalamus mit verknüpften Erinnerungen. Der Signalfluss „rückwärts“ ist bis zu sechsmal intensiver. Was wir am Ende wahrnehmen, ist eine Mischung aus dem, was das Auge aufnimmt, und dem, was das Gehirn kombiniert.

Öffnet ein Neugeborenes zum ersten Mal seine Augen, stürzt eine Lichtflut hinein, die für das Baby noch keinen Sinn ergibt. Es erkennt keine Farbe und kann nicht fokussieren. Dennoch ist es in der Lage, schon nach wenigen Stunden Gesichter zu erkennen. Von da an sind Gesichter sein liebster Anblick. Das Gehirn lernt schnell, das zunächst chaotische Feuerwerk der Nervenimpulse mit Erfahrungen zu verknüpfen. So entstehen immer mehr Nervenbahnen, die sich allmählich festigen. Auf diese Verbindungen wird das Gehirn ein Leben lang zurückgreifen. Nach etwa einem halben Jahr ist der Sehsinn ausgereift. Eine Fähigkeit aus unseren ersten Lebensstunden wird dabei perfektioniert: Wir werden immer besser darin, Gesichter zu erkennen. Weil wir so stark auf Gesichter geprägt wurden, sind wir aber auch anfällig für Täuschungen, besonders wenn sie per Video von einem Menschen vorgetragen werden. Hinzu kommt, dass Bilder, vor allem bewegte, uns stärker und emotionaler ansprechen als Texte. Die Informationen wirken glaubwürdiger – wir haben es schließlich „mit eigenen Augen gesehen“. Immerhin: Unser Gehirn ist sehr lernfähig. Schon haben wir uns dran gewöhnt, dass Fotos nicht immer Beweise sind. Nun werden wir auch lernen müssen, Videos anzuzweifeln.

Bildquelle: getty images