KI-Fake klaut ZDF-Moderator die Stimme - das steckt dahinter
Was steckt hinter der Masche?:KI-Fake klaut ZDF-Moderator die Stimme
von Jan Schneider und Oliver Klein
|
In einem Internet-Clip preist ZDF-Moderator Christian Sievers eine Tradingsoftware an - doch das Video ist gefälscht. Warum nutzen Betrüger Nachrichtensprecher für ihre Masche?
Immer mehr Videos sind KI-generiert. Das geht mittlerweile recht einfach. Aber es gibt auch Tricks, wie man sie erkennt. Wichtige Tipps zusammengefasst.22.09.2023 | 1:30 min
"Schlimme neue Welt" - Christian Sievers, Moderator des ZDF heute journals, zeigt sich bei X (früher Twitter) resigniert: "Der Typ sieht aus wie ich, klingt (fast) wie ich. Aber ich bin es nicht wirklich … Echt nicht. Vorsicht, fiese Betrugs-Masche mit KI in sozialen Medien", schreibt er.
Denn seit Wochen kursiert ein Video im Netz, in dem Christian Sievers offenbar ausgerechnet in der Nachrichtensendung eine Cybertrading-Plattform anpreist, mit der Nutzer angeblich mit kleinen Investitionen sehr schnell sehr viel Geld verdienen können. Doch das Video ist ein sogenannter Deepfake, genau wie die Stimme von Christian Sievers: Alles mit Künstlicher Intelligenz hergestellt.
Christian Sievers bei X
Ein Klick für den Datenschutz
Erst wenn Sie hier klicken, werden Bilder und andere Daten von Twitter nachgeladen. Ihre IP-Adresse wird dabei an externe Server von Twitter übertragen. Über den Datenschutz dieses Social Media-Anbieters können Sie sich auf der Seite von Twitter informieren. Um Ihre künftigen Besuche zu erleichtern, speichern wir Ihre Zustimmung in den Datenschutzeinstellungen. Ihre Zustimmung können Sie im Bereich „Meine News“ jederzeit widerrufen.
Video enthält Original-Ausschnitt von heute journal
Der Anfang des Videos wirkt noch absolut überzeugend - was daran liegt, dass es der echte Beginn des heute journals vom 30. April ist. Erstes Thema der Sendung damals: Künstliche Intelligenz. "Wir schauen in eine Zukunft, die längst begonnen hat", erklärt Sievers in der Anmoderation. Bis hierher ist es noch die Sendung im Original. Dann beginnt, kaum wahrnehmbar, der Fake:
"Wir sprechen von einer neuen, KI-gestützten Anlage-Plattform, die bereits Millionen von deutschen Bürgern zur Verfügung steht…", fährt der gefälschte Sievers fort. Dass seine Lippenbewegungen nicht mehr exakt zum Gesagten passen, merken ahnungslose Nutzer kaum. Alles wirkt immer noch wie eine echte Nachrichtensendung. Doch die KI hat die Stimme des Sprechers gekapert.
Die Polizei warnt vor Betrug mit Kryptowährung im Netz. Simone Wenzel fiel auf die "Höhle der Löwen-Masche" herein - und verlor über 21.000 Euro.05.06.2023 | 1:58 min
Betrüger versprechen Verdienst von über 15.000 Euro monatlich
Der vermeintliche Sievers erklärt nun, wie eine Software es jedem ermöglicht, "mit minimalen Investitionen große Geldsummen zu verdienen" - und zwar ab 15.000 Euro pro Monat. "Das ist unglaublich", heißt es im Video. Es folgen Filmausschnitte vom angeblichen Schicksal eines deutschen Ehepaars: Durch einen Brand hätten Robert und Susanne "all ihre Ersparnisse und Wertsachen" verloren, wie es heißt. Doch mit Hilfe der neuen App hätten sie 32.000 Euro in nur einem Monat verdient.
Alles Lüge - und das lässt sich an mehreren Stellen erkennen:
Lippenbewegungen nicht synchron zum Text: Die Mundbewegungen sehen teilweise mechanisch aus und scheinen nicht so richtig zum gesprochenen Text zu passen.
Schlechte Videoqualität: Das Video scheint verwaschen, die Auflösung gering. KI-Videos mit hoher Qualität sind noch eher selten.
Die Werbebotschaft an sich: In einer Nachrichtensendung des ZDF werden keine Produkte beworben.
Aussprache-Fehler: Auch die Stimme klingt teilweise seltsam, an einer Stelle wird beispielsweise das Wort "bei" ungewöhnlich in die Länge gezogen - ein typischer Fehler, wenn Künstliche Intelligenz eine Stimme synthetisiert
Material aus anderem Zusammenhang verwendet: Die Bilder des Brandes stammen von einem Feuer in Kalifornien, wie Faktenchecker der Deutschen Presseagentur recherchierten. Das angeblich deutsche Ehepaar stammt in Wirklichkeit aus Carlisle in Großbritannien - die beiden sind Lottogewinner.
Merkwürdige Formulierungen: "Wir konnten unser Glück nicht fassen, bis wir den Gewinn auf unser Bankkonto überwiesen haben", erklärt der angebliche Robert im eingespielten Film. Eine Formulierung, die so wenige Sekunden später durch die Stimme von Christian Sievers fast wörtlich wiederholt wird - ein Fehler, der normalerweise kaum in Nachrichtensendungen vorkommt.
Auch Sievers' Follower sind entsetzt über den Fake: "Wirklich gruselig" heißt es in den Kommentaren. "Mir macht sowas Angst. Bisher konnte ich mich immer noch auf meine Sinne verlassen. Und nun?", schreibt eine andere Nutzerin.
Angeblicher Geschäftsführer der Betrugsfirma ist ein Schauspieler
Wer hinter dem Fake steckt, ist nicht bekannt. Folgt man dem Link, gelangt man auf die Website einer angeblichen Firma namens "Gemini Holding". Dort könne man sich als "Beta-Tester" für eine Trading-Software registrieren, heißt es. Die Software wird als wahres Wunder gepriesen: Sie verdiene angeblich zwischen 10.000 und 50.000 Euro - pro Tag, wie der angebliche Geschäftsführer der Firma in einem Video erklärt.
Doch auch hier alles Fake: Der Mann ist ein Schauspieler. Er hat sich bei Youtube selbst zu Wort gemeldet und versucht seit Jahren, nicht mehr mit diesem Betrug in Verbindung gebracht zu werden. Er sei für das Video engagiert worden, habe nichts über das angebliche Produkt und die Firma dahinter gewusst. "Ich bin nicht der Geschäftsführer von irgendwas und ich bin definitiv kein Millionär", erklärt er. Die Firma sei Betrug.
Im Netz warnen inzwischen zahlreiche Betrugsopfer vor "Gemini": "Leider bin ich drauf reingefallen und mein Geld ist futsch", schreibt eine Nutzerin. "Es tut mir wirklich in der Seele weh, dass ich so dumm war."
Betrüger trainieren Software mit Nachrichtensprechern
Dass ausgerechnet heute-journal-Moderator Sievers für den Betrug ausgenutzt wird, sei kein Zufall, erklärt Martin Steinebach vom Fraunhofer-Institut für Sichere Informationstechnologie (SIT) in Darmstadt:
Nachrichtensprecher sind die perfekten Opfer für solche Fakes.
Martin Steinebach, Fraunhofer-Institut SIT
Von ihnen gibt es sehr viele Tonaufnahmen in einer sehr hohen Qualität, ohne Störgeräusche im Hintergrund wie beispielsweise Musik. Den Abzockern steht sehr viel Material von derselben Person mit derselben Stimmlage zur Verfügung. Das kann ideal als Trainingsmaterial für Software genutzt werden, um die Stimme nachzubauen.
Es ist der Enkeltrick 2.0: Polizei und Verbraucherschützer warnen vor einer starken Zunahme der Betrugsmasche mit "Hallo Mama"-SMS. Die Strategien der Täter werden immer perfider.
von Oliver Klein
FAQ
Programme kosten gerade mal einen Dollar pro Monat
Hinzu kommt, dass Nachrichtensprecher und die entsprechenden Sendungen ein hohes Vertrauen in der Bevölkerung genießen. Abzocker hoffen sehr wahrscheinlich, dass sie diese Glaubwürdigkeit ausnutzen können, um ein Produkt oder eine Anlagestrategie zu bewerben.
Auch von Tagesschau-Sprecher André Schünke hat es bereits ein ähnliches Video gegeben. Die Betrüger haben es leicht: Die Programme, mit denen solche Fälschungen erstellt werden, kosten meist gerade mal einen Dollar pro Monat.