Anleitung: Tipps um Fake Tweets zu entlarven

Twitter ist voller falscher Informationen. Der niederländische Datenjournalist Henk van Ess gibt im folgenden Video-Toolkit zehn Insider-Tipps, wie er dubiose Tweets entlarvt.

Russischer Einfluss auf deutsche soziale Netzwerke

Selbst Twitter-Mitbegründer Ev Williams gibt zu, dass dort eine regelrechte Fake News-Epidemie herrscht. Das Toolkit von Melanie Smith, Chloe Colliver, Alexey Kozlov und mir, Henk van Ess, wird für Forschungszwecke vom Institute for Strategic Dialogue und vom Arena Programme an der London School of Economics genutzt, wo auch Daten zur russischen Einflussnahme auf den deutschen Wahlkampf in sozialen Netzwerken ausgewertet wurden. So gibt es etwa eine interessante Verbindung der rechtspopulistischen Partei AfD zum Kreml. (PDF-Dokument)

Wir haben auch eine zwielichtige nicht börsennotierte Firma in Nischni Nowgorod, Russland, aufgedeckt, die Pro-AfD-Tweets mit Hilfe von Bots verbreitete (s. BuzzFeed-Artikel). Im Folgenden wird erläutert, wie wir diese russischen Meinungsmacher mit Hilfe von Validierungstools ausfindig machen konnten.

Doch zuerst: Warum löscht Twitter nicht einfach alle Bots?

Wie werden Twitter-Bots geboren?

Um diese Frage zu beantworten, habe ich das Darknet besucht und mir dort eine Software beschafft, von der behauptet wird, dass sie in nur wenigen Stunden Twitter-Bots herstellen kann. Ich habe dieses höchst illegale Programm nur ein paar Minuten genutzt - zu Anschauungszwecken.  

Politik | Frontal 21 - Entstehung von Twitter-Bots

Vereinfachte Demonstration der Hacking-Software

Videolänge:
1 min
Datum:

Diese Software benutzt falsche Namen und Anschriften, um im Handumdrehen hunderte neuer E-Mail-Accounts anzulegen. Sie füttert dann das Twitter-Anmeldeportal mit jeder einzelnen E-Mail-Adresse und spuckt zufallsgenerierte Benutzernamen aus. Falls ein Benutzername schon besetzt ist, wird einfach ein neuer generiert. Die Software erkennt auch, dass Twitter zusätzliche Informationen verlangt wie etwa eine Telefonnummer.

Nach nur zwei Minuten habe ich abgebrochen und bereits meine ersten zehn Twitter-Bots erschaffen. Das würde bedeuten, dass die Software wohl 300 Bots pro Stunde oder 7.200 am Tag generieren könnte. Die so erschaffene Bot-Armee kann man dann auf bestimmte Städte, Länder oder Kontinente loslassen, indem man auf Tweets von existierenden Nutzern antwortet. Oder man lässt sie nur auf eine Handvoll Hashtags los, bis man auf Twitter bekannt ist wie ein „bunter Hund“ - also zum Trending Topic geworden ist.

Wie aber lässt sich mit diesen Millionen Fake-Accounts Geld machen? Spams generieren Einkünfte aus Onlinewerbung. Und politische Tweets werden von Interessenvertretern gekauft, nicht nur in der Form von offizieller Werbung, sondern auch über Kooperationen mit illegalen Bot-Farmen, die Aufmerksamkeit generieren sollen.

Während einer virtuellen Tour durch solch eine kommerzielle Hacking- und Bot-Farm (s. BuzzFeed), versicherte mir ein Mitarbeiter namens "Alexander", dass sie mich in die Top Ten der Trending Topics auf Twitter in Deutschland am Wahltag bringen könnten; mit dem Hashtag #AfD - eben jener nationalkonservativen Partei, die zum ersten Mal in den Bundestag einziehen wird. Die Kosten waren mit nur 180 US-Dollar relativ überschaubar.

Russischer Fake-Tweet-Spezialist
Ein russischer Fake-Tweet-Spezialist fragt uns, wie wir unsere Bot-Armee gerne hätten: in c+? Quelle: Henk van Ess

Der Hacker sagte mir, dass professionelle Spammer es bevorzugen, ihre Bot-Armee von Grund auf selbst zu schreiben, in der Programmiersprache „c+“. Twitter habe zunehmend Probleme die "handgeschriebenen" Bots aufzuspüren. Diese auf „c+“ basierende Software zu kaufen, wäre sehr teuer gewesen: mehr als 10.000 US-Dollar.

Wie bekämpft man Bots?

Schlagen Sie zurück! Mit den richtigen Werkzeugen ist es möglich, mehr über jeden Twitter-Account in Erfahrung zu bringen und dubiose Accounts als Bots zu entlarven. Hier folgen zehn Video-Tipps:

Tipp 1: Die exakte Geburtsstunde finden

In diesem Artikel ist Nikolai Kusnjezow (Николай Кузнецов), Twitter-Name adjust_ps, unsere Zielperson. Wenn Sie alle zehn Tipps gelesen haben, werden Sie wissen, warum er ein Bot sein muss. Der Account stammt von einer Bot-Farm mit einem Team von 31 Programmierern und sechs Managern. Aber immer der Reihe nach:

Politik | Frontal 21 - Die exakte Geburtsstunde finden

Twitter Birthday tut genau das, es funktioniert jedoch nicht immer. Und Ihre Privatsphäre wird auch nicht respektiert: Ihre Suchanfrage ist für den Rest der Welt sichtbar.

Videolänge:
1 min
Datum:

Wenn Sie auf die Profilseite eines beliebigen Twitter-Nutzers gehen, Ihren Mauszeiger über das Datum platzieren und warten, wird Ihnen die exakte Zeit angezeigt, an dem der Account eröffnet wurde. Diese Information ist sehr nützlich, denn oft melden sich nach gewissen Vorfällen "Augenzeugen" zu Wort. Bei näherer Betrachtung kommt aber heraus, dass die Accounts erst in den Minuten nach dem Vorfall eröffnet wurden und in Wirklichkeit Spam verbreiten.

Jetzt wissen Sie, wann die Person angefangen hat zu twittern. Die zweite Frage ist, womit?

Tipp 2: Die ersten Spuren finden

Ein Bot kommt zur Welt und fängt sofort schamlos damit an, Ideen oder Produkte zu vermarkten. Darum ist es bei einem verdächtigen Account interessant, in der Zeit zurück zu gehen. Das geht ganz leicht mit der fortgeschrittenen Twitter-Suchfunktion, wie im Video zu sehen ist. In ihrem ersten Jahr vertwitterte unsere Zielperson nur Links zu YouTube-Videos. Das kommt schon mal vor, ist aber auch dem Verhalten von Bots nicht unähnlich.

Politik | Frontal 21 - Erste Tweets

Die ersten Tweets werden verbreitet.

Videolänge:
1 min
Datum:

Wenn Sie die etwas technischere Variante nicht scheuen, können Sie auch diese Formel in die Suchmaske eingeben: from: (1) gefolgt von dem Benutzernamen und einem Leerzeichen, dann since: (2) gefolgt von Anfangsdatum im Format Jahr-Monat-Tag.

Formel, die direkt bei Twitter eingegenben werden kann
Diese Formel kann direkt bei Twitter eingegeben werden. Quelle: Henk van Ess

Komischerweise hat Twitter den Dienst #firsttweet dieses Jahr dicht gemacht.

First Tweet bei Twitter
Twitter hatte mal einen exzellenten Service, um den ersten Tweet eines Nutzers zu finden. Im Zeitalter von Fake News bräuchten wir ihn dringend zurück. Quelle: Henk van Ess

Praktisches Beispiel

Lassen Sie uns Tipp 1 und 2 in einer richtigen Suche anwenden. Ein Twitter-Account war in den letzten Stunden der Wahl besonders aktiv. Die Userin deutete Unregelmäßigkeiten bei der Wahl an und der Tweet wurde geteilt.

Twitter_beispiel zur AfD der Userin Sahrer
Quelle: Henk van Ess

Die Userin behauptet, dass AfD-Stimmen ungültig gemacht werden würden. Glauben Sie das? Die deutschen Behörden nahmen es ernst und antworteten, dass Wahlbetrug strafbar sei.

Twitter-Beispiel vom Bundeswahlleiter: Tweet Wahlfälschung ist strafbar
Quelle: Henk van Ess

Das ist der Grund, warum man sich immer das Entstehungsdatum (Tipp 1) und den ersten Tweet anschauen sollte (Tipp 2). Folgt man diesen Tipps, erfährt man bei unserem Beispiel etwas über scheinbare Vorlieben der Userin.

Beispiel Twitter: Tweet von Sahrer
Quelle: Henk van Ess

Für die Meisten verliert sie damit als Quelle für möglichen Wahlbetrug an Glaubwürdigkeit.

Es macht also Sinn, sich die früheren Tweets anzuschauen, um den Kontext zu verstehen. Ein schlechter Bot wird versuchen, Ihnen gleichzeitig Viagra und eine politische Idee zu verkaufen.

Tipp 3: Follower überprüfen

Die Follower eines Twitter-Accounts zu analysieren, kann oft Hinweise zutage fördern. Es hängt vor allem davon ab, was man von einem Account erwarten sollte. Wenn man zum Beispiel einer deutschsprachigen Bewegung folgt, die sich zum Ziel macht, Angela Merkel als Kanzlerin abzusetzen, wäre es nur logisch, wenn die meisten Follower auch aus Deutschland kämen (wie im Video zu sehen).

Politik | Frontal 21 - Lokalisierung der Twitter-User

Die geografische Herkunft der Follower eines Twitter-Accounts lässt sich analysieren.

Videolänge:
1 min
Datum:

Aber wie sieht es für unseren vermeintlichen Bot aus? Ein russischer Typ, der eine komische Mischung aus Werbung, YouTube-Links und AfD-Unterstützung veröffentlicht?

Hier ist ein Tipp: Professionelle Bots (nicht die gesichtslosen Bots ohne Namen und Biografie, die ständig nur spammen) haben Profilbilder, Biografien und oft auch Links zu anderen sozialen Netzwerken. Um Spamfilter zu umgehen, suchen sie sich ihre automatisierten "Follower" sehr genau aus und verteilen sie über alle Kontinente (wie im Video zu sehen). Unser russischer Freund passt genau in dieses Schema, also sollten wir ihn uns noch näher anschauen. Es ist ein erster Hinweis, aber wir brauchen noch weitere.

Ortsgebundene User, die in ihrer Muttersprache twittern, haben meistens keine Anhängerschaft, die gleichmäßig über den Globus verteilt ist. Falls das plötzlich der Fall sein sollte, dann ist dies ein Grund, etwas genauer nachzuschauen.

Tipp 4: Twitter-User auch bei Facebook suchen

Ein weiteres Muster, das professionelle Bots erkennbar macht, ist, dass der Twitter-Benutzername und die E-Mail-Adressen oft sehr ähnlich sind, weil sie automatisiert erstellt wurden. Für soziale Netzwerke benutzen Bots oft E-Mail-Adressen, die auf dem Benutzernamen des Twitter-Bots basieren.

Politik | Frontal 21 - Überprüfung von Twitter-Accounts bei Facebook

Den Twitter-User auch bei Facebook suchen.

Videolänge:
1 min
Datum:

Bleiben wir bei dem Beispiel des russischen Accounts adjust_ps. Hier kann man etwas experimentieren und versuchen, mögliche E‑Mail-Adressen zu erraten: adjust_ps@yahoo.com, adjust_p@hotmail.com oder adjust.p@gmail.com sind wahrscheinliche Kandidaten.

Diese E-Mail-Adressen kann man direkt in das Suchfeld bei Facebook eingeben und nach Personen suchen. Wenn ein User die Suche über E-Mail-Adresse gestattet, wird man ihn auch finden. Wie im Video zu sehen, ist adjust.p@gmail.com die richtige Adresse und sie führt uns direkt zum Facebook-Account unserer Zielperson. Er benutzt das gleiche Foto bei Facebook und bei Twitter. (Anm. der Red.: Der Besitzer hat das Mail-Checking bei Facebook deaktiviert, nachdem dieser Artikel publiziert wurde.)

Was halten Sie von seinem Facebook-Account? Fast jeder Beitrag ist ein Link, nie etwas Persönliches. Er ist Mitglied in tausenden kommerziellen Gruppen aus aller Herren Länder, was sehr auf Bot-Verhalten hindeutet.

Tweets der Zielperson
Quelle: Henk van Ess

Tipp 5: Verdächtige Wörter in Tweets suchen

Dieses Tool erleichtert das Suchen nach Stichwörtern in der Twitter-Timeline. Einfach den Twitter-Namen der Zielperson eingeben und man bekommt eine Zusammenstellung aller Tweets mit diesem Stichwort sowie die genaue Zeit der Veröffentlichung.

Politik | Frontal 21 - Nach Stichwörtern in der Twitter-Timeline suchen

Dieses Tool erleichtert das Suchen nach Stichwörtern in der Twitter-Timeline.

Videolänge:
1 min
Datum:

Unsere Zielperson adjust_ps postet über die AfD. Warum?

<strong>Tipp 6: Suchen mit Hilfe von Big Data </strong>

Politik | Frontal 21 - Suchen mit Hilfe von Big Data

Datenanalyse

Videolänge:
1 min
Datum:

Die Datenanalyse zeigt zwei Knotenpunkte, die Tweets aus Russland über die Bundestagswahl verbreiteten.

Grafik mit allen Tweets, die sich für die AfD aussprechen und wahrscheinlich aus Russland stammen.
Quelle: Henk van Ess
Grafik: Ähnlichkeiten zwischen den beiden Meinungsführern Adjust_ps und gyroscope999
Quelle: Henk van Ess

In der ersten Grafik sehen Sie alle Tweets, die sich für die AfD aussprechen und wahrscheinlich aus Russland stammen. Adjust_ps und gyroscope999 sind die Meinungsführer. In der zweiten Grafik kann man die Ähnlichkeiten zwischen diesen beiden Meinungsführern erkennen. Der große Account und der etwas kleinere, unsere Zielperson, werden von denselben Accounts gefolgt.  Das ist typisches Bot-Verhalten. In einer Armee von Bots folgt jeder jedem.

Wir haben sogar die russische Bot-Farm direkt kontaktiert und gefragt, ob wir gyroscope999  und adjust_ps nutzen könnten, um politische Informationen zu verbreiten. Sie gaben zu, beide zu besitzen. Das war ein weiterer wichtiger Hinweis.

Universitäten und Nachrichtenmedien bevorzugen kostenpflichtige Tools, um versteckte Verbindungen zwischen Twitter-Accounts aufzudecken. Wir nutzten ebenfalls Scraawl und Graphika.de:

Grafik: Repräsentation der Interessensgebiete in deutschen und russischen sozialen Netzwerken
Quelle: Henk van Ess

Tipp 7: Skype nutzen, um Kontaktdaten zu finden

Politik | Frontal 21 - Validierung mit Skype

Skype nutzen, um Kontaktdaten zu finden.

Videolänge:
1 min
Datum:

Microsoft hat eine Menge Daten aus ihren verschiedenen Diensten wie Hotmail und Live zusammengetragen und sie mit dem Suchfeld von Skype zugänglich gemacht. Bei Skype unter "Kontakt hinzufügen" einfach die E-Mail-Adresse eingeben, um zu sehen, wer dahinter steckt – wie bei dem Beispiel oben.

Tipp 8: Einem fragwürdigen Account ein Gesicht geben

Politik | Frontal 21 - Namen finden mit Foursquare

Aus einem anonymen Twitter-User wird eine Person mit vollem Namen.

Videolänge:
1 min
Datum:

Hat dieser Twitter-Account (unten) wirklich etwas mit den Kardashians zu tun? Wahrscheinlich nicht, aber wie kann man sichergehen?

Twitter-Account Karol Kardashian
Quelle: Henk van Esss

Die meisten Menschen benutzen oft den gleichen Benutzernamen in verschiedenen sozialen Netzwerken. Um mehr über diese Personen herauszufinden, kann man folgende Methode anwenden: Einfach twitter.com/ahcarolina durch foursquare.com/ahcarolina ersetzen und man bekommt den Link zu ihrem Facebook-Profil mit ihrem echten Namen.

Tipp 9: Den "Online-Einfluss" finden

Wenn man auf klout.com/ahcaroline geht, findet man den Online-Einfluss dieser Userin, der Aufschluss darüber geben kann, ob ein Account echt ist oder nicht.

Politik | Frontal 21 - Fake Bots finden mit Klout

Es ist nicht perfekt, aber der "Online-Einfluss" hilft zu ermitteln, wie aktiv ein Twitter-Account ist.

Videolänge:
1 min
Datum:

Zwar ist Klout nicht perfekt, aber es kann Aufschluss über den Einfluss einer Person auf Twitter geben. Die Skala geht von 0 bis 100 Punkte. Wenn Ihre Lieblingsquelle einen Punktestand von 0 bis 10 hat, sollten Sie zumindest etwas misstrauisch werden, besonders wenn sie große Behauptungen macht. Wenn der Punktestand 60 oder höher ist, handelt es sich um eine bewährte Quelle, die ziemlich oft retweetet wird. Haben Sie übrigens gewusst, dass manche Telefonanbieter Sie über den Twitter-Helpdesk besser behandeln, wenn Ihr Klout-Score über 60 ist?

Twitter-Account Bernd Luge
Quelle: Henk van Ess

Professionelle Bots versuchen ihren wahren Existenzgrund zu verschleiern, indem sie sich über Monate oder sogar Jahre völlig normal verhalten, in der Hoffnung so einen hohen Social-Score zu erlangen. Früher oder später werden sie sich aber wieder wie Bots verhalten und wahlloses Zeug von sich geben. Glücklicherweise lässt sich das über Klout auch nachprüfen, siehe adjust_ps.

Tipp 10: Wie aktiv ist der Bot?

Für unseren letzten Tipp möchten wir Ihnen ein generisches Tool vorstellen, mit dem man Details über User in sozialen Netzwerken finden kann. Es zeigt an, ob ein Nutzer aktiv ist oder nicht.

Politik | Frontal 21 - Suchmaschine für Social Media

Tool, mit dem man Details über User in sozialen Netzwerken finden kann.

Videolänge:
1 min
Datum:

Adjust_ps spricht nur mit einem gewissen Alexander (über ein Fake-Profil) - und ja, Alexander ist einer der 31 Mitarbeiter eben jener russischen Bot-Farm. Damit wäre es also geklärt. Zwar benötigten wir eine Menge Tools, um Fake-Tweets als solche zu entlarven, unmöglich ist es aber nicht.



Ein Teil dieses Artikels ist mit Zustimmung von poynter.org veröffentlicht worden.

Redaktion für Frontal 21: Andreas Seibert und Iris Wohsmann

Um unser Web-Angebot optimal zu präsentieren und zu verbessern, verwendet das ZDF Cookies. Durch die weitere Nutzung des Web-Angebots stimmen Sie der Verwendung von Cookies zu. Näheres dazu erfahren Sie in unserer Datenschutzerklärung.

Gemerkt auf Mein ZDF! Merken beendet Bewertet! Bewertung entfernt Abonniert auf Mein ZDF! Abo beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert

Sie wechseln in den Kinderbereich und bewegen sich mit Ihrem Kinderprofil weiter.