Sie sind hier:

Whistleblowerin und Facebook : Die Schlupflöcher der Manipulatoren

Datum:

Gezielte Meinungsmache in sozialen Netzwerken nimmt oft gefährlich Einfluss. Eine Whistleblowerin erklärt, wie Facebook beim Kampf gegen politische Manipulationskampagnen versagt.

Screenshot "Gefällt-Mir"-Button auf Facebook und die Worte "Fake News"
Sophie Zhang fielen zigtausende Fake-Likes beim Präsidenten von Honduras auf - Facebook reagierte spät.
Quelle: imago

Sophie Zhang hat gut zweieinhalb Jahre als Data Scientist bei Facebook gearbeitet. Nun, rund ein halbes Jahr nachdem sie gefeuert wurde, wendet sie sich an die Öffentlichkeit und warnt: Auf Facebook finden nach wie vor politische Manipulationskampagnen statt. Und selbst wenn Facebook solche Kampagnen aufdeckt: Die Reaktion ist häufig langsam und halbherzig. Der Guardian hat als erstes Medium weltweit über Zhangs Vorwürfe berichtet.

Sie war gerade ein halbes Jahr bei Facebook, da fiel ihr eher zufällig etwas Seltsames auf: Der Präsident von Honduras bekam innerhalb weniger Wochen Zigtausende Fake-Likes, der Großteil davon stammte aber nicht von Accounts, sondern von Pages.

Ein neues Manipulations-Schlupfloch

Facebook-Pages sind eigentlich eine Möglichkeit für Unternehmen, Politiker oder Promis, eine Präsenz in dem sozialen Netzwerk anzulegen. Laut Facebooks eigenen Regeln gilt: ein Mensch = ein Account. Eine Regel, wie viele Facebook Pages man betreiben darf, gibt es aber nicht. Dieses Schlupfloch haben Manipulatoren für sich entdeckt.

Denn Pages können auch so aufgesetzt werden, dass sie oberflächlich aussehen, als seien sie die Accounts normaler Nutzer. Im Fall Honduras hatten Mitarbeitende des Präsidenten genau das getan. Viel Mühe, ihr Tun zu verschleiern, hatten sie sich nicht gegeben. Zhang konnte in Facebooks Systemen sehen, dass der Administrator einiger hundert Fake-Pages auch der Administrator der Facebook-Seite des honduranischen Präsidenten war.

Fake Accounts - es passiert erstmal nichts

Ex-Facebook-Mitarbeiterin Zhang erzählt im Interview mit dem ZDF:

Ich habe meinen Vorgesetzten alarmiert, den Vorgesetzten meines Vorgesetzten. Ich habe darüber so ziemlich mit jedem gesprochen, den es interessierte. Sogar dem zuständigen Vice President von Facebook, Guy Rosen, habe ich das erläutert.
Sophie Zhang, Whistleblowerin

Alle seien sich einig gewesen, dass die Manipulationen nicht in Ordnung seien. Trotzdem passierte erst einmal nichts. "Man sagte mir: Nein, wir müssen uns das genauer ansehen, die Accounts werden ja auch teilweise von wichtigen Leuten gesteuert, die auch die Seite des Präsidenten verwalten", berichtet Zhang.

Facebook reagiert nach neun Monaten

Es dauerte neun Monate, bis Facebook eine offizielle Untersuchung startete und fast ein ganzes Jahr, bis die Fake-Accounts und -Seiten gelöscht wurden: Am 25. Juli 2019 gab Facebook in einem öffentlichen Bericht bekannt, man habe 181 Accounts und 1.488 Pages gelöscht.

Auf ZDF-Nachfrage, warum es so lange dauerte, bis Facebook durchgriff, erklärt das Unternehmen schriftlich:

"Diese Untersuchungen nehmen Zeit in Anspruch, um das volle Ausmaß der täuschenden Aktivitäten zu verstehen, zu verhindern, dass wir nur bruchstückhafte Maßnahmen ergreifen und dabei zu helfen, dass wir öffentlich verlässlich Verantwortung für die Aktivitäten zuweisen können. Entsprechend industrieweiter Standards konnten unsere Ermittler diese Aktivität Individuen zuweisen, die Social Media für die honduranische Regierung verwalten."

Wohlgemerkt: Dass das Social-Media-Team der honduranischen Regierung hinter dem Manipulations-Netzwerk steckte, hatte Zhang schon früh entdeckt.

Größtes Manipulations-Netzwerk in Aserbaidschan entdeckt

Auch bei weiteren Netzwerken, die Zhang ihren Vorgesetzten meldete, reagierte Facebook zögerlich. In Aserbaidschan, das vom autokratischen Präsidenten Ilham Alijew regiert wird, entdeckte sie das größte Netzwerk an Fake-Accounts und -Pages, das vor allem Oppositionelle und regierungskritische Medien mit negativen Kommentaren bombardierte. Sie habe das Netzwerk im Sommer 2019 gefunden, so Zhang. Aber erst im Oktober 2020 meldete Facebook Vollzug.

Man habe 589 Facebook-Accounts, 7.665 Pages and 437 Instagram-Accounts gelöscht, die alle mit der Jugendabteilung der Partei Neues Aserbaidschan - Alijew-Partei - verbunden gewesen seien.

Wie kann es sein, dass Facebook so langsam reagiert? Das Unternehmen hat eigentlich einen großen internen Sicherheitsapparat aufgebaut, der gegen Fake-Likes und Fake-Accounts vorgeht - und der versucht koordinierte Manipulationsnetzwerke zu enttarnen.

Politische Gründe für zaghafte Reaktion?

Die schleppende Reaktion von Facebook auf die Entdeckungen ihrer eigenen Mitarbeiterin werfen aber ein Schlaglicht auf Facebooks Prioritäten. Hätte Zhang ähnliche Netzwerke in den USA gefunden, hätte das Unternehmen wohl sofort reagiert. Zhang sagt:

Letztlich trifft Facebook die Entscheidung, nichts zu tun, weil es den Beziehungen mit bestimmten Regierungen schaden könnte. Oder es könnte für schlechte Presse sorgen.
Sophie Zhang, Whistleblowerin

Facebook bestreitet das: Man sei bestrebt, "alle Richtlinien einheitlich und unabhängig von politischen Positionen oder Parteizugehörigkeiten anzuwenden. Diesbezügliche Entscheidungen werden nicht einseitig von einer einzelnen Person getroffen. Vielmehr werden bei Entscheidungsprozessen Einschätzungen aus dem gesamten Unternehmen mit einbezogen, um zu gewährleisten, dass lokale und globale Umstände berücksichtigt werden."

Bisher unentdeckte Manipulationsnetzwerke?

Die neuen Enthüllungen zeigen: Dieses Vorgehen eröffnet Manipulatoren und die Möglichkeit, Kampagnen zu fahren und Fake-Netzwerke zu knüpfen. Zhang ist deshalb pessimistisch. Sie befürchtet, auf Facebook könnten noch ausgeklügeltere, bislang unentdeckte Manipulationsnetzwerke lauern.

Enttarnen könne die nur Facebook selbst. Und daran habe das Unternehmen in manchen Fällen eben kein Interesse.

Stephan Mündges ist Redakteur im ZDF heute journal und berichtet seit mehreren Jahren über Facebook. Er twittert unter @muendges

Zur Merkliste hinzugefügt Merken beendet Bewertet! Bewertung entfernt Zur Merkliste hinzugefügt Merken beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Sie haben sich mit diesem Gerät ausgeloggt.

Sie haben sich von einem anderen Gerät aus ausgeloggt, Sie werden automatisch ausgeloggt.

Ihr Account wurde gelöscht, Sie werden automatisch ausgeloggt.

Um Sendungen mit einer Altersbeschränkung zu jeder Tageszeit anzuschauen, kannst du jetzt eine Altersprüfung durchführen. Dafür benötigst du dein Ausweisdokument.

Zur Altersprüfung

Du wechselst in den Kinderbereich und bewegst dich mit deinem Kinderprofil weiter.

An dieser Stelle würden wir dir gerne die Datenschutzeinstellungen anzeigen. Entweder hast du einen Ad-Blocker oder ähnliches in deinem Browser aktiviert, welcher dies verhindert, oder deine Internetverbindung ist derzeit gestört. Falls du die Datenschutzeinstellungen sehen und bearbeiten möchtest, prüfe, ob ein Ad-Blocker oder ähnliches in deinem Browser aktiv ist und schalte es aus. So lange werden die standardmäßigen Einstellungen bei der Nutzung der ZDFmediathek verwendet. Dies bedeutet, das die Kategorien "Erforderlich" und "Erforderliche Erfolgsmessung" zugelassen sind. Weitere Details erfährst du in unserer Datenschutzerklärung.

An dieser Stelle würden wir dir gerne die Datenschutzeinstellungen anzeigen. Möglicherweise hast du einen Ad/Script/CSS/Cookiebanner-Blocker oder ähnliches in deinem Browser aktiviert, welcher dies verhindert. Falls du die Webseite ohne Einschränkungen nutzen möchtest, prüfe, ob ein Plugin oder ähnliches in deinem Browser aktiv ist und schalte es aus.