Sie sind hier:

Whistleblowerin und Facebook - Die Schlupflöcher der Manipulatoren

Datum:

Gezielte Meinungsmache in sozialen Netzwerken nimmt oft gefährlich Einfluss. Eine Whistleblowerin erklärt, wie Facebook beim Kampf gegen politische Manipulationskampagnen versagt.

Screenshot "Gefällt-Mir"-Button auf Facebook und die Worte "Fake News"
Sophie Zhang fielen zigtausende Fake-Likes beim Präsidenten von Honduras auf - Facebook reagierte spät.
Quelle: imago

Sophie Zhang hat gut zweieinhalb Jahre als Data Scientist bei Facebook gearbeitet. Nun, rund ein halbes Jahr nachdem sie gefeuert wurde, wendet sie sich an die Öffentlichkeit und warnt: Auf Facebook finden nach wie vor politische Manipulationskampagnen statt. Und selbst wenn Facebook solche Kampagnen aufdeckt: Die Reaktion ist häufig langsam und halbherzig. Der Guardian hat als erstes Medium weltweit über Zhangs Vorwürfe berichtet.

Sie war gerade ein halbes Jahr bei Facebook, da fiel ihr eher zufällig etwas Seltsames auf: Der Präsident von Honduras bekam innerhalb weniger Wochen Zigtausende Fake-Likes, der Großteil davon stammte aber nicht von Accounts, sondern von Pages.

Ein neues Manipulations-Schlupfloch

Facebook-Pages sind eigentlich eine Möglichkeit für Unternehmen, Politiker oder Promis, eine Präsenz in dem sozialen Netzwerk anzulegen. Laut Facebooks eigenen Regeln gilt: ein Mensch = ein Account. Eine Regel, wie viele Facebook Pages man betreiben darf, gibt es aber nicht. Dieses Schlupfloch haben Manipulatoren für sich entdeckt.

Denn Pages können auch so aufgesetzt werden, dass sie oberflächlich aussehen, als seien sie die Accounts normaler Nutzer. Im Fall Honduras hatten Mitarbeitende des Präsidenten genau das getan. Viel Mühe, ihr Tun zu verschleiern, hatten sie sich nicht gegeben. Zhang konnte in Facebooks Systemen sehen, dass der Administrator einiger hundert Fake-Pages auch der Administrator der Facebook-Seite des honduranischen Präsidenten war.

Seit Jahren steht Facebook immer wieder in der Kritik. Das Soziale Netzwerk unternehme zu wenig gegen Hassrede und Falschinformationen. Bei einem anderen Kritikpunkt will Facebook jetzt einlenken: Nutzer sollen mehr Kontrolle über ihren Newsfeed bekommen.

Beitragslänge:
2 min
Datum:

Fake Accounts - es passiert erstmal nichts

Ex-Facebook-Mitarbeiterin Zhang erzählt im Interview mit dem ZDF:

Ich habe meinen Vorgesetzten alarmiert, den Vorgesetzten meines Vorgesetzten. Ich habe darüber so ziemlich mit jedem gesprochen, den es interessierte. Sogar dem zuständigen Vice President von Facebook, Guy Rosen, habe ich das erläutert.
Sophie Zhang, Whistleblowerin

Alle seien sich einig gewesen, dass die Manipulationen nicht in Ordnung seien. Trotzdem passierte erst einmal nichts. "Man sagte mir: Nein, wir müssen uns das genauer ansehen, die Accounts werden ja auch teilweise von wichtigen Leuten gesteuert, die auch die Seite des Präsidenten verwalten", berichtet Zhang.

Facebook reagiert nach neun Monaten

Es dauerte neun Monate, bis Facebook eine offizielle Untersuchung startete und fast ein ganzes Jahr, bis die Fake-Accounts und -Seiten gelöscht wurden: Am 25. Juli 2019 gab Facebook in einem öffentlichen Bericht bekannt, man habe 181 Accounts und 1.488 Pages gelöscht.

Auf ZDF-Nachfrage, warum es so lange dauerte, bis Facebook durchgriff, erklärt das Unternehmen schriftlich:

"Diese Untersuchungen nehmen Zeit in Anspruch, um das volle Ausmaß der täuschenden Aktivitäten zu verstehen, zu verhindern, dass wir nur bruchstückhafte Maßnahmen ergreifen und dabei zu helfen, dass wir öffentlich verlässlich Verantwortung für die Aktivitäten zuweisen können. Entsprechend industrieweiter Standards konnten unsere Ermittler diese Aktivität Individuen zuweisen, die Social Media für die honduranische Regierung verwalten."

Wohlgemerkt: Dass das Social-Media-Team der honduranischen Regierung hinter dem Manipulations-Netzwerk steckte, hatte Zhang schon früh entdeckt.

Politische Akteure nutzen Facebook gezielt, um die öffentliche Meinung zu beeinflussen. Das soziale Netzwerk will gegen Manipulationskampagnen vorgehen - und ist dabei oft zu langsam und zu vorsichtig, wirft eine Whistleblowerin dem Unternehmen vor.

Beitragslänge:
2 min
Datum:

Größtes Manipulations-Netzwerk in Aserbaidschan entdeckt

Auch bei weiteren Netzwerken, die Zhang ihren Vorgesetzten meldete, reagierte Facebook zögerlich. In Aserbaidschan, das vom autokratischen Präsidenten Ilham Alijew regiert wird, entdeckte sie das größte Netzwerk an Fake-Accounts und -Pages, das vor allem Oppositionelle und regierungskritische Medien mit negativen Kommentaren bombardierte. Sie habe das Netzwerk im Sommer 2019 gefunden, so Zhang. Aber erst im Oktober 2020 meldete Facebook Vollzug.

Man habe 589 Facebook-Accounts, 7.665 Pages and 437 Instagram-Accounts gelöscht, die alle mit der Jugendabteilung der Partei Neues Aserbaidschan - Alijew-Partei - verbunden gewesen seien.

Wie kann es sein, dass Facebook so langsam reagiert? Das Unternehmen hat eigentlich einen großen internen Sicherheitsapparat aufgebaut, der gegen Fake-Likes und Fake-Accounts vorgeht - und der versucht koordinierte Manipulationsnetzwerke zu enttarnen.

Politische Gründe für zaghafte Reaktion?

Die schleppende Reaktion von Facebook auf die Entdeckungen ihrer eigenen Mitarbeiterin werfen aber ein Schlaglicht auf Facebooks Prioritäten. Hätte Zhang ähnliche Netzwerke in den USA gefunden, hätte das Unternehmen wohl sofort reagiert. Zhang sagt:

Letztlich trifft Facebook die Entscheidung, nichts zu tun, weil es den Beziehungen mit bestimmten Regierungen schaden könnte. Oder es könnte für schlechte Presse sorgen.
Sophie Zhang, Whistleblowerin

Facebook bestreitet das: Man sei bestrebt, "alle Richtlinien einheitlich und unabhängig von politischen Positionen oder Parteizugehörigkeiten anzuwenden. Diesbezügliche Entscheidungen werden nicht einseitig von einer einzelnen Person getroffen. Vielmehr werden bei Entscheidungsprozessen Einschätzungen aus dem gesamten Unternehmen mit einbezogen, um zu gewährleisten, dass lokale und globale Umstände berücksichtigt werden."

Bisher unentdeckte Manipulationsnetzwerke?

Die neuen Enthüllungen zeigen: Dieses Vorgehen eröffnet Manipulatoren und die Möglichkeit, Kampagnen zu fahren und Fake-Netzwerke zu knüpfen. Zhang ist deshalb pessimistisch. Sie befürchtet, auf Facebook könnten noch ausgeklügeltere, bislang unentdeckte Manipulationsnetzwerke lauern.

Enttarnen könne die nur Facebook selbst. Und daran habe das Unternehmen in manchen Fällen eben kein Interesse.

Stephan Mündges ist Redakteur im ZDF heute journal und berichtet seit mehreren Jahren über Facebook. Er twittert unter @muendges

Gemerkt auf Mein ZDF! Merken beendet Bewertet! Bewertung entfernt Zur Merkliste hinzugefügt! Merken beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Um zu verstehen, wie unsere Webseite genutzt wird und um dir ein interessenbezogenes Angebot präsentieren zu können, nutzen wir Cookies und andere Techniken. Hier kannst du mehr erfahren und hier widersprechen.

Um Sendungen mit einer Altersbeschränkung zu jeder Tageszeit anzuschauen, kannst du jetzt eine Altersprüfung durchführen. Dafür benötigst du dein Ausweisdokument.

Du wechselst in den Kinderbereich und bewegst dich mit deinem Kinderprofil weiter.