ZDFheute

Christchurch-Video bringt Facebook an Grenzen

Sie sind hier:

Kritik an Online-Kontrolle - Christchurch-Video bringt Facebook an Grenzen

Datum:

Millionenfach geistern Szenen aus Christchurch durchs Netz. Darunter viele Mitschnitte aus dem Live-Video des Täters. Gegen die brutalen Aufnahmen kommen Facebook & Co. kaum an.

Daumen runter bei facebook
Facebooks Anstrengungen reichen nicht aus - das brutale Christchurch-Video ist kaum aus dem Netz zu bekommen.
Quelle: imago stock&people

Facebook hat nach eigenen Angaben in den ersten 24 Stunden nach dem Anschlag auf zwei Moscheen in Christchurch 1,5 Millionen Videos der Tat aus dem sozialen Netzwerk gelöscht. "Wir arbeiten weiter rund um die Uhr, um gegen die Regeln verstoßende Inhalte zu entfernen", twitterte Mia Garlick von Facebook Neuseeland am Sonntag. Zur Entfernung der Inhalte würden sowohl technische Hilfsmittel sowie Angestellte eingesetzt. 1,2 Millionen der entfernten Videos seien bereits beim Hochladen blockiert worden.

Ein Mann hatte am Freitag in der neuseeländischen Stadt Christchurch bei Angriffen auf zwei Moscheen mindestens 50 Menschen getötet. Kopien des 17-minütigen Videos, das der Täter mit seiner Helmkamera gefilmt hatte, waren noch Stunden nach der Tat im Internet verfügbar.

Die Betreiber sozialer Medien und Internetplattformen wurden vielfach dafür kritisiert, die Verbreitung des Videos nicht schneller gestoppt zu haben. Die Polizei sowie Premierministerin Jacinda Ardern hatten Nutzer aufgerufen, das Video nicht zu teilen. Experten warnten, die Verbreitung des Videos könne die Gefahr von Nachahmertaten erhöhen.

Doch das äußerst brutale Video ist schwer aus dem Netz zu bekommen. Der Fall zeigt, wie schwer es ist, die Verbreitung solcher gewaltverherrlichenden Videos im Internet zu kontrollieren.

Wie gehen Online-Plattformen gegen verbotene Videos?

Ursprünglich waren die Unternehmen darauf angewiesen, dass jemand sie darauf hinweist. Inzwischen setzen sie auch Software dafür ein: um Kinderpornografie oder Gewalt automatisch zu erkennen, aber auch, um Datenbanken für Fotos und Videos anzulegen, die bereits entdeckt wurden. Darin wird eine Art digitaler Fingerabdruck der Dateien gespeichert. Ziel ist, sie bei einem erneuten Hochladen sofort wiederzuerkennen und zu entfernen.

Wie gut funktionierte das System im Fall Christchurch?

Der Angreifer hatte seine Bluttat per Facebook Live übertragen, der Plattform des Online-Netzwerks, auf der jeder Videobilder in Echtzeit ins Netz bringen kann. Facebook löschte das 17-minütige Video nach einem Hinweis der Polizei. Aber zuvor schon hatten Nutzer Mitschnitte davon gemacht, die sie zum Beispiel auf Youtube hochluden. Die Dienste hatten Probleme, die immer wieder neu auftauchenden Kopien zu entfernen.

Um welches Ausmaß geht es hier?

Allein Facebook entfernte nach eigenen Angaben von Sonntag 1,5 Millionen Videos mit Darstellungen des Anschlags - und zwar nur in den ersten 24 Stunden. In 1,2 Millionen Fällen wurde dabei schon das Hochladen unterbunden. Seither wird alles genau beobachtet. "Wir arbeiten rund um die Uhr daran", sagte eine Sprecherin.
Facebook-Chefin Sheryl Sandberg war dazu mit Neuseelands Premierministerin Jacinda Ardern in Kontakt. Dort will man nun prüfen, wie das künftig verhindert werden kann. Ardern sagte am Sonntag aber auch: "Das Problem geht weit über Neuseeland hinaus."

Hand tippt auf Tastatur

Nach Christchurch-Anschlag -
"Wir leben in einer toxischen Netzkultur"
 

Der Täter von Christchurch hat seine Bluttat als Live-Video ins Netz gestreamt. "Facebook und Youtube haben versagt", sagt die Medienwissenschaftlerin Julia Schumacher.

Schafft man es, das Video ganz aus dem Netz zu verbannen?

Nein. Denn selbst wenn die Internet-Riesen Facebook, Youtube und Twitter erfolgreich sind - es gibt auch andere Plattformen, die wenig dagegen unternehmen. Aus Sicht von Kritikern machen die US-Konzerne grundsätzlich aber viel zu wenig. Tatsächlich wird die Kontrolle oft auf Sub-Unternehmer ausgelagert, die Leute zu Billiglöhnen in ärmeren Ländern beschäftigen. Ein Zentrum davon ist Manila, die Hauptstadt der Philippinen. Dort sind viele Tausend "Cleaner" von früh bis spät beschäftigt, Dreck aus dem Internet zu entfernen.

Was sagt Christchurch über die Fähigkeiten der Dienste aus?

Es ist schier unmöglich, die Masse ständig neu geteilter Inhalte von Menschen kontrollieren zu lassen. Facebook ist noch nicht so weit, dies komplett Software überlassen zu können. Auch bei Youtube offenbarten sich Defizite der Software, die bereits bekannte Videos Plattform fernhalten soll.

Woran liegt das?

Ein Problem dürfte sein, dass Algorithmen immer noch ausgetrickst werden können - zum Beispiel wenn jemand Änderungen an den Bildern vornimmt. Eine weitere Herausforderung ist, dass Fragmente aus solchen Videos auch in Medienberichten enthalten sein können, die nicht gelöscht werden sollen. Heute muss noch fast immer ein Mensch den Kontext bewerten.

Kommt das alles überraschend?

Nein, Facebook Live geriet schon mehrfach in Negativschlagzeilen, weil Gewalt übertragen wurde. So schockierte die Öffentlichkeit ein Fall im Frühjahr 2017. Damals übertrug ein Mann in den USA, wie er einen Rentner ermordete. Der Livestream blieb danach zunächst zum Abruf verfügbar. Facebook geriet in die Kritik, weil das Video zwar 23 Minuten nach dem ersten Nutzer-Hinweis gelöscht wurde - aber insgesamt über zwei Stunden online blieb. Ein erstes Video, in dem die Tat angekündigt worden war, blieb unbemerkt.

Was könnten die Folgen sein?

Die Online-Plattformen stehen schon seit Jahren unter massivem Druck aus der Politik, Beiträge mit Gewalt, Hassrede oder Terrorpropaganda schneller zu entfernen. Sie verweisen immer wieder darauf, wie viel besser das inzwischen funktioniert, und dass viele Inhalte schon gelöscht werden, noch bevor sie auch nur ein Nutzer gesehen hat. Christchurch zeigt die aktuellen Defizite - und könnte zugleich die Bereitschaft der Politik senken, die Schwächen hinzunehmen. So sagte der einflussreiche US-Senator Mark Warner der Website "The Hill", die rasche Verbreitung des Videos zeige, wie leicht die größten Plattformen immer noch missbraucht werden könnten.

Gibt es auch Nuancen im Umgang mit Gewalt in Videos?

2016 offenbarte der Livestream einer Polizeikontrolle, bei der der Amerikaner Philando Castile starb, einen Fall ungerechtfertigter Gewalt, der sonst vielleicht nie hätte nachgewiesen werden können. Das entsprach dem öffentlichen Interesse - bedeutete aber auch, dass man einen Menschen sterben sah.

Gemerkt auf Mein ZDF! Merken beendet Bewertet! Bewertung entfernt Zur Merkliste hinzugefügt! Merken beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Um zu verstehen, wie unsere Webseite genutzt wird und um dir ein interessenbezogenes Angebot präsentieren zu können, nutzen wir Cookies und andere Techniken. Hier kannst du mehr erfahren und hier widersprechen.

Um Sendungen mit einer Altersbeschränkung zu jeder Tageszeit anzuschauen, kannst du jetzt eine Altersprüfung durchführen. Dafür benötigst du dein Ausweisdokument.

Du wechselst in den Kinderbereich und bewegst dich mit deinem Kinderprofil weiter.