Sie sind hier:

Gewalt im Internet - Upload-Filter für extremistische Inhalte?

Datum:

Extremisten haben viele Möglichkeiten, ihre Botschaften im Internet zu verbreiten. Upload-Filter sollen das verhindern. Doch wie effektiv sind diese Systeme?

Das Portal YouTube. Symbolbild
Das Ziel: Extremistische Inhalte sollen möglichst wenige Menschen erreichen. (Symbolbild)
Quelle: Britta Pedersen/zb/dpa

Seit Jahren ringen Politiker, Sicherheitsbehörden und Betroffene mit der Frage, wie man extremistische Inhalte, Propaganda und Tatvideos dauerhaft aus dem digitalen Raum verbannen kann. Bislang galt dabei: Ist der Geist erst einmal aus der Flasche, fängt ihn niemand mehr ein.

Das Internet vergisst nicht. Ereignisse wie der Anschlag von Halle geben diesem Anliegen zusätzliche Dringlichkeit: Immer mehr Extremisten nutzen Internetdienste und nie zuvor standen Attentätern so viele Wege offen, um ihre Botschaften live zu verbreiten.

Upload-Filter konnten überlistet werden

Lange war das Löschen von Propagandavideos ein weitgehend manueller Prozess, bei dem Strafverfolgungsbehörden auf das Entgegenkommen von Plattformen wie Youtube und Facebook angewiesen waren. Diese Systeme konnten mit kleinen Änderungen am Video überlistet werden. Kopien wurden oft übersehen. Das ändert sich inzwischen – automatisierte Upload-Filter sind immer weiter verbreitet.

Seit dem Anschlag auf zwei Moscheen am 15. März 2019 mit 51 Toten in Christchurch versucht die neuseeländische Regierung zusammen mit Internetanbietern, extremistische Inhalte aus dem Netz zu verbannen. Innenministerin Tracey Martin kündigte heute an, gewalttätige extremistische Inhalte zukünftig so zu handhaben, wie es ihre Sicherheitsbehörden bereits mit Kinderpornographie tun.

Rund zehn Millionen Euro will ihre Administration in den nächsten vier Jahren in ein Ermittlerteam des Innenministeriums investieren. Das soll der neuseeländischen Zensurbehörde Empfehlungen geben, welche Inhalte auf die staatliche Bannliste gesetzt werden sollten. Im Raum steht die Frage, ob das sogenannte Digitale Filtersystem gegen Kindesmissbrauch (DCEFS) in Neuseeland in Zukunft auch auf gewalttätige extremistische Inhalte ausgeweitet werden soll.

Plattformen betreiben Upload-Filter

Auch in Europa baut man Kapazitäten aus, um schnell und effektiv Videos entfernen zu können. Bei den Polizeibehörden der Mitgliedstaaten oder der europäischen Polizeibehörde Europol gibt es Stellen, "die illegale extreme Inhalte suchen und zur Sperrung melden", erklärt Extremismus-Experte Alexander Ritzmann vom Brandenburgischen Institut für Gesellschaft und Sicherheit. Innerhalb einer Stunde sollen gemeldete Inhalte aus dem Netz genommen sein, so die Zielvorgabe der EU-Kommission.

Bislang bauen die europäischen Staaten dabei auf die Upload-Filter der größten Plattform-Betreiber. "Schon jetzt besteht für Provider die Pflicht, sicherzustellen, dass bereits einmal von Behörden beanstandete Inhalte nicht einfach erneut hochgeladen werden", betont Thomas Stadler, Fachanwalt für IT-Recht. Dafür legen Anbieter wie Youtube oder Facebook Listen über Inhalte zum Löschen und Blockieren an.

Nur große Firmen haben die Mittel

Youtube etwa versieht urheberrechtlich geschützte oder illegale Inhalte mit einer sogenannten Content-ID. Ein Algorithmus erkennt dann automatisch, wann immer dieser Inhalt oder auch nur Auszüge daraus hochgeladen werden und leitet automatisch Maßnahmen ein. Das senkt auch die Zahl der Mitarbeiter, die tagtäglich Gewaltvideos prüfen müssen.

Die technische Infrastruktur, automatisiert alle hochgeladenen Inhalte automatisch zu überprüfen, haben bislang nur die größten Internetkonzerne. "Große Anbieter und Plattformen kann man mit solchen Initiativen sehr gut erreichen. Bei alternativen Strukturen ist der staatliche Zugriff schwieriger", so Anwalt Stadler.

Nach dem Anschlag in Halle fordert Innenminister Seehofer eine Neuordnung von Bundeskriminalamt und Verfassungsschutz.

Beitragslänge:
2 min
Datum:

Upload-Filter durchaus sinnvoll

Er verweist damit auf die wachsende Zahl an extremistischen Bewegungen, die sich ihre eigenen Plattformen und sozialen Medien schaffen. Propaganda und Gewalt-Videos, die auf den bekannten Portalen längst entfernt wurden, können dort weiter existieren.

Extremismus-Experten glauben, dass solche Filter dennoch zielführend sind. Sie stellen sicher, dass nur eine Minderheit der Nutzer unfreiwillig in Kontakt mit Bildern von Tod und Gewalt kommt. "Vor einigen Jahren war es noch relativ einfach, bei einer Google-Suche aus Versehen in extremistische Propaganda hineinzustolpern", so der Alexander Ritzmann. "Das ist heute schwieriger."

Gemerkt auf Mein ZDF! Merken beendet Bewertet! Bewertung entfernt Abonniert auf Mein ZDF! Abo beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Um zu verstehen, wie unsere Webseite genutzt wird und um Ihnen ein interessenbezogenes Angebot präsentieren zu können, nutzen wir Cookies und andere Techniken. Hier können Sie mehr erfahren und hier widersprechen.

Um Sendungen mit einer Altersbeschränkung zu jeder Tageszeit anzuschauen, können Sie jetzt eine Altersprüfung durchführen. Dafür benötigen Sie Ihr Ausweisdokument.

Sie wechseln in den Kinderbereich und bewegen sich mit Ihrem Kinderprofil weiter.