Sie sind hier:

ZDFcheck19 - Wie YouTube radikale Gedanken transportiert

Datum:

Katzenvideos, Pranks und How-to-Videos: dafür ist YouTube bekannt. Aber die Plattform hat auch dunkle Ecken. Gegen die soll YouTube vorgehen, fordern Wissenschaftler und Politiker.

Silhouetten von Personen mit Laptop vor dem YouTube-Logo
Silhouetten von Personen mit Laptop vor dem YouTube-Logo
Quelle: reuters

Wenn über Falschinformationen und Desinformationskampagnen gesprochen und geschrieben wird, steht meistens eine Plattform im Mittelpunkt: Facebook. Dabei wird häufig vergessen, dass auch YouTube weltweit Milliarden Nutzer hat. Und auch über die Videoplattform werden Falschinformationen, Hetze und Verschwörungstheorien verbreitet. Die Sozialwissenschaftlerin Zeynep Tufekci hat YouTube in der "New York Times" als "großen Radikalisierer" bezeichnet. Und das ist ein Problem, denn gut 15 Prozent der erwachsenen Internetnutzer in Deutschland nutzen YouTube, um Nachrichten zu schauen. Warum kann YouTube zu einer Radikalisierungsmaschine werden? Drei Gründe:

1. Die Durchsetzung der Community-Standards

Ray Serrato ist Social Media Analyst beim Kampagnen-Netzwerk Avaaz. Er hat nach den Ausschreitungen in Chemnitz Ende August 2018 untersucht, welche Videos YouTube unter dem Suchwort "Chemnitz" verbreitete. Dabei stieß er auf ein Netz von Videos, die seiner Einschätzung nach vor allem rechtsgerichtet waren oder Verschwörungstheorien enthielten.

Dass solche und ähnliche Videos zu anderen Themen nicht von YouTube gelöscht werden, liegt auch daran, dass Kanalbetreiber Spielräume in YouTubes Community Standards ausreizen. "YouTube hat relativ laxe Standards hinsichtlich dessen, was sie erlauben. Insbesondere Kanäle aus dem rechten Spektrum nutzen diesen Spielraum aus", sagt Serrato. Auf ZDF-Anfrage erklärte YouTube, man habe die Teams, die sich um problematische Inhalte kümmern, auf rund 10.000 Personen ausgebaut. Neben menschlichen Content-Moderatoren (so der Fachbegriff) setzt YouTube wie auch Facebook aber auch auf Software, die automatisch problematische Inhalte, wie zum Beispiel Pornografie oder Gewaltdarstelllungen erkennen und melden soll.

Die Frage, was auf Plattformen wie YouTube und Facebook gelöscht werden sollte und was nicht, führt immer wieder zu Debatten. Denn de facto werden Konzerne dazu verpflichtet, Entscheidungen darüber zu treffen, was sagbar ist und was nicht. Wie schwer sich YouTube bei dieser Aufgabe tut, zeigt sich am Beispiel eines Kanals, der sich selbst "Der Volkslehrer" nennt. Betrieben wird der von einem ehemaligen Grundschullehrer, der wegen seiner rechtsextremen YouTube-Videos fristlos entlassen wurde. Der Kanal wurde von YouTube erst kurzzeitig gesperrt, war dann wieder erreichbar. Mittlerweile lässt sich die Kanalseite zwar noch öffnen, die von ihm geposteten Videos sind aber nicht mehr verfügbar.

2. Der "Data Void"

Nutzer besuchen YouTube, um Videos zu schauen, auch Nachrichtenvideos. Lange haben aber vor allem deutsche Medien vergleichsweise wenig Videos auf die Plattform geladen. Dementsprechend entstanden Lücken, die Verschwörungstheoretiker und Propagandisten mit ihren Inhalten füllen konnten. Ray Serrato bezeichnet das als "Data Void".

Hinzu kommt, dass YouTube mittlerweile auch in Breaking News-Situationen eine wichtige Anlaufstelle für Nutzer ist. "In solchen Fällen wird User-Generated-Content schnell hochgeladen. Seriöse Medien brauchen Zeit, um Inhalte zu verifizieren und zu überprüfen", sagt Serrato. Auch in solchen Situationen werden deshalb häufig Fakes oder Falschinformationen verbreitet.

YouTube sagt, das Unternehmen wolle glaubwürdige Quellen "gerade im Umfeld von Nachrichten" stärken. Dafür hat das Unternehmen drei Maßnahmen ergriffen: Wenn ein Nutzer aktiv nach Nachrichtenthemen sucht, wird er automatisch auf eine sogenannte Top News-Seite gelenkt, auf der nur Ergebnisse von Qualitätsmedien angezeigt werden sollen. In Breaking News-Situationen will YouTube auf der Startseite zukünftig nur noch Videos von verifizierten Quellen anzeigen. Und bei Themen, über die häufig Verschwörungstheorien verbreitet werden, werden seit kurzem kleine Informationsboxen unterhalb der Videos angezeigt. Dass das auch schief gehen kann, weil es automatisch passiert, zeigte sich beim Brand von Notre Dame. Unter einem Livestream, in dem die brennende Kathedrale zu sehen war, zeigte YouTube eine Info-Box über die Anschläge vom 11. September an.

3. YouTubes Algorithmen

Einen gewaltigen Einfluss darauf, welche Videos Nutzer auf YouTube gucken, hat YouTube selbst. Die Plattform verbreitet Videos über Empfehlungen, die von Algorithmen generiert werden. Wie dieses System genau funktioniert, sagt YouTube nicht. Ein wissenschaftliches Papier, das zwei YouTube-Ingenieure 2016 veröffentlicht haben, gibt einen Einblick. Demnach geht es YouTubes Systemen vor allem darum, dass Nutzer so viel Zeit wir nur irgend möglich auf YouTube verbringen. Dafür wird das Verhalten jedes einzelnen Nutzers genau analysiert: Welche Videos hat er bislang geguckt? Welche Kanäle hat er abonniert? Was sind Einstiegsvideos, die ihn auf die Plattform bringen? Und nach welchen Videos verabschiedet er sich wieder?

Einige Untersuchungen legen nahe, dass extreme Videos mit viel Aufregerpotenzial deshalb häufiger empfohlen werden. Neben der Untersuchung von Serrato hat das beispielsweise der ehemalige YouTube-Ingenieur Guillaume Chaslot in Untersuchungen gezeigt. YouTube selbst erklärt auf ZDF-Anfrage, man habe das Empfehlungssystem bereits verbessert.

Das Problem dabei ist: bislang bekommen externe Gutachter und Wissenschaftler nur beschränkt Zugriff auf YouTubes Daten, um die Auswirkungen der Empfehlungs-Algorithmen umfassend zu untersuchen. Konkurrent Facebook hingegen hat vor kurzem angekündigt, mehreren wissenschaftlichen Teams Zugang zu seinem Datenschatz zu gewähren.

YouTubes Unzugänglichkeit kritisiert auch einer der zuständigen EU-Kommissare im heute.de-Interview.

Display mit dem YouTube-Icon

ZDFcheck19 - EU-Kommissar: "Plattformen notfalls regulieren"

Im Kampf gegen Falschinformation fordert EU-Kommissar Julian King Transparenz von Facebook und Co. Dabei setzt er auf Selbstverpflichtung, schließt weitere Schritte aber nicht aus.

Gemerkt auf Mein ZDF! Merken beendet Bewertet! Bewertung entfernt Abonniert auf Mein ZDF! Abo beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Um zu verstehen, wie unsere Webseite genutzt wird und um Ihnen ein interessenbezogenes Angebot präsentieren zu können, nutzen wir Cookies und andere Techniken. Hier können Sie mehr erfahren und hier widersprechen.

Um Sendungen mit einer Altersbeschränkung zu jeder Tageszeit anzuschauen, können Sie jetzt eine Altersprüfung durchführen. Dafür benötigen Sie Ihr Ausweisdokument.

Sie wechseln in den Kinderbereich und bewegen sich mit Ihrem Kinderprofil weiter.