Bild: bento

Terrorismus fängt nicht erst an, wenn Anschläge verübt werden. Er beginnt schon mit der Verbreitung von Propaganda-Material im Netz. Facebook, YouTube, Twitter und Microsoft gehen jetzt gemeinsam dagegen vor. Propaganda-Inhalte sollen gelöscht werden – möglichst schnell. Dazu haben die Netzwerke mit Microsoft eine Art Anti-Propaganda-Koalition gegründet (Facebook Newsroom).

Was haben die sozialen Netzwerke vor?

Facebook, Youtube, Twitter und Microsoft wollen eine gemeinsame Datenbank anlegen. Damit soll Propagandamaterial schneller gefunden und gelöscht werden. Auch andere Firmen sollen sich gern daran beteiligen.

Wie genau funktioniert die Kooperation?

Erkennt eines der Netzwerke Fotos und Videos – zum Beispiel eine Enthauptung oder rechtsextreme Hetze zeigen – wird ein digitaler Fingerabdruck vergeben und dieser in der Datenbank gespeichert. Fotos und Videos bekommen quasi den Stempel "Hier handelt es sich um Propaganda" aufgedrückt. Der Vorteil: Nicht jeder einzelne Dienst muss den Inhalt ausfindig machen und gesondert löschen.

Ob der ausfindig gemachte Inhalt dann tatsächlich überall gelöscht wird, entscheidet jedes Netzwerk nach seinen eigenen Richtlinien (golem.de).

1/12
Warum kommt die Kooperation jetzt?

Soziale Netzwerke – vor allem Facebook – stehen immer wieder in der Kritik, nicht konsequent genug gegen Propaganda vorzugehen. Im August hatte Bundesinnenminister Thomas de Maizière (CDU) bei einem Besuch in der Berliner Facebook-Zentrale noch einmal Kritik geäußert. Facebook habe "eine große ökonomische Bedeutung und deshalb eine große soziale Verantwortung". Rassistische Inhalte sollten auch aus dem Netz genommen werden – und das nicht erst nach einer Beschwerde der Nutzer selbst.

Wieviel Erfolg verspricht das Vorgehen?

Das ist noch unklar. Facebook machte zunächst keine Angaben, wie genau die digitalen Fingerabdrücke gespeichert werden sollen ("New York Times"). Terroristen beizukommen, wird daher aus mehreren Gründen schwierig:

  • Extremisten können die Sperren bislang ziemlich leicht umgehen: Sie schneiden Videos leicht um oder setzen Fotos neu zusammen. Dadurch wirkt das Datenmaterial neu – und wird nicht erkannt. Das gleiche Propagandamaterial wird wieder hochgeladen.
  • Auch wird die Maßnahme keine Kommunikation unter Extremisten verhindern können. Diese nutzen oft verschlüsselte Messengerdienste wie Telegram, die großen Plattformen wie YouTube und Twitter dienen nur der Propaganda nach außen.
  • Viele Extremisten legen ständig neue Profile an und löschen ihre alten wieder. Anhängern wird der Wechsel rechtzeitig vermittelt – nur die Netzwerke wissen nicht, welche neuen Accounts auf alte Nutzer zurückgehen. Es ist eine Art Hütchenspiel mit Terroristen.

Welche Gefahr besteht für uns?

Bisher hatten die Netzwerke auf Nutzerfeedback vertraut – wir sollten selbst melden, wenn uns anstößige und verletzende Inhalte auffallen. Nun setzen die Firmen auf Software.

Das kann gefährlich werden: Wenn zum Beispiel journalistische Inhalte, die über Terrorismus berichten nicht von Propagandamaterial getrennt werden, könnte Facebook & Co. automatisch – vielleicht ungewollt – Medien zensieren. Auch ein Foto eines Nutzers, das fehlerhaft markiert wird, wäre möglicherweise überall automatisch gesperrt. Die Anti-Terror-Koalition könnte im schlimmsten Fall zu einer sozialen Zensurbehörde werden.


Tech

Mit diesem neuem Trick will Facebook gegen irreführende Headlines kämpfen
Du wirst nicht glauben, wie einfach die Idee ist!

Es ist oft genial einfach und enorm erfolgreich: Clickbaiting. Also das Nutzen von Überschriften und Vorschau-Texten, die wichtige Fragen offen lassen. Damit sollen Leser geködert werden, den Link zum Artikel anzuklicken – um mit dem Inhalt des Artikels enttäuscht zu werden. Besonders bei Facebook ist die Methode beliebt, weil sie viele Klicks verspricht. Doch jetzt will das soziale Netzwerk offenbar stärker dagegen vorgehen (The Verge).