Tech

Wie Social Bots uns manipulieren, wer daran verdient und wie die Fakes auffliegen

15.01.2016, 11:05 · Aktualisiert: 12.04.2016, 14:25

Automatische Fake-Accounts lassen sich oft nicht mehr von Menschen unterscheiden

Nutzer ermahnen, Spam verbergen, Kommentare löschen: Auch das Social-Media-Team der CSU muss auf der Facebook-Seite immer wieder hart durchgreifen. Derzeit geht es vor allem um Flüchtlinge in Deutschland. Oft landen rassistische Hasskommentare unter den Einträgen. Das Problem: Es mischen sich längst nicht nur menschliche Pöbler in die Gespräche ein. Unter die Nutzer schmuggeln sich auch viele automatisierte Fake-Accounts, so genannte Social Bots.

Bot-Analyst Simon Hegelich

Bot-Analyst Simon Hegelich

Simon Hegelich jagt diese Bots mit seinem Team an der Universität in Siegen, er leitet das Projekt “Social Media Forensics”, das unter anderem von der Regierung gefördert wird. "Wir sind uns ziemlich sicher, dass Bots auf der Facebook-Seite der CSU ausländerfeindliche Kommentare posten", sagt Hegelich. Diese Fake-Accounts seien ziemlich schwer zu erkennen und daher sehr gefährlich. "Viele verhalten sich wie Menschen, sind aber keine."

Wie viele Bots auf Online-Portalen wie Twitter, Facebook und Instagram unterwegs sind, dazu gibt es nur grobe Schätzungen. Facebook geht davon aus, dass es sich bei rund 15 Millionen Accounts um Bots handelt, bei Twitter sollen es ähnlich viele sein. Darunter befinden sich auch gute Bots, die etwa Wetterberichte und Lokalnachrichten teilen.

Bei Twitter ist es schon so weit, dass man als Nutzer nicht mehr zwischen Bot und Mensch unterscheiden kann
Simon Hegelich

Doch viele Fake-Accounts verbreiten Hetze im Netz und locken Nutzer auf Sexportalen in die Abo-Falle. Sie verstopfen Postfächer mit Spam-Nachrichten und streuen Propaganda im Auftrag der Terrormiliz “Islamischer Staat”. Das Problem: Es wird immer schwieriger, die Bots zu erkennen. “Bei Twitter ist es schon so weit, dass man als Nutzer nicht mehr zwischen Bot und Mensch unterscheiden kann”, sagt Simon Hegelich. Das erkenne man unter anderem daran, dass viele echte Nutzer diesen Fake-Accounts folgen.

Seit Januar 2015 beobachtet Hegelich mit seinem Team eine Bot-Armee mit 15.000 Twitter-Profilen, die Propaganda-Botschaften zum Konflikt zwischen Ukraine und Russland ins Netz feuern. Die Wissenschaftler analysieren seither das Verhalten der falschen Accounts, um weitere Bots zu entlarven. Vor allem das Profilbild haben die Forscher im Fokus: Der Algorithmus der Bot-Jäger erkennt unter anderem am Farbschema des Fotos, ob es sich um einen echten Nutzer oder einen Bot handelt.

Die Bot-Jäger setzen Software ein, die automatisch Häufigkeiten in den Nachrichten erkennt

Die Bot-Jäger setzen Software ein, die automatisch Häufigkeiten in den Nachrichten erkennt

Doch einige Fake-Accounts tarnen sich so überzeugend, dass sie selbst in der Königsdisziplin der Bot-Programmierung kaum entlarvt werden: dem Chat mit echten Menschen. Dazu muss man sich nur Online-Assistenten wie Siri, Cortana und Google Now anschauen. Wir alle haben die cleveren Helfer von Apple, Microsoft und Co. in unserer Hosentasche. Die Helfer-Bots haben ein enormes Wissen, das sie sich aus Datenbanken wie der Wikipedia saugen. Und manchmal sind sie sogar witzig und machen sich lustig über den Nutzer, wenn man etwa Siri nach dem Sinn des Lebens fragt oder eine Zahl durch 0 teilen will.

Wie unauffällig solche cleveren Social Bots sein können, zeigte sich nach dem Hacker-Angriff auf das Seitensprung-Portal Ashley Madison. Die veröffentlichte Mitgliederliste verriet: Zehn Prozent der Mitglieder waren Frauen, und davon waren längst nicht alle echt. Laut “Gizmodo” haben die Betreiber rund 70.000 Fake-Accounts eingeschleust, um automatisch auf Anfragen von Männern zu antworten, die auf der Suche nach einem Sexpartner waren.

Mit automatischen Analysen von Nachrichten sollen Bots aufgespürt werden

Mit automatischen Analysen von Nachrichten sollen Bots aufgespürt werden

Der Wortschatz hat sich demnach zwar beschränkt auf Variationen von “Hallo” und ein paar Sprüche wie: “Als ich noch jung war, habe ich immer mit den Partnern meiner Freundin geschlafen”. Dennoch waren viele Experten überrascht, dass die Bots nicht schon vorher aufgefallen waren, die Männer im Chat dazu aufgefordert haben, mehr Geld zu bezahlen. Wer einwilligte, der wurde laut “Gizmodo” vom Bot an menschliche Mitarbeiter einer Agentur weitergeleitet, um den Betrug nicht auffliegen zu lassen.

Selbst Profis lassen sich für eine gewisse Zeit von künstlicher Intelligenz täuschen. Zum Beispiel beim jährlich ausgeschriebenen Loebner-Preis, bei dem die besten Chatbots der Welt auf die Probe gestellt werden. Die Regeln sind einfach: Eine Jury chattet parallel mit einem Bot und einem echten Menschen. Wenn der Bot 25 Minuten lang nicht entlarvt wird, gewinnt der Entwickler bis zu 100.000 Dollar. Das ist bisher nie passiert – aber der Chatbot Rose blieb im vergangenen Jahr immerhin für ein paar Minuten unentdeckt. Erst als der Bot bei einer Frage versuchte, immer wieder auf andere Themen auszuweichen, flog der Fake auf. Auf dieser Website kann man das selbst ausprobieren.

Ich fokussiere mich auf Instagram- und Tumblr-Bots. Hier kann man ganz gut Kohle machen.
Lennart V.

Für den Programmierer Lennart V. sind Bots eine gute Einnahmequelle. Der 18-Jährige sagt, dass der technische Fortschritt gewaltig sei. “Vor zwei bis drei Jahren waren Bots richtig dumm im Vergleich zu heute”, sagt Lennart V. Er stellt die Bots in Fließbandarbeit her. Dazu programmiert er Software, die solche Bots automatisch erstellt. “Ich fokussiere mich auf Instagram- und Tumblr-Bots. Hier kann man ganz gut Kohle machen”, sagt der Hacker aus den Niederlanden. Er verkaufe entweder an Zwischenhändler oder an Unternehmen.

Bis zu 1000 Accounts erstellt er pro Tag, benötigt dafür etwa ein bis zwei Stunden. Er gibt den Profilen einen Namen, wählt einen Beruf aus, setzt ein Profilbild ein und hinterlegt manchmal sogar eine Handynummer, um die Sicherheitsvorkehrungen der Online-Plattformen zu umgehen. Als Bot-Bastler verstößt er damit gegen die Geschäftsbedingungen von Facebook, Twitter und Co.

Dort müsse die Bot-Produktion auch geahndet werden, sagt Wissenschaftler Simon Hegelich. Denn während er als Bot-Jäger die falschen Accounts nur aufspüren kann, sieht er die Plattform-Betreiber in der Pflicht, die Bots zu entfernen. Die Bot-Armee aus der Ukraine hatte er bereits an Twitter weitergeleitet. Doch es sei bisher nichts passiert. Das könnte gefährlich werden, sobald sich Politiker ein Meinungsbild im Netz machen, meint der Forscher. Denn derzeit werde das Internet “geflutet mit Millionen von Bots”, die durchaus in der Lage seien, die Trends in den Netzwerken zu manipulieren.

Jede Woche unsere
besten Stories per Mail