Bild: Alex Knight/Unsplash

Tech

Computer entwickeln ihre eigene Sprache – verlieren wir die Kontrolle über sie?

28.09.2017, 12:15 · Aktualisiert: 28.09.2017, 18:47

Ob Terminator, Matrix oder iRobot – Viele der erfolgreichsten Filme unserer Zeit erzählen von einer menschlichen Angst, die zugleich ihre größte Vision ist: Maschinen, die wie Menschen sprechen, aussehen, handeln – und töten. Maschinen, die ihre Erbauer ausrotten wollen.

In der Realität können sie uns zumindest schon nachahmen. Sie lernen von uns, und zwar nicht immer nur Gutes, und manche manipulieren uns auch.

Außerdem haben sie ihre eigene Sprache entwickelt, die wir nicht mehr verstehen. (Co.Design)

Was ist passiert?

In seiner Abteilung "Facebook Artificial Intelligence Research" – kurz: FAIR – forscht Facebook intensiv zu Künstlicher Intelligenz. Zuletzt veröffentlichten die Wissenschaftler einen Blogpost, in dem sie erklären, wie sie zwei Chatbots beibringen wollten, einen Konflikt auszuhandeln. Chatbots sind sprachgesteuerte Programme, die mithilfe Künstlicher Intelligenz die Kommunikation zwischen Mensch und Maschine erleichtern sollen. Der Mensch fragt, die Maschine antwortet – als wäre auch sie menschlich. (Facebook)

Ein Beispiel:

In Asien ist der größte Messenger WeChat bereits für viele Nutzer alles in einem: News-Website, Bank, Pizza-Service, Chat-Room oder Taxi-App. Der Umweg über eine weitere App oder Google entfällt, Nutzer können alles über einen Chat erledigen. (bento)

Was aber, wenn eine Frage nicht so leicht zu beantworten oder eine Aufgabe nicht so einfach zu erfüllen ist? Die Forscher von FAIR wollen Bots kreieren, die auch über simple Aufgaben hinaus intelligente Dialoge führen können. 

Dafür entwickelten sie ein Experiment: 

  • Zwei Computerprogramme sollten virtuelle Gegenstände untereinander aufteilen: zwei Bücher, einen Hut und drei Bälle. 
  • Die Forscher legten die Anzahl extra so fest, dass es keine faire Lösung gibt.
  • Sie wollten sehen, wie die Maschinen miteinander verhandeln. 
  • Das Ziel: eine möglichst menschenähnliche, aber effizientere Entscheidungsfindung.
  • Als Verhandlungssprache legten die Forscher Englisch fest. 

Diese Filme über Künstliche Intelligenz lohnen sich:

1/11

Heraus kamen Sätze wie diese:

Bob: "I can can I I everything else." Alice: "Balls have zero to me to me to me to me to me to me to me to me to."

Was für uns wie Kauderwelsch klingt, war offenbar eine optimierte Verhandlungssprache. (Wie das genau funktioniert, dazu später mehr) Die Worte sind Englisch, nur der Zusammenhang macht für uns keinen Sinn mehr. Für die Computerprogramme umso mehr:

Sie haben ihre eigenen Regeln entworfen: Eine Art Geheimsprache, bei der sie unsere Worte verwenden, aber wir sie nicht mehr verstehen. 

Die Forscher beendeten das Experiment daraufhin, denn damit hatten sie ihr Ziel verfehlt. Und es stellte sich die Frage:

Verlieren wir jetzt die Kontrolle über die Maschinen, die wir erschaffen? 

Schon Stephen Hawking oder der Tesla-Chef Elon Musk haben davor gewarnt, dass Künstliche Intelligenz uns Menschen ersetzen und sogar töten könnte. (WeltHandelsblatt) Was ist da dran?

Wir haben mit Christian Bauckhage gesprochen, Professor für Informatik an der Universität Bonn und Lead Scientist für maschinelles Lernen am Fraunhofer IAIS.

Herr Bauckhage, wie wahrscheinlich ist es, dass Computerprogramme ihre eigene Sprache entwickeln?

Im Normalfall tun sie das nicht. Machine-to-Machine-Kommunikation und ist zwar heute ganz normal und passiert zum Beispiel jedes Mal, wenn Sie eine Internetseite aufrufen. Ihr Computer kommuniziert dann mit dem Computer der Website. Sie benutzen dafür sogenannte Kommunikationsprotokolle, die von Menschen geschrieben werden wie TCP/IP oder Metasprachen wie XML. 

Was lief bei Facebooks Experiment anders?

Was Unternehmen wie Facebook oder auch Google machen, ist relativ neu. Sie wollen, dass die Maschinen ihre Protokolle selbst entwickeln, um die effizienteste Kommunikation zwischen zwei Seiten zu ermöglichen. Dabei kommen oft viel bessere Lösungen heraus, als wir uns jemals ausdenken könnten. 

Die Bots haben immer noch Englisch gesprochen – nur haben die Sätze für uns Menschen keinen Sinn mehr ergeben. Was genau ist da passiert?

Maschinen sollen beim Lernen ein Ziel erreichen, beispielsweise eine möglichst effiziente Kommunikation. Dieses Ziel wird über eine mathematische Formel einprogrammiert. Dann füttert man sie mit Daten und lässt sie anhand derer Regeln lernen und die besten Lösungen finden. 

Das oberste Ziel war in diesem Fall nicht, von Menschen verstanden zu werden. Wenn das bedeutet, die verwendete Sprache – in diesem Fall Englisch – anzupassen und umzudeuten, machen die Programme das. 

Sie erschaffen also eine Art geheimen Code, den nur sie verstehen?

Maschinen lernen einfach, die gleichen Botschaften effizienter zu übermitteln – egal welche Sprache sie dazu verwenden sollen. Es ist, als würde ich sagen: "Der Himmel ist blau, es regnet nicht, die Sonne scheint, am Himmel sind kleine Wolken." Das sagt ungefähr das gleiche aus wie: "Es ist strahlendes Wetter", aber der erste Satz ist länger. 

Dazu muss man sagen, dass die menschliche Sprache aus Sicht der Mathematik nicht besonders logisch ist – und es daher auch sehr schwierig ist, sie Maschinen beizubringen. 

Ist es denn so schlimm, sie nicht mehr zu verstehen, wenn dadurch die beste Lösung gefunden wird?

Es wäre schon gut, wenn wir das noch verstünden – allein, um Fehler zu erkennen, wenn sie auftreten. 

Ich muss dabei an Bücher wie "Das System" denken oder andere Zukunftsdystopien, in denen Maschinen ihr eigenes Bewusstsein entwickeln und die Welt erobern. Wie wahrscheinlich ist das in Ihren Augen?

Maschinen sind völlig emotionslos, sie haben immer ein Ziel vor Augen und das ist logische Optimierung. Jemanden zu hauen ist aber eine ganz emotionale Entscheidung. Wenn man rational darüber nachdenkt, würde man das nicht tun. Logisch betrachtet – und somit im Bewusstsein der Maschine – macht es also keinen Sinn, Menschen wehzutun.

Maschinen werden uns also nicht irgendwann ausrotten, um die Macht zu ergreifen?

Selbst wenn sie das wollten: Es wäre billiger und effizienter, eine Rakete zu bauen, zum Mond zu fliegen und sich dort eine Welt aufzubauen, als uns zu bekämpfen. Weil sie wüssten, da kommen Menschen sowieso nicht hin. Ich glaube, es haben einfach zu viele Menschen den Terminator gesehen.

Logisch betrachtet – und somit im Bewusstsein der Maschine – macht es keinen Sinn, Menschen wehzutun.

Was wäre denn das Schlimmste, das sie sich nach heutigem Stand vorstellen könnten? 

Vorneweg: Ich glaube da absolut nicht dran. Aber fürchterlich wäre natürlich, wenn eine Künstliche Intelligenz darauf spezialisiert wird, Waffensysteme zu nutzen und beim Training lernt, das wir alle der Feind sind. 

Warum sind Sie sich so sicher, dass das nicht passieren wird?

Viele Technologien haben ihren Ursprung im Militärischen, das GPS zum Beispiel. Und sie können schon immer zum Guten und Schlechten genutzt werden. Mit einem Messer kann man Brot schneiden oder jemanden erstechen. Und wie viele Menschen sterben täglich im Straßenverkehr? Wir fahren trotzdem Auto. Ich bin insofern optimistisch.

Elon Musk oder Stephen Hawkins warnen trotzdem davor, dass autonome Waffensysteme zur dritten Revolution in der Kriegsführung werden – nach Schießpulver und Nuklearwafffen.

Mir erscheint das alles sehr alarmistisch. Ich weiß es nicht. Vielleicht wissen sie auch mehr als ich. Aber die Panikmache halte ich für den heutigen Stand für unbegründet.

Der Punkt ist ja: Der Geist ist aus der Flasche. Selbst, wenn eine Gruppe entscheidet, nicht weiter an solchen Systemen zu forschen, machen es andere – China oder Russland zum Beispiel. In Deutschland herrscht neuen Technologien gegenüber aber immer besondere Skepsis. Ich glaube, wir müssen stattdessen aktiv und positiv mitgestalten. Welche Konsequenzen das alles langfristig hat, weiß niemand.

Mehr zu Bots, die zu Menschen werden:

Und was ist, wenn Maschinen entscheiden: Der effizienteste Weg, ein bestimmtes Ziel zu erreichen – nehmen wir Umweltverschmutzung – wäre das Ende menschlichen Lebens. Und dann?

Tja, dann werden wir ausgerottet. Nein, im Ernst: Das ist reine Spekulation. Und ich weiß, dass die Menschen wahnsinnige Angst haben, weil sie es nicht verstehen und nicht abschätzen können. Und ja, es kommt einiges auf uns zu, aber das war bisher bei jeder technologischen Revolution der Fall. Und noch sind wir am Leben. 

Es gibt Stimmen, die sagen, es wäre von Vorteil, wenn Computerprogramme voneinander lernten – etwa, wenn es um die Kompatibilität von Produkten verschiedener Hersteller geht wie iOS und Android.

Das ist richtig. Würde die Technologie in Produkten eingesetzt, würden diese sich aufeinander abstimmen. Hier entstehen durch menschliche Entscheidungen hohe Kosten für alle. Aber für Apple ist es so natürlich besser. 

Welche Anwendungsszenarien gibt es für intelligente Chatbots noch?

Google hatte schon im letzten Jahr zwei Chatbots entwickelt, die gelernt hatten, miteinander zu sprechen. Das vorgegebene Ziel war, dass ein drittes Programm sie nicht mehr verstehen kann. Solche Experimente sind für die Kryptografie – Verschlüsselung – sehr interessant. Bisher funktioniert diese über menschengeschriebene Algorithmen.  


Streaming

Fünf Gründe, jetzt "Es" im Kino zu gucken

28.09.2017, 11:56 · Aktualisiert: 28.09.2017, 11:56

Welchen Neustart sollte man auf keinen Fall verpassen und welchen kann man sich getrost sparen? bento stellt dir hier jede Woche den Kinostart der Woche vor, für den sich der Gang ins Kino wirklich lohnt – und nennt dir 5 gute Gründe dafür.