Bild: Nick Ansell/PA Wire/dpa
Künstlicher Sexismus statt künstlicher Intelligenz

Amazon hat einer künstlichen Intelligenz beigebracht, Bewerbungen zu sortieren. Statt für die besten Kandidaten entschied sich die Software aber vor allem für Männer und gegen Frauen. Amazon hat das Projekt nun erstmal beendet. (Reuters)

Wie sollte die Software funktionieren?

Die Suche nach den besten Bewerberinnen und Bewerbern sollte dadurch vereinfacht werden, dass mittels maschinellem Lernen das Programm aus einer großen Anzahl die besten Lebensläufe aussuchte. Dafür wurden zuvor bei Amazon eingegangene Lebensläufe in das System eingespeist. Die Software sollte selbst erkennen, welche Eigenschaften auf eine besonders gute Eignung hinweisen.

Wo lag das Problem?

Doch die Lebensläufe, die eingespeist wurden, waren überwiegend von männlichen Bewerbern. Das Programm schloss daraus offenbar, dass Männer auch die besseren Kandidaten sind – und entwickelte eine Abneigung gegenüber Frauen. 

Dabei kannte die künstliche Intelligenz das Geschlecht der Bewerberinnen und Bewerber nicht direkt – wenn aber Worte wie "Frauen" vorkamen, etwa bei Bewerberinnen, die auf eine Hochschule nur für Frauen gingen, erhielten diese automatisch eine schlechtere Bewertung. Verben, die insbesondere von männlichen Ingenieuren verwendet wurden, beispielsweise "ausgeführt", kamen dagegen gut an.

Wie reagierte Amazon?

Die Frauen-Benachteiligung war wohl nicht das einzige Problem mit dem Tool. Teilweise wurden wohl auch Bewerber empfohlen, die gar nicht qualifiziert waren. Das Projekt wurde deswegen eingestellt

Es ist nicht das erste Mal, dass eine künstliche Intelligenz doch nicht so schlau ist wie erhofft. Microsoft ließ vor zwei Jahren einen Twitter-Bot los, der ebenfalls auf Machine Learning basierte. Auch hier erwies sich die Datensammlung als Problem: Der Konzern stoppte den Account noch am ersten Tag, weil die Nutzer ihm Rassismus, Sexismus und Hass beigebracht hatten. (SPIEGEL ONLINE)


Today

Die Käuferin will das kaputte Banksy-Bild trotzdem behalten

Es ist zwar zerschnitten, aber das ist der anonymen Käuferin egal. Sie will das Kunstwerk des Street-Art-Künstlers Banksy behalten.

Was ist passiert?

Am vergangenen Freitag ist das Bild "Girl With Balloon" im Londoner Auktionshaus Sotheby's versteigert worden. Doch kurz nachdem der Hammer fiel, war es durch einen im Rahmen verborgenen Schredder gelaufen und zur Hälfte zerstört worden. Die Teilnehmerinnen und Teilnehmer hielten sich zum Teil vor lauter Schreck die Hand vor den Mund oder betrachteten es mit offenen Mündern. (bento)