KI-Ethik: Sollten Roboter wählen dürfen?

Wenn du dich 2018 mit einem digitalen Kundenassistenten unterhältst, wird es sich wahrscheinlich genauso anfühlen wie ein Gespräch mit einem Menschen. Und bis 2029 werden Roboter vermutlich intelligenter sein als wir.

Die Vorstellung von KI ist spannend. Wie stark künstliche Intelligenz unseren Alltag beeinflussen wird, wissen wir allerdings noch nicht genau. Manche Menschen erwarten voller Optimismus ein Leben in Muße, während Roboter die gesamte schwere Arbeit erledigen.
Andere zeichnen ein düsteres Bild: Sie halten es für unausweichlich, dass Roboter uns versklaven werden.

Für viele Menschen ist die Angst vor dem Unbekannten – und all den Terminator-Filmen – ein überzeugendes Argument dafür, die Entwicklung frei denkender Roboter langsamer voranzutreiben. Doch wenn du schon einmal eine Selbstbedienungskasse benutzt, mit Siri gesprochen oder Netflix geschaut hast, bist du bereits mit KI in Berührung gekommen. Und selbstfahrende Autos, automatisierte Drohnen und Roboter für die Altenpflege werden bald ganz selbstverständlich zum Alltag gehören.

Wenn die Singularität erreicht ist

Der Moment, in dem die Intelligenz von Maschinen die vergleichsweise kümmerliche Intelligenz des Menschen übertrifft, wird als Singularität bezeichnet. Doch was passiert, wenn Roboter beschließen, dass sie die Menschen nicht mehr brauchen?

In „Futurescape with James Woods“ beginnt die zweite Folge mit einer Roboterin, die auf eine Wahlkabine zugeht. Umgeben von Demonstranten erfasst sie mit ihren Augen einen Mann, der einen Anstecker mit der Aufschrift „Keine Seele, keine Stimme!“ trägt.

Woods beginnt seinen Kommentar: „Lächerlich, oder? Ein Roboter, der wählt. Nun, genau das sagte man 1870 über Schwarze und Anfang des 20. Jahrhunderts über Frauen. Aber du würdest einem programmierbaren Roboter doch nicht die vollen Bürgerrechte geben, oder? Ich meine, sie können nicht so denken wie wir und fühlen nicht wie wir – sie unterscheiden sich grundlegend von uns. Noch. Doch die Grenzen verschwimmen bereits. Und wenn du daran zweifelst, bitte deinen Vater, seinen Herzschrittmacher abzugeben, oder deine Großmutter, ohne ihre künstliche Hüfte zu leben. Jeden Tag kommen wir dem Zeitpunkt näher, an dem Mensch und Maschine wirklich verschmelzen und neu definieren, was es bedeutet, ein Mensch zu sein.“

Was unterscheidet Menschen von Maschinen? Maschinen sind programmierbar und lassen sich durch mechanische Eingriffe reparieren. Außerdem glauben wir, dass Menschen einen Geist, eine Seele und einen freien Willen haben. Einige Wissenschaftler halten jedoch dagegen: Eines Tages werden wir die Verschaltungen entdecken, die uns zeigen, wie der Geist tatsächlich funktioniert. Damit würden die letzten Grenzen zwischen Menschen und Robotern fallen.

Möglicherweise sind diese Muster sehr einfach. An der University of California, Los Angeles wird bereits in diese Richtung geforscht: Dr. Arthur Toga kartiert die Verbindungen zwischen den Nervenzellen im menschlichen Gehirn. Das würde uns ein vollständiges Bild des Gehirns liefern. So könnten wir nicht nur fehlerhafte Verschaltungen beim Menschen erkennen, sondern womöglich auch jenes besondere Etwas entschlüsseln, das uns als Menschen einzigartig macht.

Wie Bewusstsein entsteht

Um Gefühle empfinden zu können, müssen Roboter ein Bewusstsein entwickeln können.

Der Zukunftsforscher Ray Kurzweil glaubt, dass Roboter bis 2029 ein Bewusstsein entwickeln werden. Er verweist auf aktuelle Untersuchungen des menschlichen Gehirns, die in Echtzeit zeigen, wie Signale zwischen Nervenzellen übertragen werden. Da Wissenschaftler beobachten können, wie unser Gehirn Gedanken erzeugt, ist die Vorstellung nicht abwegig, dass sie diesen Vorgang bei Robotern nachbilden können. Deshalb beschäftigen sich Forschende aus Theologie, Rechtswissenschaft, Psychologie, Ethik, Menschenrechten und Philosophie zunehmend mit der Idee einer „Robotermoral“.

Elon Musk ist der Gründer von Tesla Motors und hat kürzlich 10 Millionen US-Dollar für Forschung zugesagt, die eine „menschenfreundliche KI“ sicherstellen helfen soll.

Superintelligente KI

Auch Stephen Hawking hat sich zu KI geäußert und davor gewarnt, dass eine superintelligente KI das Ende der Menschheit bedeuten könnte. Die Liste besorgter Experten wird länger: Steve Wozniak und Bill Gates warnen ebenfalls davor, dass Roboter unsere Existenz bedrohen könnten. Wenn Roboter die Singularität erreichen und intelligenter werden als wir, könnten sie sich folglich unserer Kontrolle entziehen. Und wenn sie ohne Moral programmiert werden, könnten sie einfach beschließen, uns zu beseitigen. Daraus ergeben sich zahlreiche Fragen: Wie programmiert man Moral? Hängt sie von den Vorstellungen des Programmierers ab? Und wer legt den ethischen Kodex fest, wenn Roboter einen solchen brauchen?

Eine Antwort lautet, Verhaltensregeln direkt in die Software des Roboters zu programmieren. Das könnten konkrete Regeln sein, etwa nach dem Vorbild der Zehn Gebote, oder theoretische Grundsätze wie die utilitaristische Ethik. Entscheidend ist, dass Roboter fest einprogrammierte Leitlinien erhalten, auf deren Grundlage sie dann sämtliche Entscheidungen treffen können.

In der Theorie klingt das gut. In der realen Welt könnte es Robotern dadurch allerdings zu schwerfallen, schnell zu entscheiden.

Eine andere Idee ist ein Bottom-up-Ansatz: Die Maschinen lernen aus Erfahrungen, statt sämtliche notwendigen Regeln vorgegeben zu bekommen. Das belastet die Rechner des Roboters weniger, weil er nicht die Folgen jeder einzelnen Handlung abwägen muss, sondern auf eingeübte Reaktionen zurückgreifen kann. Ethisches und moralisches Verhalten würde sich so nach und nach entwickeln.

Was macht den Menschen aus?

Wenn wir Roboter mit Bewusstsein entwickeln können, wären sie dann Personen? Und müssten sie in diesem Fall nicht dieselben Rechte haben wie jede andere Person?

Wissenschaftler der Stanford University arbeiten derzeit am Nerogrid– einer Hardware, die die Aktivität des Gehirns in Echtzeit nachahmen kann. Dieser Supercomputer hat die Größe eines iPads und könnte eines Tages zu einer Maschine werden, die selbstständig denken kann.

Neurogrid bildet sogar die Verschaltungen des menschlichen Gehirns nach. Der einzige Unterschied zwischen Menschen und Robotern, die wie wir denken könnten, besteht in einer größeren Zahl neuronaler Verbindungen. Demnach ist es nur eine Frage der Zeit, bis Roboter selbstständig denken können.

Doch wenn Roboter ein Bewusstsein ihrer selbst entwickeln, was unterscheidet sie dann noch von uns?

Jetzt kommt Nao

Ein 58 cm großer humanoider Roboter namens Nao kann bereits Geschichten erzählen, laufen und Entscheidungen treffen. Doch dabei bleibt es nicht: Nao wird auch mit ethischen Grundsätzen programmiert und kann in einer gegebenen Situation alle Möglichkeiten abwägen, bevor er entscheidet, wie er handelt. Mit einer Reihe von Wahr-falsch-Aussagen erkennt Nao Schaden, Nutzen sowie die Vor- und Nachteile jeder Option.

Wird Nao darauf programmiert, jemanden an die Einnahme von Medikamenten zu erinnern, muss er Entscheidungen treffen. Verweigert die Patientin ihre Medikamente, muss der Roboter abwägen: Lässt er sie eine Dosis auslassen und nimmt damit einen möglichen Schaden in Kauf? Oder besteht er auf der Einnahme und greift damit in ihre Selbstbestimmung ein?

Seine Entwickler brachten Nao den Umgang mit solchen Problemen anhand von Konfliktfällen bei, die Bioethiker gelöst hatten. Dabei ging es um Selbstbestimmung, Nutzen und Schaden für Patienten. Naos Lernalgorithmen ermöglichen es ihm, diese Fälle nach Mustern zu durchsuchen, die bei einer Entscheidung in einer neuen Situation helfen. So verweigerte die Frau das Aspirin, was Nao akzeptierte, um sie später erneut daran zu erinnern.

Können Roboter fühlen?

Menschen gehen Bindungen ein, indem sie ein vertrautes Verhältnis zueinander aufbauen. Von diesen Bindungen hängt das Überleben unserer Spezies ab, und sie beruhen wiederum auf Gefühlen. Von Geburt an erkennen wir diese Gefühle bei anderen Menschen und drücken unsere eigenen aus.

Nao kann neue Verhaltensweisen herunterladen, Blickkontakt herstellen, Gesichter erkennen und auf Nutzer reagieren. Das macht ihn für Kinder, die autistisch oder reizüberflutet sind oder nicht sprechen, unschätzbar wertvoll: Der Roboter kann ihnen helfen, Gefühle zu erkennen. Untersuchungen haben sogar gezeigt, dass Computer Gesichtsausdrücke besser deuten können als wir. Damit wird es für uns immer schwieriger werden, Roboter zu belügen.

Aldebaran, das Unternehmen hinter Nao, hat im vergangenen Jahr Pepper vorgestellt. Dieser Roboter ist der erste, der für das Zusammenleben mit Menschen entwickelt wurde. Er kann den Gefühlszustand seines Nutzers spiegeln – etwas, womit Menschen bereits als Babys beginnen. Das funktioniert in beide Richtungen: Während Roboter unsere Gefühle spiegeln, spiegeln wir instinktiv ihre, fühlen uns mit ihnen verbunden und helfen ihnen bei Aufgaben.

Roboter können zwar noch keine Gefühle empfinden, aber bereits diesen Eindruck erwecken. 2014 bestand ein Roboter namens Eugene den Turing-Test. Der nach dem Computerpionier Alan Turing benannte Test soll feststellen, ob ein Computer „intelligent“ sein kann, und ist im Grunde ein Imitationsspiel. Ein menschlicher Prüfer sitzt vor einem Computerbildschirm und führt Gespräche mit anderen Menschen sowie einem Chatbot. Dieser wurde entwickelt, um den Prüfer glauben zu lassen, er sei ein Mensch.

Turing-Tests werden seit mehr als 20 Jahren durchgeführt. Eugene, der als 13-jähriger Junge programmiert wurde, überzeugte 33 % der Prüfer davon, ein Mensch zu sein. Das zeigt, dass Roboter noch einen weiten Weg vor sich haben, inzwischen aber intelligent genug sind, um ein Drittel ihrer menschlichen Gesprächspartner erfolgreich zu täuschen.

Roboter werden immer besser darin, Gefühle vorzutäuschen. Das eigentliche Ziel vieler Unternehmen ist jedoch, dass sie eines Tages tatsächlich denken und fühlen können – genau wie ein Mensch.

Was es bedeutet, eine Person zu sein

Das Europäische Parlament hat dafür gestimmt, Vorschriften für die Entwicklung und den Einsatz von künstlicher Intelligenz und Robotern auszuarbeiten. Dazu gehört auch der Status einer „elektronischen Person“, der Robotern Rechte und Pflichten verleihen würde.

Nach geltendem Recht in den Vereinigten Staaten sind Unternehmen Personen. Das gilt auch für Schiffe und Gemeinden. Warum sollte also nicht auch ein Roboter oder Cyborg eine Person sein können?

Für Unternehmen, die Roboter entwickeln, wird das weitreichende Folgen haben. Wenn sie einen Roboter bauen und dieser anschließend ein patentierbares Produkt entwickelt, wem würde das Patent gehören – dem Roboter oder dem Unternehmen?

Noch wichtiger ist das Wahlrecht als wesentlicher Bestandteil des Status als „Person“. Wenn Roboter Verantwortung für ihre Handlungen übernehmen müssen, sollten sie nach Ansicht vieler auch wählen oder als Geschworene tätig sein dürfen.

Um wählen zu können, bräuchten Roboter allerdings ein sehr differenziertes Verständnis von richtig und falsch.

Ein weiteres grundlegendes Recht des Menschen ist das Recht auf Fortpflanzung. Da Roboter unbegrenzt Kopien ihrer selbst herstellen könnten, würde man ihnen mit dem Wahlrecht faktisch auch die Macht übertragen. Aus diesem Grund vertreten viele Ethiker die Ansicht, dass Roboter entweder das Recht auf Fortpflanzung oder das Wahlrecht haben sollten, aber nicht beides.

Ryan Calo ist Rechtsprofessor an der University of Washington und auf Internetrecht und Robotik spezialisiert. Er sitzt im Beirat von CITRIS, einer Initiative zu Menschen und Robotern. Dieses Dilemma nennt er das „Kopieren-oder-Wählen-Paradoxon“.

Wenn eine künstlich intelligente Maschine eines Tages behauptet, den Status einer Person erlangt zu haben, empfindungsfähig zu sein, Schmerz und Freude zu erleben und Würde zu besitzen, und wir das nicht widerlegen können, lässt sich womöglich nicht rechtfertigen, ihr dieselben Menschenrechte zu verweigern, die wir genießen.

Wenn diese Maschine dann beansprucht, sich fortpflanzen und wählen zu dürfen, und sich anschließend unbegrenzt selbst kopiert, wäre die Demokratie vollständig ausgehebelt.

Sollten Roboter also wählen dürfen?

Sobald Roboter zu „Personen“ geworden sind und dieselben Rechte wie Menschen genießen, ist es folgerichtig, dass sie auch denselben Pflichten unterliegen müssen. Das würde bedeuten, dass Roboter wegen verursachter Schäden oder Fehler verklagt und auch im Rahmen des Rechtssystems bestraft werden könnten.

Ein weiteres Problem: Die EU mag bereit sein, Robotern den Status einer Person zu verleihen, während die Vereinigten Staaten den Einsatz ethischer Grundsätze fördern. Doch wer garantiert, dass andere Länder es ihnen gleichtun?

Autonome Roboter, die über Leben und Tod entscheiden, könnten bald zum Kriegsalltag gehören, denn Länder weltweit beginnen, künstliche Intelligenz für sich zu nutzen. Die chinesische und die russische Regierung arbeiten bereits daran, sich einen Vorsprung gegenüber anderen Ländern zu verschaffen, und setzen damit einen Rüstungswettlauf einer neuen Ära in Gang.

Professor Toby Walsh von der University of New South Wales in Australien hat bereits mehrfach vor den Vereinten Nationen gesprochen , um für die Gründung eines internationalen Gremiums zu werben, das verhindern soll, dass Killerroboter zu einer weiteren Kriegswaffe werden.

Die ethischen Fragen rund um KI werden in den nächsten fünfzig Jahren zweifellos zu den größten Herausforderungen für die Menschheit zählen. Im Idealfall gelingt es uns irgendwann, die Stärken von Robotern und Menschen zu nutzen und beide auf ethisch vertretbare Weise zusammenzuführen. Bis dahin wird es allerdings sicher einige Schwierigkeiten geben.

Eines steht fest: Unsere Roombas werden wir nie wieder mit denselben Augen sehen.