Asimowsche Regeln für den Asphaltdschungel

Autonome Fahrzeuge werfen grundlegende ethische Fragen auf

Die dritte KI-Welle könnte den Unterschied machen. In Gestalt autonomer Fahrzeuge rauscht sie gerade heran: ein weiterer Komplex technologischer Innovationen, die auf Künstlicher Intelligenz (KI) beruhen und die Gesellschaft in ihren Fundamenten erschüttern können. Aber während Drohnen und Militärroboter (Welle 1) bislang kaum als KI-Technologie wahrgenommen werden und Pflegeroboter (Welle 2) noch relativ weit entfernt zu sein scheinen, hört beim Auto der Spaß auf. Bei der Frage, welche Kompetenzen ihrem vierrädrigen Freund übertragen werden sollen, möchten die meisten Menschen doch ein Wort mitreden. Und das ist gut so.

Autos sind uns einfach näher als unbemannte Flugzeuge, die in fernen Ländern die dortige Bevölkerung überwachen und gelegentlich bombardieren, oder elektronische Seniorenbutler, deren Realisierung ebenso in einer unbestimmten Zukunft zu liegen scheint wie die eigene Senilität und Gebrechlichkeit. Über das Altwerden und die eines Tages bevorstehende eigene Pflegebedürftigkeit denkt man in der Regel nicht gerne nach, ebensowenig über Killerroboter. Dagegen die nächste Spritztour, die neuesten Fahrzeugmodelle, Verbesserungen bei der Ausstattung - für viele ist das nicht nur emotional erhebender, es liegt auch zeitlich viel näher.

Autonome, vom Computer gesteuerte Fahrzeuge scheinen praktisch schon hinter der nächsten Ecke zu stehen. Auf Autobahnen und abgegrenzten Firmengrundstücken dürften sie in den kommenden Jahren mehr und mehr zum Einsatz kommen. Bis sie auch im Stadtverkehr zum vertrauten Anblick werden, kann es zwar noch deutlich länger dauern, aber die Entwicklung ist absehbar und erscheint aus verschiedenen Gründen auch wünschenswert. So dürfte die Automatisierung des Straßenverkehrs die Zahl der benötigten Autos drastisch reduzieren und in den Städten wieder Platz schaffen für Fußgänger, Radfahrer, Bäume und Biergärten. Vor allem aber, das ist das große Versprechen des autonomen Fahrens, soll sich die Zahl der tödlichen Unfälle auf den Straßen drastisch reduzieren.

Daher ist damit zu rechnen, dass die mit dieser Technologie verbundenen ethischen Fragen mehr Aufmerksamkeit finden werden als bei den beiden anderen großen KI-Innovationen, deren soziale und kulturelle Auswirkungen derzeit noch leichter verdrängt werden können. Damit könnte auch die gesellschaftsverändernde Kraft der KI generell stärker ins allgemeine Bewusstsein rücken. Das Fahrverhalten autonomer Fahrzeuge werde jedenfalls gewiss nicht anhand statistischer Kennzahlen bei Testfahrten beurteilt werden, sondern nach den ethischen Standards der Gesellschaft, in der sie operieren, betonen J. Christian Gerdes und Sarah M. Thornton in einer jetzt veröffentlichten, von der Daimler und Benz Stiftung finanzierten Studie. Die beiden Maschinenbauer von der University of Stanford räumen zwar ein, dass es nach wie vor strittig sei, ob künstliche Agenten sich wahrhaft moralisch verhalten könnten. Gleichwohl werde ihr Verhalten durch die Ethiklinse betrachtet werden, insbesondere bei Konflikten.

Und Konflikte werden nicht ausbleiben. Auf Dauer werden sich selbst Roboterautos nicht völlig unfallfrei über den Asphalt bewegen können. Früher oder später werden Unfallstatistiken gegen den ersten von einem autonomen Fahrzeug getöteten Menschen abgewogen werden müssen. Spätestens dann wird deutlich werden, dass erhöhte Sicherheit ihren Preis hat.

Oliver Bendel, Betreiber des Portals Maschinenethik wendet sich daher gegen einen reinen Verkehr aus Roboterautos. "Ich bin dafür, die Zahl der Toten zu halbieren", sagt der Philosoph und Wirtschaftsinformatiker von der Fachhochschule Nordwestschweiz. "Das klingt brutal, wenn man die Möglichkeit hätte, viel weniger Tote zu haben. Aber unsere Autonomie ist auch wichtig." Maschinen sollten nicht über Leben und Tod entscheiden, fordert er.

Es ist indessen fraglich, wie weit sich die Sicherheit im Straßenverkehr ohne solche Entscheidungskompetenz erhöhen lässt. Patrick Lin, Philosoph an der California Polytechnic State University, geht in der erwähnten Studie jedenfalls davon aus, dass autonome Fahrzeuge bei einem unvermeidlichen Zusammenstoß in der Lage sein sollten, die Kollision zu optimieren, also so zu reagieren, dass der Schaden möglichst gering ausfällt. Optimieren lässt sich allerdings in verschiedene Richtungen, je nachdem ob der Wagen darauf ausgerichtet ist, vor allem seine Insassen zu schützen oder andere Verkehrsteilnehmer. Im ersten Fall würde er beim Ausweichen stets das leichtere Hindernis wählen, also etwa ein Kind statt eines Erwachsenen, einen Kleinwagen statt eines SUV oder Lasters, im zweiten Fall eher umgekehrt.

Das Ausweichverhalten ließe sich demnach auch als Zielalgorithmus beschreiben, so Lin. Fahrer von sichereren Fahrzeugen könnten so ohne eigenes Zutun ins Fadenkreuz anderer Verkehrsteilnehmer geraten. Motorradfahrer stünden vor der Frage, ob sie nicht lieber auf Schutzhelme verzichten sollten, um nicht zu bevorzugten Kollisionsobjekten zu werden. Kostenfunktionen, entwickelt in den Programmierabteilungen von Automobilkonzernen, würden darüber entscheiden, wer am Leben bleibt und wer nicht. Eine gewichtigere Aufgabe sei kaum denkbar, betont Lin und wundert sich, dass es darüber bisher kaum Diskussionen gebe.

Doch die kommen jetzt in Gang. So befürchtete der Würzburger Juraprofessor Eric Hilgendorf kürzlich in der Frankfurter Allgemeinen, dass autonome Fahrzeuge das deutsche Rechtsverständnis unter Druck setzen könnten, da es schwieriger zu programmieren sei als das angelsächsische.

Trolley-Problem

Die unterschiedlichen Rechtstraditionen zeigen sich im Umgang mit dem "Trolley-Problem", das 1967 von der britischen Philosophin Philippa Foot in die Ethikdebatte eingebracht wurde und das im Zuge der Automatisierung des Straßenverkehrs jetzt eine Renaissance erlebt. In seiner ursprünglichen Form ist es auf den Schienenverkehr bezogen: Ein Eisenbahnwagen rollt unkontrolliert auf eine Gruppe von fünf Personen zu, die nichts von der Gefahr ahnen. Durch das Stellen einer Weiche könnte er auf ein anderes Gleis umgelenkt werden, auf dem sich eine Person befindet. Was nun? Den Hebel umlegen oder nicht?

Die Antwort auf die Frage hängt davon ab, ob die Tat selbst bewertet wird oder ihre Folgen. So orientiert sich die angelsächsische Kultur eher an der konsequentialistischen Ethik, die davon ausgeht, dass ein Todesopfer besser ist als fünf, und daher das Betätigen der Weiche als ethisch gerechtfertigt ansehen würde. Im deutschen Recht steht dagegen die Tat im Mittelpunkt: Während durch das Stellen der Weiche ein Mensch aktiv getötet wird, wird der Tod der fünf Personen durch das Untätigsein lediglich in Kauf genommen. Philosophen sprechen von der deontologischen, von Prinzipien geleiteten Ethik.

Tatsächlich lasse sich der quantitativ abwägende Konsequentialismus relativ leicht mathematisch fassen, meinen Gerdes und Thornton. Die beiden Ingenieurwissenschaftler bedienen sich dafür bei der Kontroll- oder Regelungstheorie. Die bewertet etwa Abweichungen des Fahrzeugs vom geplanten Pfad als Kosten, die es zu minimieren gilt. Diesen grundlegenden Ansatz halten die Forscher für direkt analog zur konsequentalistischen Ethik.

Sie betonen aber auch: Ein rein konsequentialistischer Ansatz reicht nicht aus, um einem autonomen Fahrzeug eine zuverlässige ethische Orientierung zu ermöglichen. Dem stünde schon entgegen, dass das Fahrzeug nie über vollständige Informationen zur Beurteilung einer Situation verfügen werde. Zudem funktionierten Kostenfunktionen und ihre Gewichtung nur innerhalb eines bestimmten Rahmens. Wenn die Dimensionen der verschiedenen Kosten zu stark voneinander abwichen, ließen sie sich mathematisch nicht mehr sinnvoll erfassen.

Ingenieure lösen solche Probleme, indem sie Randbedingungen definieren, also Grenzwerte festlegen, die eingehalten werden müssen. Mathematisch gesehen wird das Optimierungsproblem eingeschränkt. Diese Einschränkungen können physikalische Grenzen ebenso betreffen wie Leistungsgrenzen des technischen Systems oder eben ethische Vorgaben.

Robotergesetze

Das berühmteste Beispiel für solche ethischen Randbedingungen sind die vom Schriftsteller Isaac Asimow entwickelten drei Robotergesetze. Die fordern an erster Stelle, dass ein Roboter einem Menschen keinen Schaden zufügen darf. Künstliche Intelligenz mit dem dafür erforderlichen Verständnis von Schmerz und Schädigung halten Gerdes und Thornton jedoch in naher Zukunft nicht für realisierbar. Sie schlagen vor, stattdessen die Vermeidung von Kollisionen an die oberste Stelle zu rücken und kleinere Schäden, wie das Einklemmen einer Hand in der Autotür, in der Verantwortung des Menschen zu belassen. So ergeben sich drei Asimowsche Grundregeln des autonomen Fahrens:

Aus rein konsequentialistischer Sicht werde ein solcher "hybrider Ansatz" nicht immer zum optimalen Ergebnis führen, räumen Gerdes und Thornton ein, etwa wenn leichte Verletzungen eines Fußgängers erheblichem Sachschaden gegenüberstehen. Zuverlässige Schadensabschätzungen im Sekundenbruchteil dürften allerdings ähnlich weit in der Zukunft liegen wie das Verständnis menschlichen Schmerzes. Die drei Gesetze dagegen kommen ohne solche Schätzungen aus und erfordern lediglich grobe Objektklassifizierungen, die beim gegenwärtigen Stand der Technik realisierbar sein sollten.

Würden autonome Fahrzeuge, die den Verkehrsfluss behindern, weil sie sich strikt an die Regeln halten, gesellschaftlich akzeptiert werden?

Das Wirkungsfeld für den Konsequentialismus sehen die beiden Forscher beim Umgang mit den Verkehrsregeln. Die seien zwar streng genommen als Randbedingungen formuliert, würden allerdings im Alltag flexibel gehandhabt und ständig gegen andere Ziele wie etwa flüssigen Verkehr abgewogen. Autonome Fahrzeuge, die den Verkehrsfluss behindern, weil sie sich strikt an die Regeln halten, würden gesellschaftlich kaum akzeptiert werden, vermuten Gerdes und Thornton. Ihre Schlussfolgerung: Ein deontologischer Umgang mit der Kollisionsvermeidung und ein konsequentialistischer Umgang mit den Verkehrsregeln könnte die richtige Kombination sein, um autonome Fahrzeuge zu schaffen, die "im Straßenverkehr mit menschlichen Fahrern koexistieren und sich gleichartig verhalten können".

Auf jeden Fall ein Vorschlag, über den sich debattieren lässt. Für Patrick Lin ist das der wichtigste Aspekt: Selbst wenn der Konsequentialismus die beste ethische Theorie wäre und das Fahrzeug seine Ausweichmanöver völlig korrekt kalkulieren würde, wäre das wenig wert, wenn es zuvor keine Debatte über Ethik gegeben hätte. Den Nutzern eines autonomen Fahrzeugs müsse vorm Einsteigen klar sein, worauf sie sich einlassen. "Die Industrie wäre gut beraten", mahnt Lin, "hier für Klarheit zu sorgen und frühzeitig die Überlegungen zu den Schlüsselalgorithmen zu erklären und zu diskutieren, die über Leben und Tod entscheiden können. Transparenz, die Offenlegung der eigenen Mathematik, ist ein wichtiger Aspekt ethischen Verhaltens. Es geht nicht nur um die Antwort selbst."

In dem Punkt ist er sich einig mit Oliver Bendel. Die ethischen Fragen des autonomen Fahrens könnten nicht allein in den etablierten engen Kreisen von Industrie, Politik und Forschungsinstituten geklärt werden. Dazu brauche es eine viel breitere gesellschaftliche Diskussion, die "nicht nur von oben, sondern auch von unten" geführt werden müsse. "Diesen Diskussionen müssen in den nächsten zwei, drei Jahren wesentliche Erkenntnisse entspringen", erwartet er.

Wenn das gelingt, wenn autonome Fahrzeuge tatsächlich die Menschen dazu bringen, sich zusammenzusetzen, sich offen und grundlegend darüber zu verständigen, wie sie miteinander umgehen wollen und dabei zu einem tragfähigen Konsens zu gelangen - dann will ich nie ein böses Wort über im Weg stehende Blechkisten gesagt, nie gegen Kotflügel getreten haben. Dann sollten wir ernsthaft erwägen, einen Tempel für das Auto als Heilsbringer der Menschheit einzurichten und vor dem als Kühlerhaube gestalteten Altar regelmäßige Dankeszeremonien abzuhalten. Aber das lappt jetzt vielleicht zu sehr ins Utopische. Warten wir’s ab.