Wer wird bei einem Verkehrsunfall mit einem selbstfahrenden Auto getötet?

Laut Business Insider sagen Experten, dass selbstfahrende Autos bereits eine tiefgreifende Entscheidung darüber treffen, wessen Leben wertvoller ist. Daher möchten die Leute bei ihrer Auswahl darauf achten.

„Jedes Mal, wenn ein selbstfahrendes Auto ein Ausweichmanöver durchführt, trifft es implizit eine Entscheidung darüber, wie gefährlich verschiedene Personengruppen sind“, schrieb Iyad Rahwan, Kognitionswissenschaftler am Massachusetts Institute of Technology, in einer E-Mail.

Die bekannteste Frage in der Diskussion um die Ethik selbstfahrender Autos ist das Trolley-Problem – eines der bekanntesten Gedankenexperimente im Bereich der Ethik, bei dem es darum geht, wer bei einem unvermeidbaren Verkehrsunfall geopfert werden sollte. Wenn beispielsweise ein Fußgänger plötzlich vor einem schnell fahrenden selbstfahrenden Auto stürzt, kann das Auto entweder die Richtung ändern und gegen eine Straßensperre prallen – wobei die Passagiere möglicherweise getötet werden – oder weiterfahren und dabei möglicherweise den gestürzten Fußgänger zerquetschen. Was soll das selbstfahrende Auto können?

Lavan und seine Kollegen untersuchten, wie Menschen Entscheidungen treffen, wenn es keinen perfekten Plan gibt. Obwohl dieses tödliche Szenario derzeit hypothetisch ist, sind Lavan und andere Branchenvertreter der Meinung, dass es mit der zunehmenden Verbreitung selbstfahrender Autos unvermeidlich sei.

Laut Business Insider sagen Experten, dass selbstfahrende Autos bereits eine tiefgreifende Entscheidung darüber treffen, wessen Leben wertvoller ist. Daher möchten die Leute bei ihrer Auswahl darauf achten.

„Jedes Mal, wenn ein selbstfahrendes Auto ein Ausweichmanöver durchführt, trifft es implizit eine Entscheidung darüber, wie gefährlich verschiedene Personengruppen sind“, schrieb Iyad Rahwan, Kognitionswissenschaftler am Massachusetts Institute of Technology, in einer E-Mail.

Die bekannteste Frage in der Diskussion um die Ethik selbstfahrender Autos ist das Trolley-Problem – eines der bekanntesten Gedankenexperimente im Bereich der Ethik, bei dem es darum geht, wer bei einem unvermeidbaren Verkehrsunfall geopfert werden sollte. Wenn beispielsweise ein Fußgänger plötzlich vor einem schnell fahrenden selbstfahrenden Auto stürzt, kann das Auto entweder die Richtung ändern und gegen eine Straßensperre prallen – wobei die Passagiere möglicherweise getötet werden – oder weiterfahren und dabei möglicherweise den gestürzten Fußgänger zerquetschen. Was soll das selbstfahrende Auto können?

Lavan und seine Kollegen untersuchten, wie Menschen Entscheidungen treffen, wenn es keinen perfekten Plan gibt. Obwohl dieses tödliche Szenario derzeit hypothetisch ist, sind Lavan und andere Branchenvertreter der Meinung, dass es mit der zunehmenden Verbreitung selbstfahrender Autos unvermeidlich sei.

Auch im Alltag stellen sich ethische Fragen, etwa: Was soll ein selbstfahrendes Auto tun, wenn es einen Radfahrer oder Fußgänger überholt?

„Wenn Sie auf der Straße fahren, stellen Sie eine Gefahr für Ihre Mitmenschen dar“, sagte Ryan Jenkins, Philosophieprofessor an der California Polytechnic State University. Wenn wir an Radfahrern und Joggern vorbeifahren, versuchen wir, so viel Abstand wie möglich zu halten, weil wir denken, das sei sicherer. Selbst wenn wir uns sicher sind, nicht mit ihnen zu kollidieren, denken wir an die Möglichkeit, dass uns etwas Unerwartetes zum Ausweichen zwingt, dass ein Radfahrer stürzt oder ein Jogger auf die Straße rutscht.

Es ist nicht einfach, diese Fragen zu beantworten. „Um die Sicherheit der Fußgänger wirklich zu gewährleisten, müssten autonome Fahrzeuge sehr langsam fahren, wenn sich Fußgänger auf dem Bürgersteig befinden, für den Fall, dass diese auf die Fahrspur treten“, schrieb Noah Goodall, Wissenschaftler am Virginia Transportation Research Board, in einer E-Mail.

Menschliche Fahrer können verschiedene ethische Fragen intuitiv beantworten, für künstliche Intelligenz ist dies jedoch keine einfache Frage. Programmierer selbstfahrender Autos müssen entweder explizite Regeln für jede Situation erstellen oder sich auf allgemeine Fahrregeln verlassen, um das Problem zu lösen.

„Einerseits könnten die Algorithmen, die ein selbstfahrendes Auto steuern, über eine Reihe expliziter Regeln für ethische Kompromisse verfügen“, schrieb Lavan. „Andererseits können die Entscheidungen, die ein selbstfahrendes Auto trifft, wenn Schaden unvermeidbar ist, das Ergebnis der Interaktion mehrerer Softwareelemente sein, von denen keines speziell für die Handhabung ethischer Entscheidungen zuständig ist.“

Laut Business Insider gibt es in manchen Fällen oder generell immer noch Spuren des Verhaltens selbstfahrender Autos, auch wenn die Programmierer es vage halten.

„Um es mit den Worten des renommierten Theologen Harvey Cox auszudrücken: Keine Wahl zu haben, ist eine Wahl“, schrieb Oren Etzioni, Geschäftsführer des Allen Institute for Artificial Intelligence, in einer E-Mail.

Wie gehen Unternehmen, die selbstfahrende Autos herstellen, mit diesen ethischen Fragen um? In vielen Fällen versuchen sie, diese Probleme zu umgehen.

Obwohl das Trolley-Problem große Aufmerksamkeit erregt hat, hat die Industrie für selbstfahrende Autos es größtenteils abgelehnt, dazu Stellung zu nehmen oder es mit einem Achselzucken abgetan. Ein Daimler-Manager erklärte gegenüber Car and Driver im Herbst, dass die selbstfahrenden Autos von Mercedes-Benz die Sicherheit der Passagiere um jeden Preis gewährleisten würden. Daimler dementierte die Behauptung später mit der Begründung: „Es ist klar, dass weder Programmierer noch autonome Fahrsysteme das Recht haben, über den Wert eines Menschenlebens zu entscheiden.“ Daimler erklärte außerdem, dass das Trolley-Problem kein wirkliches Problem darstelle, da das Unternehmen „darauf bedacht sei, durch die Umsetzung risikoaverser Fahrstrategien Dilemmata gänzlich zu vermeiden“.

Natürlich weisen Ethiker darauf hin, dass manche Risiken unvermeidbar sind – Bremsversagen etwa oder das plötzliche und unvorhersehbare Verhalten anderer Autofahrer, Radfahrer, Fußgänger und Tiere. Daher ist es nicht anmaßend zu glauben, dass Autos schwierige Entscheidungen treffen müssen.

Daimlers Behauptung, alle Leben seien gleich, lässt sich so interpretieren, dass das Unternehmen nicht explizit eine bestimmte Gruppe von Menschen als wertvoller erachtet.

Google hat mehr Details als jedes andere Unternehmen darüber bekannt gegeben, wie seine selbstfahrenden Autos auf Verkehrsunfälle reagieren.

Im Jahr 2014 erklärte Sebastian Thrun, Gründer der X-Abteilung von Google, dass die selbstfahrenden Autos des Unternehmens gezielt mit dem kleineren von zwei Objekten kollidieren würden: „Wenn ein Verkehrsunfall unvermeidbar ist, wird das Auto mit dem kleineren Objekt zusammenstoßen.“

Ein Google-Patent aus dem Jahr 2014 zur seitlichen Fahrspurpositionierung folgt einer ähnlichen Logik und beschreibt, wie selbstfahrende Autos auf einer Spur von Lkw weg und auf einer anderen näher an Pkw heranfahren sollten, da Kollisionen mit kleineren Objekten sicherer seien.

Natürlich ist die Kollision mit einem kleineren Objekt eine ethische Entscheidung: Eine solche Entscheidung schützt die Interessen der Passagiere und minimiert den Schaden, den sie erleiden. Dies würde auch eine Verlagerung der Gefahr auf Fußgänger oder Insassen kleinerer Autos bedeuten. Patrick Lin, Professor für Philosophie an der California Polytechnic State University, erklärte in einer E-Mail: „Bei dem kleineren Objekt könnte es sich um einen Kinderwagen oder ein kleines Kind handeln.“

Im März 2016 beschrieb Chris Urmson, der damalige Leiter des Google-Teams für selbstfahrende Autos, der Los Angeles Times eine noch „ausgefeiltere“ Regel: „Unsere selbstfahrenden Autos werden ihr Bestes tun, um Zusammenstöße mit ungeschützten Verkehrsteilnehmern wie Radfahrern und Fußgängern zu vermeiden. Sie werden auch Zusammenstöße mit beweglichen Objekten vermeiden.“

Dieser Ansatz ist praktischer als das Auffahren auf kleinere Objekte und versucht, die Menschen zu schützen, die bei einem Unfall am meisten verletzt werden könnten. Natürlich könnte es auch bei Käufern selbstfahrender Autos weniger beliebt sein, die mit Sicherheit Wert darauf legen, dass das von ihnen gekaufte Auto sie um jeden Preis sicher hält.

Wie sollten die ethischen Fragen selbstfahrender Autos behandelt werden? In der Branche besteht zumindest Einigkeit darüber, dass dieses Thema weiter diskutiert werden muss.

„Hersteller und andere arbeiten mit Aufsichtsbehörden und anderen Interessengruppen wie Fahrern, Passagieren und gefährdeten Verkehrsteilnehmern zusammen, um diese Situationen anzugehen und sicherzustellen, dass solche ethischen Beurteilungen und Entscheidungen bewusst getroffen werden“, erklärte die National Highway Traffic Safety Administration in einem Bericht vom September.

Wayne Simpson, leitender Angestellter bei Consumer Watchdog, einer gemeinnützigen Verbraucherschutzorganisation, stimmt dem zu. In einer Aussage vor der National Highway Traffic Safety Administration (NHSA) sagte er: „Die Öffentlichkeit hat ein Recht darauf zu erfahren, ob ein autonomes Fahrzeug die Sicherheit von Passagieren, Fahrern oder Fußgängern beim Fahren auf der Straße priorisiert und welche Faktoren dabei berücksichtigt werden. Wenn diese Fragen nicht beantwortet werden, beschränken die Unternehmen ihre eigene Verantwortung bei der Fahrzeugkonstruktion, anstatt gesellschaftliche Gepflogenheiten, ethische Praktiken oder relevante Gesetze und Vorschriften einzuhalten.“

Die Branche der selbstfahrenden Autos scheint für gute Ratschläge empfänglich zu sein. Apple, ein bekannter Hersteller selbstfahrender Autos, sagte, man werde eine „sorgfältige Untersuchung durchführen und dabei das Feedback von Branchenführern, Verbrauchern, Bundesbehörden und anderen Experten einbeziehen“.

Ford schloss sich dieser Meinung an und sagte, das Unternehmen arbeite bereits „mit mehreren führenden Universitäten und Industriepartnern zusammen“, um die ethischen Aspekte selbstfahrender Autos zu erörtern.

Gleichzeitig warnte Ford vor übermäßigem Philosophieren. Wayne Bahr, Fords globaler Direktor für Fahrzeugsicherheit, sagte: „Wir versuchen, dieses Problem aus einer professionellen Perspektive anzugehen und vermeiden es, in unrealistischen Annahmen stecken zu bleiben. Ein häufiges Problem in Diskussionen über die Ethik selbstfahrender Autos besteht darin, dass die zugrunde liegenden Annahmen über die Fähigkeiten selbstfahrender Autos falsch sind. Wenn man beispielsweise den Wert des Lebens eines Menschen gegenüber dem eines anderen in Frage stellt, geht man davon aus, dass das selbstfahrende Auto unterscheiden kann, welcher Mensch den höheren Wert hat.“

Laut Business Insider bezogen sich Bachs Kommentare auf andere Versionen des Trolley-Problems: Bei der Entscheidung, wen man tötet, werden Faktoren wie Alter, Rechtsstatus und sozialer Wert berücksichtigt. Kurzfristig ist es unwahrscheinlich, dass selbstfahrende Autos in der Lage sein werden, Menschen anhand dieser Faktoren zu kategorisieren.

Auf lange Sicht ist es die ethischste Entscheidung, die Mehrheit der Autos auf der Straße selbstfahrend zu machen. Schließlich sind selbstfahrende Autos weitaus sicherer als menschliche Fahrer und es wird erwartet, dass sie die Zahl der Verkehrsunfälle um 90 Prozent reduzieren.

Doch für den großflächigen Einsatz selbstfahrender Autos bedarf es guter Gesetze, die Fehltritte vermeiden, die zu Debatten und Rechtsstreitigkeiten führen könnten. Mit anderen Worten: Es erfordert ethische Standards.

„Je früher selbstfahrende Autos alltäglich werden, desto weniger Menschen werden bei Verkehrsunfällen sterben“, schrieben Rawan und seine Kollegen Azim Shariff und Jean-François Bonnefon in der New York Times. „Um die Menschen von der Notwendigkeit des Autofahrens zu befreien, müssen wir uns jedoch ernsthaft mit den psychologischen und technischen Herausforderungen selbstfahrender Autos auseinandersetzen.“

Als Gewinner des Qingyun-Plans von Toutiao und des Bai+-Plans von Baijiahao, des Baidu-Digitalautors des Jahres 2019, des beliebtesten Autors von Baijiahao im Technologiebereich, des Sogou-Autors für Technologie und Kultur 2019 und des einflussreichsten Schöpfers des Baijiahao-Vierteljahrs 2021 hat er viele Auszeichnungen gewonnen, darunter den Sohu Best Industry Media Person 2013, den dritten Platz beim China New Media Entrepreneurship Competition Beijing 2015, den Guangmang Experience Award 2015, den dritten Platz im Finale des China New Media Entrepreneurship Competition 2015 und den Baidu Dynamic Annual Powerful Celebrity 2018.