Eindrucksvoller als in dem Kurzfilm „Sommersonntag“ mit Axel Prahl kann man das moralische Dilemma des sogenannten Trolley-Problems nicht darstellen. Prahl in der Rolle des Brückenmeisters Bruno Hansen muss entscheiden, ob er seinen Sohn opfert um 293 Zugreisende zu retten. Das Trolley-Problem ist ein moralische Gedankenexperiment, mit dem sich Philosophen und Ethiker bereits seit den Anfängen des 20 Jahrhunderts beschäftigen. Durch autonome Fahrzeuge gesteuert von Künstlicher Intelligenz ist die Grundfrage dieses Experiments aktueller denn je.
Unternehmen und Forschungseinrichtungen müssen festlegen, wie ihr Algorithmus entscheiden soll. „Im Zuge der Debatte um autonome Fahrzeuge hat das Trolley-Problem ein Revival erfahren“, sagt Iyad Rahwan, Direktor des Forschungsbereichs Mensch und Maschine am Max-Planck-Institut für Bildungsforschung. „Wie sollen selbstfahrende Fahrzeuge sich verhalten, wenn ein Unfall nicht zu verhindern ist? Soll das Fahrzeug einer Menschengruppe ausweichen und dabei den Insassen des Autos opfern? Universelle Grundsätze, an die sich Ingenieure und Programmierer von autonomen Fahrzeugen halten können, gibt es nicht.“
Autonome Fahrzeuge würden unterschiedlich programmiert
Denen stellt sich in diesem Zusammenhang eine interessante Frage. Nämlich die nach Gemeinsamkeiten und Unterschieden bei der Bewertung moralischer Dilemmata-Situationen. Gibt es eine weltweit einheitliche Moral? Reagieren die Bürger Japans anders auf dieses Experiment als Franzosen oder US-Amerikaner? Forscher des Max-Planck-Instituts für Bildungsforschung unter der Leitung von Iyad Rahwan, haben nun genau diese Fragen untersucht und ihre Ergebnisse im Journal PNAS veröffentlicht. Frühere Studien haben bereits gezeigt, dass Menschen je nach Kulturkreis autonome Fahrzeuge für solche Situationen unterschiedlich programmieren würden.
Ist es in Ordnung, einen Menschen zu opfern, um mehrere Menschen zu retten, war auch in diesem Experiment die Grundfrage. Das Szenario: Eine Straßenbahn fährt ungebremst auf fünf Gleisarbeiter zu. Der Weichensteller könnte die Straßenbahn auf ein Nebengleis umleiten, auf dem nur ein Mensch arbeitet. Soll er den einen Menschen opfern, um fünf Menschen zu retten? Tatsächlich unterscheidet sich die Bereitschaft, einen Menschen zu opfern, um mehrere zu retten, von Land zu Land. Mit 70.000 Teilnehmern aus 42 Ländern wurde das Trolley-Experiment durchgeführt.
Es gibt weltweite Gemeinsamkeiten…
Während sich frühere Studien auf Unfälle von autonomen Fahrzeugen konzentrierten, beschäftigte sich Iyad Rahwan mit seinem Team nun mit den klassischen Versionen des Trolley-Problems. Dies ist wichtig, da das Trolley-Problem unter Philosophen und Psychologen viel besser verstanden wird. Dazu hat das Forscherteam die Entscheidungen zu drei Varianten des Trolley-Problems analysiert.
„Universelle Grundsätze, an die sich Ingenieure und Programmierer von autonomen Fahrzeugen halten können, gibt es nicht.“
Iyad Rahwan, Direktor des Forschungsbereichs Mensch und Maschine am Max-Planck-Institut für Bildungsforschung
Im ersten Szenario, dem klassischen Trolley-Problem, konnten die Teilnehmer die Weiche umstellen und den Waggon auf ein Nebengleis lenken. Ein dort arbeitender Mensch stirbt, fünf Menschen auf dem Hauptgleis sind gerettet. Im zweiten Szenario macht das Nebengleis eine Schleife zum Hauptgleis zurück, auf dem fünf Menschen arbeiten. Das Umstellen der Weiche führt zum Tod des auf dem Nebengleis arbeitenden Menschen. Sein Körper verhindert, dass der Waggon auf das Hauptgleis zurückrollt. Im Unterschied zum ersten Szenario wird der Tod des einzelnen Menschen nicht nur in Kauf genommen, sondern ist notwendig, um die anderen fünf zu retten. Im dritten Szenario kann ein großer Mann von einer Fußgängerbrücke auf die Schienen gestoßen werden, wobei sein Körper den Waggon aufhält und fünf andere Menschen rettet. Auch hier wird der Tod des einzelnen Menschen nicht nur in Kauf genommen, sondern ist notwendig, um das Leben der anderen zu retten
© Awad et al.
Im Vergleich betrachtet, würden in allen Ländern mehr Teilnehmer einen Menschen im ersten Szenario opfern als im zweiten und am wenigsten im dritten. Die Bereitschaft den Tod eines Menschen in Kauf zu nehmen, um andere zu retten, ist weltweit größer, als den Tod eines Menschen zu instrumentalisieren, wie im zweiten und dritten Szenario.
…aber auch klare Unterschiede
Unterschiede zwischen den Ländern gab es jedoch in der generellen Bereitschaft, Menschen zu opfern. Im ersten Szenario würden beispielsweise 82 Prozent der Deutschen billigen, den einzelnen Menschen zu opfern, in den meisten westlichen Ländern sind die Werte ähnlich. Lediglich in einigen ostasiatischen Ländern ist das Ausmaß der Bereitschaft, einen Menschen für das Leben mehrerer zu opfern, auffallend geringer. In China beispielsweise billigen nur 58 Prozent der Teilnehmer die Weiche im ersten Szenario umzustellen. Im dritten Szenario weichen die Antworten zwischen den Ländern stärker voneinander ab. So stimmen 49 Prozent der Teilnehmer in Deutschland zu, den großen Mann von der Fußgängerbrücke zu stoßen, in Vietnam sind es hingegen 66 Prozent, in China nur 32 Prozent.
Im Vergleich mit anderen bereits erforschten Eigenarten in den Ländern fanden die Forscher einen auffälligen Zusammenhang: In Ländern, in denen es schwierig ist, außerhalb von traditionellen sozialen Gebilden, wie Familie oder Beruf, neue Beziehungen zu knüpfen, ist auch die Bereitschaft einen Menschen zu opfern geringer. Die Wissenschaftler vermuten, dass Menschen davor zurückschrecken, kontroverse und unpopuläre Entscheidungen zu treffen, wenn sie Angst haben, ihre aktuellen Beziehungen zu verlieren.
„Die Menschen befürchten möglicherweise, dass sie als ‚Monster‘ wahrgenommen werden könnten, wenn sie bereit sind, das Leben eines Menschen für das Allgemeinwohl zu opfern. Es ist noch zu früh, um einen klaren, kausalen Zusammenhang zwischen den kulturspezifischen, moralischen Entscheidungen der Menschen und der Leichtigkeit, mit der sie neue Beziehungen eingehen können, herzustellen. Es gibt jedoch vermehrt Anzeichen dafür, dass die Art und Weise, wie das persönliche Ansehen in einer bestimmten Kultur gepflegt wird, die moralischen Intuitionen der Menschen aus dieser Kultur beeinflussen kann“, sagt Iyad Rahwan.