Umfrage befragt die Welt: Sollte ein selbstfahrendes Auto Passagiere oder Kinder auf der Straße retten?   

Mehr als zwei Millionen Internetnutzer grübelten über Dilemmata nach, die es zu berücksichtigen gilt, wenn sie Fahrzeuge moralische Entscheidungen treffen lassen.

Im Jahr 2014 verlor der Fahrer eines Lastwagens auf einem Hügel in Ithaca, N.Y., die Bremse und musste sich zwischen dem Überfahren von Bauarbeitern und dem Pflügen in ein Café entscheiden. Der Mann wählte letzteres, und ein Barkeeper starb. Es war ein Fall aus dem wirklichen Leben eines der beliebtesten Gedankenexperimente der Moralphilosophen: das Wagenproblem.  In ihrem Buch Driverless: Intelligent Cars and the Road Ahead, der Professor der Columbia University, Hod Lipson, und die Technologiejournalistin Melba Kurman bieten es als Beispiel für die schrecklichen Dilemmata, auf die sich die Designer von selbstfahrenden Autos vorbereiten müssen.

Heute hat ein Team unter der Leitung von Edmond Awad, Postdoc am Media Lab des Massachusetts Institute of Technology, die Ergebnisse seiner online gespielten Version des Dilemmas, des Experiments „Moral Machine“, veröffentlicht. Rund 2,3 Millionen Freiwillige auf der ganzen Welt spielten fast 40 Millionen Szenarien aus und urteilten darüber, wer bei Unfällen mit einem entlaufenen selbstfahrenden Auto leben und wer sterben sollte (Die Ergebnisse dieses Crowdsourcing-Experiments wurden am 24. Oktober in Nature berichtet.).

In seiner stärksten Form ist das Dilemma glücklicherweise selten, und selbstfahrende Autos, die insgesamt sicherer sind, können es noch seltener machen. Aber viele Philosophen und Ingenieure argumentieren, dass es implizit in den Routineentscheidungen enthalten sein wird, die eine autonome Maschine auf der Straße treffen muss. „Das Kernproblem, denke ich, wird in der realen Welt viele Male am Tag auftreten, nur nicht in einem verrückten Crash-Dilemma“, sagt Patrick Lin, Philosophieprofessor an der California Polytechnic State University, San Luis Obispo, der sich auf die Ethik der neuen Technologien spezialisiert hat und nicht an der Studie beteiligt war. Tatsächlich treffen die Fahrer bereits solche Entscheidungen, oft ohne es zu merken. In einem statistischen Sinne ist jeder kalifornische Stopp, Pittsburgh links, oder ein anderes zweifelhaftes Manöver eine Entscheidung, einen Bruchteil einer Person zu töten.

Die Website von Moral Machine präsentierte den Benutzern einen Cartoon von einem Auto, das auf einem Zebrastreifen auf Fußgänger zusteuert, und sie konnten sich entscheiden, auszuweichen und stattdessen eine andere Gruppe von Menschen zu überfahren. Manchmal war die Alternative eine konkrete Barriere, die die Insassen des Autos töten würde. Im Gegensatz zu einigen anderen Versionen des Trolley-Problems war es eine direkte Wahl zwischen zwei Gruppen von Opfern, ohne sich die zusätzliche Schwierigkeit vorzustellen, die Person körperlich in Gefahr zu bringen. Es gab keinen Zeitdruck, so dass Sie die beiden Optionen abwägen konnten. Die potenziellen Opfer variierten in Anzahl, Alter, Geschlecht und anderen Merkmalen. Sie könnten gezeigt werden, wie man mit einem Rohrstock geht, einen Kinderwagen schiebt oder eine Tasche mit gestohlenem Geld trägt, und Fußgänger könnten mit oder gegen das Gehsignal gehen. Man sieht vielleicht ein Auto, das nur mit Katzen und Hunden gefüllt ist – es war schließlich selbstfahrend.

Die Website ging im Juni 2016 in Betrieb, und die Autoren präsentieren Daten, die sie bis Dezember letzten Jahres gesammelt haben. Die Nachricht davon verbreitete sich meist durch Mundpropaganda, aber auch über die prominenten YouTubers PewDiePie und jacksepticeye. Um zu sehen, wie Ihre Entscheidungen im Vergleich zu denen aller anderen ausfielen, mussten Sie einen demografischen Fragebogen ausfüllen, und eine halbe Million Menschen taten dies. Sie verzerrten männlich (im Verhältnis drei zu eins) und jung (mit einem Höchstalter von 18 Jahren).

Sie waren sich weitgehend einig, was zu tun ist. Sie zogen es stark vor, Menschen vor Haustieren zu retten, Gruppen vor Einzelgängern, Kinder vor Senioren, gesetzestreue Fußgänger vor Jaywalkern und Menschen, die Aktentaschen über gekrümmten Figuren mit zerfetzten Mänteln tragen. Sie hatten auch mildere Vorlieben für Frauen gegenüber Männern, Fußgänger gegenüber Autopassagieren und Jogger gegenüber schwergewichtigen Menschen. Die Fahrer waren so wahrscheinlich, dass sie ausweichen mussten, um das Auto auf seinem jetzigen Kurs weiterfahren zu lassen – sie hatten keine Vorliebe für Untätigkeit. „Das war das geringste ihrer Bedenken“, sagt einer der Autoren der Studie, Azim Shariff von der University of British Columbia.

Demographische Gruppen und Nationalitäten waren sich nur deshalb nicht einig, weil sie den Schwerpunkt auf verschiedene Faktoren gelegt haben. Zum Beispiel warfen sowohl Männer als auch Frauen Männer unter den Bus, aber die Männer waren etwas weniger geneigt, dies zu tun. „Es gibt keinen Platz für eine dieser moralischen Dimensionen, bei denen zum Beispiel ältere Menschen im Durchschnitt den jüngeren bevorzugt wurden, oder bei denen die Handlung im Durchschnitt über die Untätigkeit gestellt wurde“, sagt Shariff. „Es ist nur so, dass diese moralischen Prioritäten in dieser Richtung für bestimmte Länder im Vergleich zu den anderen moralischen Prioritäten geringer sind.“

Die Forscher fanden Länder, die in drei verschiedene Cluster unterteilt waren. So erhielten beispielsweise Jugendliche in Lateinamerika höchste Priorität, weniger in Europa und Nordamerika und am wenigsten in Asien. Sicherlich war die Geographie nicht immer Schicksal. Die Tschechen reagierten wie Lateinamerikaner und Sri Lanka wie Westeuropäer.

Die nationalen Unterschiede verfolgten andere Indikatoren wie das Einkommen, das die Forscher als Beweis dafür nahmen, dass die überwiegend jungen männlichen Befragten im Allgemeinen repräsentativ für ihre Länder waren. Menschen aus ärmeren Ländern waren weniger geneigt, Jaywalker zur Strecke zu bringen; Menschen aus Ländern mit hoher Qualität waren respektvoller gegenüber Menschen mit Aktentaschen; und Menschen aus Ländern mit gleichem Geschlecht waren ritterlicher gegenüber Frauen. Diese letzte Tendenz hatte eine seltsame Folge: Da die durchschnittliche Präferenz bereits zu Gunsten der Frauen verzerrt war, waren die geschlechtsspezifischen Länder noch stärker verzerrt. So waren geschlechtsspezifische Länder in diesem Spiel eigentlich die geschlechtsungleichsten.

Die aufschlussreichsten Meinungsverschiedenheiten gab es nicht unter den Völkern der Welt, sondern zwischen ihnen und den Experten. „Sie[Leute] schlagen einige unethische Aktionen vor, wie z.B. die Priorisierung von Hunden gegenüber Kriminellen“, sagt Noah Goodall, ein Forschungswissenschaftler am Virginia Transportation Research Council. Die moralischen Instinkte der Menschen in Bezug auf das Trolley-Problem (und vieles mehr) sind bekanntlich inkonsistent. In einer früheren Studienreihe untersuchten Shariff und zwei weitere Moral Machine Co-Autoren – Jean-François Bonnefon von der Toulouse School of Economics und Iyad Rahwan von Media Lab – die Ansichten von fast 2.000 Menschen über selbstfahrende Autos. Die Teilnehmer sagten, dass sie der Meinung seien, dass ein Auto das Leben von Insassen und Fußgängern gleichermaßen schätzen sollte, aber sie selbst würden es vorziehen, ein Auto zu kaufen, das die Insassen in den Vordergrund stellt. „Das, so argumentierten wir, ist Teil des sozialen Dilemmas dieser autonomen Autos“, sagt Shariff.

Im vergangenen Jahr hat das Bundesverkehrsministerium, das die Empfehlungen einer 14-köpfigen Ethikkommission übernommen hat, die Verwendung von Geschlecht und Alter verboten, um Trolley-Dilemmata zu lösen. „Der große Wert, den ich im Experiment Moral Machine sehe, ist, dass es hilft, wichtige Bereiche von Meinungsverschiedenheiten zu erkennen, die wir angehen müssen“, sagt Lin. In Anbetracht der Zeit zum Nachdenken dürften die meisten Teilnehmer der Umfrage mit den Experten übereinstimmen. „Wir wissen nicht, wie sich die Präferenzen der Leute, wenn sie ein Spiel online spielen, in tatsächliches Verhalten umsetzen lassen“, sagt Shariff.

Viele Moralphilosophen unterscheiden auch stärker zwischen Aktion und Untätigkeit als die Umfrageteilnehmer. „Wenn du dich zwischen zwei Übeln entscheiden musstest, und das eine tötet und das andere lässt sterben“, sagt Lin, „dann ist es weniger schlimm, jemanden sterben zu lassen – und deshalb ist Untätigkeit im Wagenproblem in Ordnung.“ Er sagt, dass die Nichterfüllung der Untätigkeit Grenzen hat – was, wenn die Wahl zwischen einer Person und 10 liegt – aber auch die von den Umfrageteilnehmern bevorzugte utilitaristische Rechnung. In einer Ausgabe von 2015 zitiert er das Dilemma zwischen einem Biker, der einen Helm trägt, und einem, der es nicht tut. Der Behelmete ist wahrscheinlicher zu überleben – aber wenn das der entscheidende Faktor wäre, wer würde jemals einen Helm tragen? (Tatsächlich benutzen einige Radfahrer bereits die Reaktionen der Fahrer auf Helme, um keinen zu tragen.)

Skeptiker sind der Meinung, dass die ganze Übung viel zu einfach war, um von großem Nutzen zu sein. „Die Szenarien sind plausibel, aber nur knapp“, sagt Goodall. Sie implizieren eine unwahrscheinliche Kaskade von Fehlern: Sie verlieren die Bremsen, wenn sie mit Autobahngeschwindigkeit in einer Fußgängerzone fahren. Schlimmer noch, sie gehen von perfektem Wissen und eindeutigen Ergebnissen aus, während wir normalerweise in einem epistemischen Nebel arbeiten. „Obwohl die Autoren dies als Mangel anerkennen, erkennen sie nicht, dass es sich um einen fatalen Mangel handelt“, sagt Aimee van Wynsberghe, Professorin an der Technischen Universität Delft, die sich auf Techno-Ethik spezialisiert hat. Sie denkt, dass selbstfahrende Autos auf spezielle Autobahnen beschränkt werden sollten, wo sie keine kniffligen moralischen Berechnungen anstellen müssten.

Lin sieht das Projekt jedoch genau wie jedes andere wissenschaftliche Experiment, das ein Problem auf den Punkt bringt, um es nachvollziehbar zu machen. „Ja, es ist künstlich und künstlich, wie die meisten wissenschaftlichen Experimente, aber das sagt nichts darüber aus, wie nützlich es ist oder nicht“, sagt er. Das Trolley-Problem lässt die Menschen mehrere umstrittene Prinzipien ausdiskutieren: ob Untätigkeit gleichbedeutend mit Aktion ist, ob die Anzahl der beteiligten Personen wichtig ist und ob einige Leben mehr wert sind als andere. Und die Zeit für Autofirmen, diese Kompromisse zu durchdenken, ist jetzt gekommen, bevor ein Jaywalker sich mit seinem Telefon auf die Straße begibt. „Sie schreiben diese Entscheidungen ein bis fünf Jahre im Voraus aus“, sagt Lin. „Sie haben viel mehr Zeit als eine echte Person, wenn sie in einem echten Crash-Dilemma stecken.“

Shariff sagt, dass die moralische Maschine auch in Richtung zu anderen Fragen der Maschinenethik wie Algorithmen verbogen werden könnte, die von Gerichten und Bewährungshilfe verwendet werden, um das Rückfallrisiko vorherzusagen. Ein System könnte genauer sein – die Gesamtkriminalität zu reduzieren und weniger Menschen einzusperren – aber weniger gleich, wenn die Reduzierung nicht gleichmäßig über Rassen oder andere Kategorien hinweg erfolgt. Halten die Menschen dies für einen akzeptablen Kompromiss? „Sollten wir der Genauigkeit Priorität einräumen oder der Gleichheit Priorität einräumen, auch wenn es bedeutet, mehr Menschen unnötig ins Gefängnis zu stecken, um gleichberechtigt zu sein?“, fügt er hinzu. Ein Dilemma hat per Definition keine einfache Lösung, aber wir sollten zumindest die Optionen durchdenken und in der Lage sein, die von uns gewählte Lösung zu verteidigen.

Teilen Ist Liebe! ❤

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

shares