Auf Deutschlands Straßen entscheiden nach wie vor Autofahrer darüber, ob sie einem Ball ausweichen oder geradeaus fahren und dabei ein Kind anfahren, weil die Ausweichmöglichkeit ist, auf einen Gehweg auszuweichen, auf dem ein altes Ehepaar spazieren geht.

Ein Jahr zuvor: Ich habe über das Trolley-Dilemma geschrieben. Damals wurde rege diskutiert, aber zugleich bemängelt, dass es mit der Realität nicht viel zu tun hat. Wie blauäugig wir damals waren.

trolleygen2

Sicher, die Situation ist konstruiert, aber sie ist nicht unmöglich. Sie mag ein dummer Zufall sein, wenn sie geschieht, aber sie kann jederzeit Realität werden. Und in dieser Realität entscheiden derzeit Menschen. Ja, sie tun das unbewusst und in Sekundenschnelle, aber sie tun das auf Basis eines bestimmten Wertemusters. Vielleicht rechnen sie Leben gegeneinander auf oder bewerten den Wert der potentiell betroffenen Leben.

Vielleicht tun sie das nicht bewusst. Aber sie treffen eine Entscheidung,  die Beurteilung ist. Und damit auch verurteilbar. Mit der Diskussion um selbstfahrende Autos aber bekommt die Situation eine neue Dringlichkeit. Ich schrieb damals, warum wir solche Dilemmata brauchen:

Warum dieses Gedankenexperiment? Ich deutete oben an, es gibt Situationen, in denen ich Entscheidungen treffen muss, die Schuld auf mich laden, weil die Ressourcen begrenzt sind. Solche Verteilungsfragen sind grundsätzlich Gerechtigkeitsfragen. Der qualitativ denkende Utilitarismus argumentiert, dass vergangene Leistungen eine Bevorzugung in der Zukunft nach sich ziehen. Diese Forderung kann ich zurückweisen mit dem Hinweis, dass die vergangenen Leistungen durch erhöhtes symbolisches Kapital vergolten wurden. Es ist ein Trugschluss, dass allein aus hohem symbolischen Kapital eine bevorzugte Behandlung folgen sollte. Die entscheidenden Fragen für die Verteilung knapper Ressourcen sind in meinen Augen diese beiden, eine negative und eine positive:

  1. Gewährleistet mein Handeln, dass ich Unbeteiligte unbeteiligt lasse? (Verbot von Kollateralschäden)
  2. Wem gegenüber habe ich durch mein Handeln oder meine Billigung die größere Verantwortung für die aktuelle Situation? (Gebot der Verantwortung)

Wie soll ein Auto in solch einer Entscheidungs-Situation eine Wahl treffen, wenn wir uns nicht darüber einig sind, welche Werte wir vertreten? Und wer ist verantwortlich für den entstehenden Schaden? Das Auto, der Programmierer oder der Fahrer, weil er die Entscheidung getroffen hat, sich in dieses selbstfahrende Auto zu setzen? Hat er eine „moralische Aufsichtspflicht“, die ihn zur Intervention zwingt, wenn etwas Unvorhergesehenes passiert?

Es ließe sich womöglich argumentieren, dass der Insasse im Auto zumindest nicht vorsätzlich etwas getan hat, aber in jedem Fall hat er etwas unterlassen. Der Mensch im autonomen Automobil hat im Unterschied zum Automobil die Möglichkeit, ethische Entscheidungen zu treffen. Denn was in dieser Diskussion übersehen wird: Das Gegeneinander-Aufrechnen von Menschenleben ist zwar unter Nützlichkeitsaspekten legitim, aber es legitimiert nicht das Denken in Nützlichkeitsprinzipien.

Die grundlegende Frage, die sich all diejenigen, die vom autonomen Fahren nicht allein zu Forschungszwecken, sondern als konkrete Utopie stellen müssen ist: Wer übernimmt Verantwortung für das Ergebnis der Rechnung? Und wenn es keine Antwort auf diese Frage gibt, ergibt sich meiner Ansicht nach, dass wir niemals ernsthaft über autonome Fahrzeuge im Straßenverkehr diskutieren müssen.

Ich habe damals behauptet, solche Dilemmata dienen der Analyse und Bewertung von Entscheidungskriterien. Damit habe ich falsch gelegen. Sie dienen dazu, unsere Zukunft mitzugestalten. Nicht im reflektierenden, sondern im ganz konkreten Sinn. Denn sie rufen uns in Erinnerung, dass wir auch immer die Frage stellen müssen, was wir aufgeben, wenn wir nicht mehr handeln wollen.

Was denkt ihr? Sollte ein autonom fahrendes Auto das Kind oder das Paar anfahren? Hat der Fahrer eine Verantwortung für „sein“ Auto? Welchen Wert hätte die autonome Mobilität, um sich bewusst einer solchen Dilemma-Situation zu stellen?

Advertisements

32 Kommentare zu „Das Trolley-Dilemma und die schöne neue Welt

  1. Also der Programmierer ist nie schuld, da gilt immer: Works as designed 😉
    Womit die Verantwortung bei dem liegt, der es spezifiziert hat. Ich würde spezifizieren: Überfahre keine Menschen! Dann ist das Auto schuld, wenn es einen Systemabsturz hat, weil die Situation unlösbar ist *teuflisches Lachen* Vermutlich kommt aber zumindest der Fahrer zu Schaden, wenn das Auto plötzlich die Kontrolle abgibt.
    Ja, ein Dilemma
    Aber die erste Maxime ist: Gib die Schuld einem anderen …

    Gefällt 1 Person

      1. Kein Diesel oder Benzin oder Strom mehr oder einfach „Reifen ab!“ Ich glaube ja, bei Bestrafungen gehen dem menschlichen Gehirn nie die Ideen aus, eher dann, wenn es um die Vorstellung geht, wie man Moral in die Tat umsetzen kann. Aber wenn es um eine moralische Verfehlung geht, da weiß gleich jeder wie man es besser hätte machen sollen, so im Nachhinein betrachtet 😉

        Gefällt mir

      1. Was ist mit ferngesteuerten anderen Dingen, die per Knopfdruck betätigt werden? Was mit der Finanzierung all dessen? Wie sieht es mit der Verantwortung der indirekten Nutznießer aus? … Wirtschaft ist international verflochten. Verantwortung trägt nicht die Gesellschaft, sondern die Menschheit

        Gefällt mir

  2. Das Auto als solches ist ein potentiell mörderisches Instrument (und nicht nur, wenn es absichtsvoll in eine Menschenmenge gefahren wird). Wer sich ans Steuer setzt, nimmt in Kauf, dass er jemanden totfährt oder verletzt. Mich hat dieser Gedanke lange daran gehindert, Auto zu fahren. Nun fahre ich doch und übernehme nolens volens den Teil der Verantwortung, der mir zukommt. Wer sich nicht ans Steuer setzt, sondern ein selbstfahrendes Auto wählt, trägt dieselbe Verantwortung wie ein Fahrer.
    Nun wäre noch abzuwarten, wie der Gesetzgeber die Sache sieht.

    Gefällt 1 Person

    1. Das ist ein spannender Gedankengang. Vielen Dank dafür. Ich sträube mich ja grundsätzlich gegen so etwas wie „potentiell mörderische Instrumente“, denn das sind Messer auch … Aber das Auto hat in Sachen „Risikofaktor“ noch einmal eine eigene Qualität.
      Aber: Nimmt nicht auch jeder Fußgänger, der entlang einer viel befahrenen Straße läuft, in Kauf, totgefahren zu werden, weil er um die Mörderischkeit von Autos weiß? Und ergibt sich daraus nicht auch Verantwortung?

      Gefällt mir

  3. Mal ’ne ganz andere Frage: Sollte ein selbstfahrendes Auto nicht in der Lage sein, seine Umgebung einzuschätzen? Sprich: Es ist ein Unterschied, ob man auf weiter, ebene Strecke fährt, wo die Sicht weit reicht (= schnell fahren möglich) oder in einem Dorf/Stadt, wo ggf. links und rechts Autos parken und die Sicht versperren (= langsam fahren). Das selbstfahrende Auto muss in letzter Situation so langsam fahren, dass es im Fall, dass irgendwas auftaucht – egal was – einfach stehenbleibt. Und im besten Fall sollte das dahinter selbstfahrende Auto weit genug Abstand halten, um das Bremsen des vorherfahrenden Autos zu bemerken und ebenfalls zum Stand zu kommen.

    Tatsache ist: Menschen treffen in solchen Situationen keine ethischen Entscheidungen. Sie handeln im Reflex. Und wie der aussieht, kann kein Mensch vorher sagen.
    Meine Mutter fuhr mal auf der Autobahn, als ein Häschen ihren Weg kreuzte. Sie schrie auf und schlug die Hände vor’s Gesicht. Auf der Autobahn bei dreistelliger Geschwindigkeit die Hände vom Lenkrad zu nehmen, während drei Insassen im Auto sitzen, ist weder ethisch noch rational. (Mein Vater hat ebenfalls im Reflex gehandelt und ins Lenkrad gegriffen, deswegen ist nichts passiert.)

    Gefällt 3 Personen

    1. Wir unterstellen aber, dass Menschen entscheiden, weil wir sie für ihr Handeln im Straßenverkehr verantwortlich machen. Von daher finde ich die Frage nach wie vor sinnvoll.
      Was die vollkommene Kontrolle einer Situation angeht, bin ich aber skeptisch. Ich kann mir nicht vorstellen, dass eine Situation in all ihren Eventualitäten modelliert werden kann. Es bleibt im Straßenverkehr damit immer ein Risiko für alle Beteiligten. Und wie wir damit umgehen, darüber sollten wir reden.

      Gefällt mir

      1. Nun, in meinen Augen wurde wegen dieser Eventualitäten überhaupt erst das autonome Fahren erfunden, weil: Menschen sind fehlerhaft. Sekundenschlaf. Kontrollverlust. Sich-nicht-an-Regeln-halten. Etwas übersehen, etc.
        Die Frage ist, ob es Autoverkehr in Großstädten überhaupt braucht. Und wenn ja, wofür.
        Von daher ist das Szenario für mich einfach „mittelalterisch“.

        Gefällt mir

  4. Habe noch von keinem Programm gehört, dass dem Fahrer jegliche Möglichkeit zum Eingreifen abnimmt. Somit ist nach wie vor der Fahrer in der Verantwortung, der den Straßenverkehr außer Acht gelassen hat und in der jeweiligen Situation nicht rechtzeitig reagiert. Sollten tatsächlich Autos mit komplett autonomen Programmen ohne die Möglichkeit die Reaktion des Fahrers einzubeziehen geplant sein, so hoffe ich mal, dass sie nicht zum Einsatz kommen.

    Gefällt mir

    1. Jedes autonome Auto ist natürlich so designt, dass der Fahrer die Kontrolle übernehmen kann. Allerdings stellt sich mir die Frage: Wofür brauchen wir ein autonom agierendes Auto, wenn der Fahrer trotzdem die ganze Zeit hochkonzentriert an den Schalthebeln und Lenkrädern sitzen muss? Dann kann er genau so gut selbst fahren.

      Gefällt mir

      1. Jain. Warum gibt es Autopilot im Flugzeug? Der geschilderte Fall würde ja besonders im Stadtverkehr zum Tragen kommen, richtig? Mich über eine Landstraße chauffieren zu lassen wäre da etwas anderes. Dem springenden Reh kann man meist tatsächlich eh nicht ausweichen. Es gibt schon Einsatzgebiete und dort würde ich dann auch persönlich nicht 100% Aufmerksamkeit schenken. Da muss man eben ‚vorausschauend fahren‘ und die Situation direkt richtig einschätzen.

        Gefällt mir

      2. Aber gerade um die Optimierungen Stadtverkehr geht es beim Autonomen Fahren meiner Beobachtung nach, um optimalen Verkehrsfluss zu gewährleisten. Der ist ja in der Stadt das große Problem.
        Von daher zieht die Analogie zum Autopilot im Flugzeug mMn nur beim Verkehr auf dem Land. Flugzeuge fliegen ja eher selten im Stop and Go. Der Luftraum ist ein weniger komplexes System als der städtische Strasenverkehr mit weitaus weniger Akteuren.

        Gefällt mir

  5. Sollte die Technik irgendwann so weit sein, weiß das Auto sicher über die Personen Bescheid und wird so berechnen welches Leben (für das soziale System) lebenswerter ist. iRobots ist ja ein Film, der sich mit dem Thema „künstliche Intelligenz“ beschäftigt. Inklusive selbstfahrenden Autos.
    Es wäre interessant speziell über das Thema „selbstfahrende Autos“ mal einen Film zu drehen. Auch im Bezug auf die Frage, wer denn die Verantwortung bei Unfällen trägt.

    Gefällt mir

  6. Ganz rational wäre meine Antwort, dass ältere Ehepaar anzufahren… Sie sind eben alt. Das Kind ist eine potenzielle Arbeitskraft und ich denke der Programmiere würde ein solches Auto auch dahin gegen programmieren. Das Auto müsste blitzschnell die Objekte/ Menschen whatever analysieren und dann abwägen. Um solche Dilemma zu diskutieren braucht man allerdings keine autonome Mobilität, sondern einfach nur einen gelangweilten Deutschlehrer 😀

    Ps: Meine Lösung wäre egal ob autonom oder fahrergesteuert alle Autos abzuschaffen… Würde jedem mal gut tun.

    Gefällt mir

    1. Aber wenn das Kind aus einem Junkie-Haushalt kommt und wahrscheinlich ein lebenslanger Sozialfall wird, während das Rentnerpaar in naher Zukunft bald an Krebs stirbt?
      Autos abschaffen ist natürlich reizvoll, ich sehe nur derzeit keine Alternative für ein Mobilitätssystem, das uns flächendeckend den Lebensstandard sichert, den wir derzeit trotz aller Probleme haben.

      Gefällt 1 Person

  7. Ich erinnere mich an deinen Beitrag letztes Jahr. Die Frage nach der Schuld in einem solchen Fall bietet abendfüllendes Diskussionpotential. Ich bin froh, nicht entscheiden zu müssen.
    Maschinen jeder Art müssen wohl rational entscheiden. So wird ein alter Mensch einem jungen geopfert. Und in ein paar Jahrzehnten der mit Vorstrafen dem ohne. Ob man das aber will, steht auf einem andern Blatt.

    Gefällt mir

      1. Zweifellos. Schlimm wenn wir das schlucken, was uns die Industrie eines Tages vorsetzen wird. Früher oder später werde ich auch eine klare Meinung haben müssen. Noch hoffe ich, dass die Entwicklung noch lange nicht praxistauglich ist. Ein frommer Wunsch….ich weiß.

        Gefällt 1 Person

  8. Dank des schicken Drogenberichtes von 2014:

    1,77 Millionen Alkoholiker,
    110.000 Todesfälle durch Zigaretten,
    2,31 Millionen Menschen betreiben Medikamenten Missbrauch
    319.00 Junkies der synthetischen Drogen…
    443.00 Menschen sind spielsüchtig

    in Deutschland leben 82 Millionen Menschen wenn nicht mehr. Ich denke die Wahrscheinlichkeit dass der Kleine aus einem Junkie- Haushalt kommt ist dementsprechend gering. Selbst wenn, ein Sozialfall heißt noch lange nicht das Ende des Lebens. Ich habe in letzer Zeit Menschen kennen gelernt, die seit Jahren trockene Alkoholiker sind oder Ex-Heroin Junkies die pro Tag mehr als 200€ dafür ausgegeben haben… Sie alle sind nun nicht mehr abhängig und alles andere als ein „Sozialfall“.

    Letztendlich weiß keiner, was morgen sein wird. Weshalb ein Mensch genauso Entscheidungsprobleme hätte.

    Es gibt tausend Möglichkeiten zu argumentieren: Man könnte immer noch die beiden Personen überfahren, da wir an Überbevölkerung leiden. Oder (nun auf den Menschen bezogen) der Autofahrer ist ein Psychopath und fährt alle drei um, oder er ist depressiv und fährt stattdessen irgendwie in eine Wand und stirbt lieber selbst.

    Ich habe keinen Führerschein und tummel fröhlich durch die Welt… Wir haben eh zu viele adipöse Menschen auf der Welt. Frische Luft, Fahrrad oder Laufen Inliner, Roller, E-Bike, Skateboard, Waveboard ist doch alles wunderbar…

    Ich sage ja nicht, dass Züge, Straßenbahnen oder Busse gestrichen werden müssen.

    Gefällt mir

    1. Ich bin ganz bei dir. Ich wollte nur aufzeigen, wie unzulänglich die Entscheidung allein auf Basis eines Nützlichkeitskalküls ist, weil du zahllose Faktoren einfach nicht kalkulieren kannst. Und mir graut vor dem Tag, an dem auf dieser Basis Politik gemacht wird.

      Gefällt 1 Person

      1. Ich will dich ja nicht erschrecken, aber ich denke Politik funktioniert seit der Industrialisierung genau so… Genauso wie die Wirtschaft, anders kann ich mir unsere Zustände heutzutage nicht erklären :/

        Gefällt mir

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s