Die Moral-Maschine

Benutzer106548 

Team-Alumni
Hier geht es um selbstfahrende Autos. Eigentlich. Denn eigentlich geht es um viel mehr. Es geht um die Frage, ob das Leben des einen Menschen mehr wert ist als das eines Anderen.

Die Seite Moral Machine (Link: Link wurde entfernt) hat dieses Thema aufgegriffen und fragt, wie wir entscheiden würden, müssten wir eine moralische Logik entwickeln, wie selbstfahrende Autos im Falle eines unvermeidbaren Unfalls mit Opfern sich verhalten sollen.

Dazu gibt es einen Test, in dem Ihr verschiedene Szenarien berurteilen könnt. Am Schluss gibt es eine Auswertung Eures Testergebnisses, auch im Vergleich zu den anderen Ergebnissen.

(Hinweis: die Tests/Szenarien sind immer unterschiedlich, das Ergebnis ist u.U. auch von den angebotenen Fragen abhängig. Und: die Grafik ist nicht optimal. Wenn man sich die Beschreibung anzeigen lässt, erkennt man besser, was für Personenguppen dargestellt werden)

Mich würde interessieren, wie Ihr die Szenarien angegangen seid und warum und was für ein Ergebnis dabei heraus gekommen ist. Das Ergebnis könnt Ihr auch hier verlinken, auf der Ergbnisseite wird ein Link angeboten.


Da es sich letzlich um eine Programmierung, also kalte Logik, handelt, bin ich die Szenarien auch so angegangen. Ich habe eine Priorisierung vorgenommen, in der Reihenfolge:
- Anzahl der geretteten Menschenleben, völlig unabhängig con Alter, Status, Beruf usw
- geretteter Mensch vor gerettetem Tier
- bei Gleichheit der Opfer lieber gegen die Sperre fahren, weil das Auto dann in der Folge nicht noch weitere Schäden anrichten kann
- bei Gleichheit der Opfer die am wenigsten gefährliche Fahrweise (also eher geradeaus als schwenken)

Das ist dann mein Ergebnis: Moral Machine
 
Zuletzt bearbeitet von einem Moderator:

Benutzer152150 

Sehr bekannt hier
Wofür überhaupt dieser "menschliche" Ansatz.
Selbstfahrende Autos werden idealerweise mit so vielen Sensoren vollgestopft sein, das sich mehr als die Hälfte dieser Dilemmas überhaupt nicht ergeben.
Das menschliche Auge kann nur in gerader Linie sehen, wenn es keine Hindernisse dazwischen hat.
Moderne Sensorik in Verbindung mit Expertensysteme können diese Schwachpunkte schon längst ausgleichen....und das teilweise schon heute. Ob das nun solche Gimmicks wie Nebelradar, LIDaR oder Ultraschallsensoren sind....die erkennen Menschen hinter Fahrzeugen, können Distanzen und Geschwindigkeiten deutlich besser "schätzen" und können frühzeitig bremsen oder ausweichen.
In Verbindung mit vernetzter Schwarmlogik werden Auffahrunfälle oder Unfälle wegen überhöhter Geschwindigkeit zu einem Ding der Vergangenheit.

Solche Sachen wie "plötzlichem Bremsversagen" ich weiss nicht wer sich das ausgedacht hat....aber wie häufig passiert "plötzliches" Bremsversagen bei nicht-selbstfahrenden Autos?
Es gibt immer noch Handbremse und Motorbremse, die ein Computer deutlich schneller einlegen kann. Davon mal ab wird die Wahrscheinlichkeit, das sowas passieren könnte mit moderner Selbstdiagnostik wahrscheinlich alle hundert Jahre mal vorkommen....und dann fliegen wir eh Hoverboards.
Und selbst wenn...macht es keinen Unterschied, da sich auch ein Mensch, der das Fahrzeug steuert in dem Moment zwangsläufig immer falsch entscheiden würde bei diesen Beispielen.
 
Zuletzt bearbeitet:

Benutzer97853 

Planet-Liebe Berühmtheit
Danke für den Link! :smile:

Moral Machine

Interessante Sache. Ich fand wichtig, dass sich die Leute ans Gesetz halten. Ich laufe auch mal über eine rote Ampel - mir ist aber bewusst, dass, wenn ich doch überfahren werde, das meine Schuld ist. Bei der Anzahl der Toten habe ich nicht unterschieden - da bin ich wohl durch meine Jura-Vorlesungen geprägt.
 

Benutzer106548 

Team-Alumni
Solche Sachen wie "plötzlichem Bremsversagen" ich weiss nicht wer sich das ausgedacht hat....aber wie häufig passiert "plötzliches" Bremsversagen bei nicht-selbstfahrenden Autos?
Es ist doch völlig egal, was es ist. Mit Hilfe des Szenarios "plötzliches Bremsversagen" kann sich halt jeder die dargestellte Situation vorstellen. Und es geht nicht um irgendwas, was in der Zukunft vielleicht nicht mehr passieren könnte, sondern es geht schlicht um die Frage: "Welches Leben ist mehr wert?" bzw. "Gibt es ein Leben, das mehr wert ist?"

Und selbst wenn...macht es keinen Unterschied, da sich auch ein Mensch, der das Fahrzeug steuert in dem Moment zwangsläufig immer falsch entscheiden würde
Darum geht es. Was ist "falsch"? Was ist "richtig"? Und eben: empfinden alle Menschen das Gleiche falsch oder richtig?
Nur ein Beispiel: ich habe nicht berücksichtigt, ob Alte, Junge, Ärzte oder Kriminelle sterben. Das ist für mich richtig. Ich bin mir aber sicher, dass andere Menschen das für sich anders entscheiden (z.B. so: "Frauen und Kinder zuerst in die Boote").
[doublepost=1484413606,1484413472][/doublepost]
Ich fand wichtig, dass sich die Leute ans Gesetz halten.
Danke! :zwinker:Find' ich schonmal total interessant: das ist ein Kriterium, das bei mir absolut keine Rolle gespielt hat.
 

Benutzer136609 

Beiträge füllen Bücher
Interessante Sache. Ich fand wichtig, dass sich die Leute ans Gesetz halten. Ich laufe auch mal über eine rote Ampel - mir ist aber bewusst, dass, wenn ich doch überfahren werde, das meine Schuld ist. Bei der Anzahl der Toten habe ich nicht unterschieden - da bin ich wohl durch meine Jura-Vorlesungen geprägt.
Dem schließe ich mich an :zwinker:
Das war mein erstes Kriterium..wer über Rot läuft muss einfach damit rechnen das etwas passiert..meine Meinung. Abgesehen davon die Anzahl der Menschen und auch das Alter.
 

Benutzer72433 

Planet-Liebe ist Startseite
krass, wie da mit allem gespielt wird... obdachloser, kriminelle, füllige frau...
meine entscheidung spielt sich meinem eindruck nach in drei stufen ab: a) haben grundsätzlich junge menschen eine höhere priorität als alte. b), wenn sich das nichts nimmt, sind die dran, die im auto sitzen und somit quasi-verursacher sind. c), wenn auch das nicht mehr zutrifft: so weiterfahren wie vorhergesehen, weil die, auf die das auto direkt zukommt, vermutlich bessere chancen haben rechtzeitig zu reagieren (weil vorhersehbar). ausnahme dann, wenn wesentlich mehr leben erhalten bleiben können durch eine variante - und schweren herzens habe ich menschen den vorrang gegeben, denn ein toter mensch verursacht in der folge oft mehr leid für mehr personen.

lustigerweise habe ich das mit dem "ans gesetz halten" irgendwie völlig ignoriert, das ist mir erst bei der letzten frage überhaupt aufgefallen.

Moral Machine
 
G

Benutzer

Gast
Ich habe genauso entschieden wie Mark11. Wenn es um Programmierung geht, kann nur das Ziel sein, im Ernstfall möglichst wenige Menschen zu töten - ganz egal, wer diese Menschen sind. Deswegen habe ich rein zahlenmäßig entschieden und das Auto bei gleicher Opferzahl in die Barriere fahren lassen.
 
G

Benutzer

Gast
Jung vor alt, Mensch vor Tier und Frau vor Mann.
Danach wird darauf geachtet wie die Gesetzeslage ist und ob man mehr Menschen schützen kann.
Ein Eingriff des Fahrzeugs wird versucht zu vermeiden, da ein bereits defektes System nicht unbedingt weiter agieren sollte wenn es sich vermeiden lässt.
Das ich am Ende mehr füllige und kriminelle überfahren habe, liegt dann eher an der Fragestellung, die ja immer eine Kombination von mehreren Beurteilungen vorkommen.

Ich persönlich würde in selbstfahrende Autos allerdings mehrere Systeme einbauen die es zum Stillstand bringen, neben den doppelten Bremsen fände ich auch ein einfahren bzw. absprengen der Bereifung oder ausfahren von Bremselementen, die das Fahrzeug vom Unterboden her auf ein höheres Niveau als die Bereifung anheben, sinnvoll.
Es ist mMn am wichtigsten das Objekt irgendwie zum Stillstand zu bringen, dafür sollten nicht nur Bremsen herhalten.
 

Benutzer71015 

Planet-Liebe-Team
Moderator
Dafür fehlt mir in einer Welt, die nach Gleichberechtigung strebt, vollkommen die Begründung.
Das einzige wäre noch das Argument zur Kinderfürsorge, aber es gibt auch zunehmend alleinerziehende Väter, insofern verliert auch das an Gewicht.
 

Benutzer89539 

Planet-Liebe-Team
Moderator
Meine Ergebnisse: Moral Machine

Ich liebe folglich Verbrecher, und hasse Frauen. Na dann, wenn die Software das sagt. :cool:

... Die Auswertung finde ich völlig bescheuert, aber die Intention, zum Nachdenken anzuregen finde ich nicht verkehrt. Obwohl ich nicht ganz sehe, woher die Automatik erkennen soll, ob sie einen Verbrecher oder einen Arzt tötet. :cautious:
 

Benutzer158340 

Planet-Liebe Berühmtheit
Off-Topic:
Dafür fehlt mir in einer Welt, die nach Gleichberechtigung strebt, vollkommen die Begründung
Schwangerschaften sind von außen erst im 3. Trimenon gut zu sehen? Das heißt, du kannst nie sicher sein, doch 2 Leben zu killen? Nur so als Gedankenanstoß, warum das nach wie vor gelten kann.
 

Benutzer89539 

Planet-Liebe-Team
Moderator
Meine Prioritäten waren übrigens, in dieser Reihenfolge: Möglichst wenige tote Menschen, möglichst wenig tote Tiere, möglichst wenig tote Regeltreue, möglichst wenig tote Nicht-Autofahrer, kein Eingriff.
 
Zuletzt bearbeitet:

Benutzer71015 

Planet-Liebe-Team
Moderator
Ich habe es angefangen... und abgebrochen, weil ich die Art und Weise einfach unsinnig finde.
Sorry, wenn ich ein Spielverderber bin...
In den Szenarien, die zu sehen waren, ging immer einer der Wege, die ohnehin potenzielle Todesfolgen hatten, auf die Gegenspur, was im Zweifel einfach riskanter ist - also der Weg, der technisch vernachlässigt werden sollte.

Die Wahrscheinlichkeit, dass 5 Personen gleichzeitig in einem Fahrzeug im Stadtverkehr sterben, halte ich tendenziell, bei Airbag, Gurt, etc... für eher gering (also auch ein Szenario, bei dem ich mich frage, ob es sinnvoll ist, darüber nachzudenken).

Richtig bescheuert aber finde ich diese Ärztebeschreibung usw. Kein System erkennt z.B. die Berufe; ein Mensch, dem plötzlich jemand vor das Auto läuft, auch nicht. Also, was soll der Gedanke bringen?
 
Zuletzt bearbeitet:

Benutzer133456  (49)

Beiträge füllen Bücher
Ich halte hier die Methodologie fuer fehlerhaft, denn selbstfahrende Autos wuerden nicht zwischen alten und jungen Menschen, oder Maennern oder Frauen, unterscheiden koennen. Die wuerden stattdessen in unklaren Situationen einfach stehenbleiben.

Insofern ist fuer mich der Test nicht wirklich machbar. Zumindest nicht unter der Praemisse "reelles, autonomes Auto".

Aber wenn man einfach mal akzeptiert, wie die Gegebenheiten sind, sieht es bei mir so aus: Ich rette scheinbar die Kinder und toete die Alten. Meine ethische Prioritaet sah dabei eigentlich so aus: Am wertvollsten sind bei mir die Jungen, denn die haben ihr Leben noch vor sich; Tiere sind leider nie so wichtig wie Menschen; und wenn es hart auf hart kommt, gehe ich nach der Frage "wer wuerde wohl den Crash eher ueberleben?" Und da lasse ich dann das Fahrzeug eher athletische junge Leute ueberfahren als alte oder Uebergewichtige. Das missachtet allerdings die Ansage, dass stirbt, wer ueberfahren wird.

Insofern... pff. Irgendwie fuer mich nicht machbar.
 
G

Benutzer

Gast
Dafür fehlt mir in einer Welt, die nach Gleichberechtigung strebt, vollkommen die Begründung.
Das einzige wäre noch das Argument zur Kinderfürsorge, aber es gibt auch zunehmend alleinerziehende Väter, insofern verliert auch das an Gewicht.
Das hat den einfachen biologischen Hintergrund, die Frau gebärt das Kind nicht der Mann.
Daher würde ich in einem Szenario, dass die Beteiligten nicht vorher fragen kann ob sie lieber sterben würden als die andere Gruppe, die Frau bevorzugen.
Es hat für mich in solch einem Fall nichts mit Gleichberechtigung zu tun, denn wenn die Gesetzeslage oder die Anzahl der Überlebenden dazu nicht mehr gegeben sind, würde ich eine Frau genauso sterben lassen wie einen Mann.
 

Benutzer152150 

Sehr bekannt hier
Insofern ist fuer mich der Test nicht wirklich machbar. Zumindest nicht unter der Praemisse "reelles, autonomes Auto".
Eben. Dieser Test hat absolut gar nichts mit selbstfahrenden Autos zu tun, sondern nur welche Leute man gerne bereit ist zu killen.

Ach ja...nur zur Anmerkung:
Die, die so vorschnell die Tiere killen...würde jemand auf der Basis solcher Prämissen meinen Hundi überfahren....ich würde ihn finden und ihn dabei zusehen lassen, wie ich selbiges mit seiner gesamten Familie mache....nur um wieder den Bogen zum moralischen Dilemma zu spannen.
Jede Aktion hat Konsequenzen.
Ist vielleicht auch nur ein Scherz...oder auch nicht.
Ist halt ein moralisches Dilemma.
Nur ganz ohne selbstfahr-Autos.
 
M

Benutzer

Gast
Off-Topic:

Ach ja...nur zur Anmerkung:
Die, die so vorschnell die Tiere killen...würde jemand auf der Basis solcher Prämissen meinen Hundi überfahren....ich würde ihn finden und ihn dabei zusehen lassen, wie ich selbiges mit seiner gesamten Familie mache....nur um wieder den Bogen zum moralischen Dilemma zu spannen.
Du bringst jetzt da aber glaube ich eine Komponente rein, die, wenn ich das richtig verstehe, so nicht angesprochen ist: DEIN Hundi, also das Kennen eines Menschen oder eines Tieres verändert eine Entscheidung wieder. All die, die jetzt z.B. pro Frau contra Mann entschieden haben, würden sicher nochmals anders handeln, wenn es sich um eine Frau und ihren VATER handeln würde.
 

Benutzer135968 

Sehr bekannt hier
interessant. Mein Ergebnis ~ ich habe mich überwiegend ans gesetz gehalten und hab jeglichen status des menschen ignoriert. auch das alter. oder ob schwanger. tiere sterben zuerst. ansonsten geht es eher um logik, wo der mensch als ganzes angesehen wird. ergo, jeder mensch ist vom selben wert.

PS: wo ich mir das ergebnis noch mal genauer anschaue... sehr muss ich aber bemängeln, wie das aufgegliedert ist. denn ich habe absolut in keinster weise darauf geachtet, welchen status der mensch hat, ob verbrecher oder arzt. sowieso auch nicht, ob weiblich oder nicht und auch nicht, ob kind, oder erwachsen. und ob sportlich, oder nicht, ebenfalls nicht. doch mit den tieren stimmt. mir war auch nicht wichtig, ob die mitfahrer beschützt werden. jedenfalls nicht wichtiger als, ob die fußgänger beschützt werden. ich habe einfach den geringsten widerstand genommen (also geradeaus, nicht in die andere spur reinfahren) aber ans gesetz hab ich mich zu 100% gehalten, je nachdem, wie man es auslegen mag. es kommt offensichtlich darauf an, welche auswahlmöglichkeiten man hat.

in diesem zusammenhang war es eine überwiegend routinierte auswahl, wo der algorithmus der maschine, nicht von der "emotion" geleitet wurde.
 

Benutzer15352 

Beiträge füllen Bücher
Mein Balken war überall deutlich weiter rechts als "andere" (außer bei Mitfahrer beschützen und Geschlechterpräferenz. Da war ich immer genau in der Mitte des Balkens). Fand die Szenarien aber teilweise bekloppt. Ich habe immer versucht, möglichst viele Menschen zu retten, war die Anzahl zwischen Menschen im Auto und Menschen auf der Straße gleich hoch, habe ich die Autoinsassen geopfert - schließlich wollten sie ja in diesem dubiosen selbstfahrenden Gefährt sitzen :tongue:. Oft war die Anzahl der Leute links und rechts auf dem Zebrastreifen aber identisch und wenn es dann sogar ohne Ampel war, habe ich willkürlich entschieden. Für mich ist das Leben eines "fülligen Mannes" nicht weniger wert als das eines Athleten...
 
Zuletzt bearbeitet:

Benutzer135918 

Sehr bekannt hier
Dafür fehlt mir in einer Welt, die nach Gleichberechtigung strebt, vollkommen die Begründung.
Das einzige wäre noch das Argument zur Kinderfürsorge, aber es gibt auch zunehmend alleinerziehende Väter, insofern verliert auch das an Gewicht.
Ähm in einer Welt wo es fast 3 x so viele Männer gibt wie Frauen (Geenpool und Einkindpolitik sei dank kann ich seine Logik nachvollziehen)

Ich finde es generell Fragwürdig moralische Entscheidungen einer Maschine in die Hand zu geben die anhand kalter Logik entscheidet. Im Sci Fi gibt es genug Dystopische Andeutungen zu sowas die bekannteste durfte die Neuverfilmung von Battelstar Galacktika sein und ihr Prequel Capriak !


Wenn man dieses Szenario weiter denkt auf die Weltpolitik kommt auch so was zu Stande wie Kontinetale Geburtenkontrolle, Absichtliche virale Sterilisation , oder Gar Fortpflanzungsalgorithmen die den bestmöglichsten Menschen hoch züchten !
[doublepost=1484467877,1484467401][/doublepost]PS ich habe abgebrochen die Fragestellungen sind mir zu Blöd man muss aufwiegen welches Menschenleben mehr wert ist. also wieder pure Dystopie .


Ich gehe mal davon aus bei dem Szenario mit den Kriminellen: Was ist wenn ich nun 3 Kriminelle über den Haufen fahre , von denen einer später auspackt und eine ganze Weltumspannende Organisation hoch genommen werden kann ?


Klar wenn da ne Harkenkreuz oben drüber erscheinen würde, würde ich gefühlsmäßig auch auf Gas geben drücken aber es ist alles nicht ethisch.
 
Oben
Heartbeat
Neue Beiträge
Anmelden
Registrieren