Moral Machine - Wen würdet ihr töten?

Dextera

Dextera

Aktives Mitglied
Thread Starter
Dabei seit
13.09.2008
Beiträge
20.967
Reaktionspunkte
17.415
Wen würdet ihr töten?

Den Entwickler...
 
  • Gefällt mir
Reaktionen: Terrorkeks, macwuff, Granny Schmitz und eine weitere Person
Warum erwarte ich in der Bar auch ernsthafte Antworten :hehehe:
Ob es einem gefaellt oder nicht, irgendwer muss sich solche Fragen stellen :)
 
Das ist die grundsätzliche Haltung der Grünen und Hippies, unangenehme Sachverhalte blendet man Kathegorisch aus bzw guckt nicht hin und somit gibt es sie nicht :D
 
  • Gefällt mir
Reaktionen: ProjectBuilder
Gerade als Programmierer finde ich diese Seite des MIT sehr interessant:

http://moralmachine.mit.edu/

Es geht darum die Frage zu beantworten, wen ein selbstfahrendes Auto im Notfall toeten sollte? Nach welchen Kriterien soll ein Programm eine Entscheidung treffen ob es den/die Insassen des Fahrzeuges oder vielleicht doch die Menschen am Zebrastreifen toetet?

Artikel dazu: http://www.pcwelt.de/news/Moral-Machine-Wen-soll-ein-autonomes-Auto-im-Notfall-toeten-10052941.html

Wie seht ihr das? :)

Das ist eine sehr situationselastische Problemstellung, die (noch) kein Rechner zu loesen vermag.

(Beim programmieren wuerde ich jedoch fuer Uniformtraeger, Beamte u. Politiker kein Pardon kennen… :teeth:)
 
Sollte man sich diesen 13 Szenarien stellen, kann man sein Ergebnis uebrigens teilen wenn man will ;)
Unklar ist mir da allerdings noch warum mir angezeigt wird, dass das Schuetzen von Passanten fuer mich keine grosse Rolle spiele, da ich je nach Moeglichkeit das Auto jedesmal an die Wand fahren lies :noplan:

Dass es fuer ein Programm klar nur einen Algorithmus geben kann ist klar. Moralisch wuerde ich dennoch manchmal anders entscheiden, aber hier fehlt leider eine fuer mich wichtige Komponente: wie es denn zu der Situation kam. Das spielt zumindest bei solche Spielereien eine grosse Rolle, in Sekundenbruchteilen wenn es wirklich dazu kaeme waere wohl eh wenig Zeit sich um sowas Gedanken zu machen :D

Klar, derzeit ist das "Zukunftsmusik". Aber autonome Autos sind nix aus einem Science Fiction Roman. Die Zeit wird kommen wo soetwas eine Maschine entscheiden muss. Spannend wird dann allerdings, ob sich derjenige mit natuerlichem Selbsterhaltungstrieb auch ein Auto kaufen wuerde, was ihn im Notfall selbst toeten wuerde :hehehe:
 
Zuletzt bearbeitet:
Die Entscheidung muss man heute schon bei einer Flugzeugentführung treffen... und sie wird mit sicherheit auch getroffen...
 
(Beim programmieren wuerde ich jedoch fuer Uniformtraeger, Beamte u. Politiker kein Pardon kennen… :teeth:)
Sprich du wuerdest keinen Unterschied machen ob es nun nen Mediziner oder Obdachlosen trifft? Einen Polizisten oder Dieb? Dann einfach Random entscheiden lassen wohin das Auto lenkt bzw. einfach nicht eingreifen und gerade aus weiterfahren?
 
Ob es einem gefaellt oder nicht, irgendwer muss sich solche Fragen stellen :)

In der Tat.
Aber das sollte man ganz sicher keinem Programmierer überlassen.

Hier geht es um Ethik. Und ich könnte mir vorstellen, das die Wahl wer verschont wird sogar von Ethik- und Rechtsraum zu Ethik- und Rechtsraum unterschiedlich ausfallen wird. Und das wird man berücksichtigen müssen wenn man auch nur ein ganz kleines bisschen Akzeptanz erreichen will.

Ansonsten bin ich froh nicht vor so eine Wahl gestellt zu sein.
 
Aber das sollte man ganz sicher keinem Programmierer überlassen.

"Rund um den Globus diskutieren Ethikkommissionen dieses Problem."
Aus dem Artikel. Klar sollte das nicht ein Entwickler entscheiden, nur umsetzen. Samt Backdoor fuer sein eigenes Auto :D
 
(Beim programmieren wuerde ich jedoch fuer Uniformtraeger, Beamte u. Politiker kein Pardon kennen… :teeth:)
Die arme Stripperin, die gerade in Politessen-Uniform auf dem Weg zu einem Junggesellenabschied war... ;)
 
  • Gefällt mir
Reaktionen: MacQandalf, Dextera, Cosmic7110 und eine weitere Person
Was mich “amüsiert": Wenn ein selbstfahrendes Auto eine Entscheidung zu treffen hat - die es aufgrund der Regeln der jeweiligen Programmierung schneller löst als jeder Mensch (!) - wird daraus ein Politikum und eine “Sinnfrage"… Wenn jugendliche Raser sich auf innerstädtische Rennen mit tödlichem Ausgang für Passanten einlassen ist das “Schicksal", noch "besser", sie dürfen nach Verbüßung eier Freiheitsstrafe (wenn überhaupt) irgendwann wieder ins Auto steigen! Ein selbstfahrendendes Auto mit nur einem leichten Fahrfehler ohne Todesfolge wird zerlegt… (siehe Googlecar, oder Tesla)

Mir sind die Szenarien solcher Seiten schlicht zu simpel gestrickt! Warum?
– Wenn der Mensch sich mit Geschwindigkeiten vorwärts bewegt für die er evolutionär nicht geeignet ist (Selbst der Max-Laufsprint mit ca. 40 KM/h ist vom Menschen kaum beherrschbar, z.B. Ausweichen etc.) wird es IMMER UND ZWANGSLÄUFIG zu Fehlern kommen.
- Eine Maschine wird nach Regeln handeln, die wir ihr auferlegen - kein einzelner Programmierer spielt hier Gott wie immer suggeriert wird!
- Ein Szenario nach dem “das Auto" entscheidet Oma oder Kind zu überfahren kann sich nur ein Nichttechniker ausdenken, denn erstens "entscheidet" die Software nach der Regel "geringst möglicher Schaden wenn Vermeidung nicht möglich ist" (z.B. Kind läuft plötzlich Ball hinterher), zweitens ist die Wahrscheinlichkeit, dass eine Maschine zwischen Tod von Oma oder Kind wählen zu müsse so absurd gering, dass jeder Mensch bis dahin 4 Menschen über- oder angefahren hat…
- Wir wollen hier allen Ernstes eine Entscheidung über eine Technik NUR aufgrund einer Wahrscheinlichkeit fällen, die nicht einmal im Bruchteil eines Promillebereichs liegt? (Vermutlich hatte der "Erdenker" dieses Szenarios deutlich mehr als nur "Bruchteile von Promille" im Blut)
- Wir sollen EIN UNWAHRSCHEINLICHES SZENARIO zur Grundlage für eine allgemeine Ablehnung machen? Wie viele Tote ergeben die erschummelten Schadstoffwerte der Dieselfahrzeuge (und hier betrügt nicht nur VW!!) in einem Jahr? Nennt oder kennt jemand die Zahl? (Sogar die Welt - nun wirklich kein “Linksverdächtiges Organ" nennt ein paar Zahlen und Fakten ( https://www.welt.de/gesundheit/arti...durch-verpestete-Luft-als-durch-Unfaelle.html) die wir schneller vergessen haben als wir sie lesen - fahren die MEnschen deswegen weniger oder kaufen Elektroautos?

Solche Tatsachen sind natürlich nicht so spektakulär sexy wie "autonomes Auto überfährt Kond statt Oma".

Herr lass Hirn regnen, am besten in Form einer Sintflut - wir können es brauchen!
 
Zunächst würde es wahrscheinlich schon genügen per Elektronik die maximale Leistung eines Fahrzeuges sowie die maximale Geschwindigkeit an die Verhältnisse wie Ortsverkehr, Wetter, Verkehrsdichte ect. anzupassen um überhaupt dafür zu sorgen das die Zahl der Unfälle dramatisch sinkt. Das wäre sicher auch für die Emisionen im Stadtverkehr positiv wenn der Tritt auf das Pedal nicht 300 Ps freisetzt um an der nächsten Ampel zu bremsen.
 
Technische Probleme lassen sich häufig / meist lösen - ein autonom fahrendes Fahrzeug wird mit viel, viel größerer Wahrscheinlichkeit gar nicht erst in die Situation eines "moralischen Dilemmas" kommen als ein Mensch.

Mich stört bei solchen Szenarien vor allem die Unkenntnis der verwendeten Begriffe (im philosophischen Sinn) Prof. Dr. Georg Lind "Bioethik - Förderung der moralischen Urteilsfähigkeit" zu studieren etwa wäre da mal eine gute Ausgangslage ;) (aber auch Kant, Habermas, Apel zu lesen und zu verstehen wäre kein Fehler)

Das moralische Dilemma in dieser Frage ist nicht der hypothetische Unfall oder die Vermeidung, sondern die strategische Anwendung eines künstlichen (wie wohl denkbaren) Dilemmas um für oder gegen z.B. ein autonomes Fahren zu plädieren… Das dieses Diskussion im Autofahrerland USA zuerst auftaucht und nicht in einem Land wie sagen wir mal Syrien ist doch wohl auch schon Teil eines Dilemmas. Und ja, natürlich ist diese meine Stellungnahme ein Provokation…
 
Sprich du wuerdest keinen Unterschied machen ob es nun nen Mediziner oder Obdachlosen trifft? Einen Polizisten oder Dieb? Dann einfach Random entscheiden lassen wohin das Auto lenkt bzw. einfach nicht eingreifen und gerade aus weiterfahren?
…Oh nein…

Was, wenn der Mediziner rein des schnoeden Mammons wegen seinen Beruf ausuebt, und mit Organhandel seine Immobiliensammlung finanziert, und Altmieter rausprozessiert die dann obdachlos werden…?

…oder der Polizist, der rein aus Macht-und Autoritaetskomplexen Bulle wurde, daheim seine Frau schlaegt, im Dienst aber den Supersheriff spielt, und unzaehligen harmlosen, jungen Leuten die Karriere versaute, weil er sie wegen des Kiffens anzeigte und kriminalisierte…?

Wenn der Dieb wegen nem Apfel und nem Ei, aus Hunger, zum Dieb wurde, aber sonst ein feiner Kerl ist, haette er jedenfalls weit bessere Chancen als der Cop, wenn ich an dieser Software rumbasteln muesste. (…hoffentlich nie.)

(Das meinte ich mit -Situationselastisch- )
 
  • Gefällt mir
Reaktionen: Dextera und Cosmic7110
Gut. Dann sind wir uns schonmal einig was die Sozi-Schiene betrifft ;)

Und wie sieht es mit anderen, evtl erkennbaren Kriterien aus? Kinder, Kinderwagen, Wand, Menge? :D
 
@Dextera,
diese Detailfragen ändern nichts am Sinn, oder besser Unsinn einer solchen Diskussion… Natürlich kann man eine Antwort geben, aber damit findet man keine Lösung! Schieben wir demnächst dann alle als Fußgänger Kinderwagen vor uns her, berechnend, dass die Software den “unnützen Alleingänger" auf der anderen Seite überfährt? Ist das Mitführen einer “Pappgruppe Menschen" an gefährlichen Verkehrspunkten (und erkennt die Software den "fake"?) dann verboten? Ich denke das ad absurdum wird klar!?

Wir werden die Entwicklung der Software nicht aufhalten, sie ist zu vorteilhaft , selbst mängelbehaftet würde sie mehr Leben retten als kosten und die Entwicklung allein ist noch keine Anwendung. Wir produzieren auch Drohnensoftware und wenden sie, teilweise kaum geprüft (Militärprojekte) an! Fragen wie “muss die Software eingreifen, wenn ein Fahrer versucht mit 150km/h durch die Innenstadt zu fahren" sind eindeutig zu beantworten - UND ES GIBT AUTOFAHRER DIE DIESE “BEVORMUNDUNG" ABLEHNEN WÜRDEN.

Letztlich geht es nicht mehr um ein "ob" sondern nur noch um ein "wann" - als MacUser könnte man die Tendenz sehr deutlich an der Entwicklung der OSX"se" erkennen ;) (allen Diskussionen zum Trotz - demnächst werden wir dann also die Autotsoftware hacken um der “Bevormundung" zu entgehen…)
 
  • Gefällt mir
Reaktionen: Dextera und Fleetwood
"Rund um den Globus diskutieren Ethikkommissionen dieses Problem."
Ethik-Kommission zum automatisierten Fahren


Die von Bundesminister Alexander Dobrindt eingesetzte Ethik-Kommission zum automatisierten Fahren ist am 30.09.2016 zu ihrer ersten Sitzung im BMVI zusammengekommen.

Das Experten-Gremium wird vom ehemaligen Bundesverfassungsrichter Prof. Dr. Dr. Udo Di Fabio geleitet. Die Ethik-Kommission soll Leitlinien für die Programmierung automatisierter Fahrsysteme entwickeln. Die Einführung automatisierter Fahrsysteme verlange Leitlinien für den Einsatz von Autopiloten, so Di Fabio.

Die Ethik-Kommission des BMVI setzt sich aus 14 Wissenschaftlern und Experten aus den Fachrichtungen Ethik, Recht und Technik zusammen. Dazu zählen u.a.Verkehrsexperten, Rechtswissenschaftler, Informatiker, Ingenieure, Philosophen, Theologen, Verbraucherschutz-, Verbands- und Unternehmensvertreter, berichtet das Bundesministerium für Verkehr und digitale Infrastruktur.

Quelle: Pressemitteilung des BMVI v. 30.09.2016
https://www.juris.de/jportal/portal...suri=/juris/de/nachrichten/zeigenachricht.jsp

Spannendes thema, spiele ich später auch mal durch.
 
Zunächst würde es wahrscheinlich schon genügen per Elektronik die maximale Leistung eines Fahrzeuges sowie die maximale Geschwindigkeit an die Verhältnisse wie Ortsverkehr, Wetter, Verkehrsdichte ect. anzupassen um überhaupt dafür zu sorgen das die Zahl der Unfälle dramatisch sinkt. Das wäre sicher auch für die Emisionen im Stadtverkehr positiv wenn der Tritt auf das Pedal nicht 300 Ps freisetzt um an der nächsten Ampel zu bremsen.
ich würde noch weiter gehen, und behaupten, dass en selbstfahrendes Auto so fahren muss, dass es in solche Situationen gar nicht erst kommt
 
Sollte den Asimovschen Robotergesetzen gehorchen weils ein Roboter ist - auch wenn's Auto heißt...
 
  • Gefällt mir
Reaktionen: r_o_b_e_r_t und WollMac
Zurück
Oben Unten