Können Maschinen Verantwortung tragen?

Der Kaugummiautomat liefert nach dem Münzeinwurf die verkehrte Sorte Kaugummi.
Ärgerlich vielleicht aber nicht weiter folgenschwer der Fehler.
Schlimmer ist da schon wenn ein automatisches Brandschutzsystem fälschlich
und völlig ohne Grund das Eigenheim flutet.
Oder wie kürzlich geschehen ein Archiv mit wichtigen und oder wertvollen Schriftstücken.

Wenn die "selbstdenkende" Ampelsteuerung zwei Richtungen mit Grün verwöhnt,
und die beteiligten Kraftfahrer verletzt werden, sind die Risiken und Schadenssummen schon massiver.

Wer ist in dem letzten Fall verantwortlich?
Derjenige Stahlbaubetrieb der die Ampelanlage installiert hat?
Oder nur der Softwarehersteller der Ampelsteuerung?
Die Gemeinde in deren Gemarkung die Kreuzung liegt?
Oder gar die Fahrer selbst? (beide haben gesehen das der andere auch losgefahren ist)

Wird es in Zukunft möglich sein, oder vielleicht nötig werden, Maschinen Verantwortung aufzubürden?

MfG Ernst Ellert II.

Die Maschine ist und bleibt immer nur ein Werkzeug.

Somit trägt der die Verantwortung, der die Maschine produziert, bzw betreibt.

Da Menschen nun mal Fehler machen, bauen sie auch Maschinen mit Fehlern.
Doch oft ist keine Frage des Know How, sondern der Kosten.

Neo-x schrieb in Beitrag Nr. 1674-3:

Wie sollte denn eine juristische Strafverfolgung gegen Maschinen aussehen?

Dazu musste die Maschine nicht nur Verantwortung übernehmen, sondern auch ein Rechtsempfinden haben.

Wenn Du deinen PC am nächsten Galgen aufhängst, weil durch ihn jemand zu Schaden gekommen ist, oder für 10 Jahre in den Knast steckst, so juckt ihn das in keinster weise.

Eine Maschine kann nur über Sensoren die Parameter seiner Umgebung auswerten, und danach handeln.

Ein gutes Beispiiel ist z.B der Autopilot eines Flugzeuges.
Er erfasst Daten wie Fluglage des Flugzeuges, Höhe, Geschwindigkeit, Stellung von Höhen und Seitenruder.
Daraus berechnet er, welche Klappen er ansteuern muss, um das Flugzeug auf den vorgegbenen Kurs zu bringen und zu halten.
Man könnte nun alle Daten, die auch der Pilot über seine Instrumente erhält, wie etwa Turbinentemperatur, Feuermelder, in den Treibwerken, Treibstoffvorrat, Aussentemperatur, etc, mit ins Programm einbinden.
Man könnte mehrere Sendsoren einbauen, die sich gegenseitig überwachen.

Es blieben trotzdem rein mathematische Berechnungen.
Selbst wenn er über die Anzahl der Passagiere bescheid wüsste, so wäre er sich nie irgend einer Verantwortung bewusst.

Er ist und bleibt ein emotionsloses Rechenwerk

Was würde ein Pilot machen, wenn alle Instrumente ausfallen:
Er würde nach bestem Wissen und Gewissen versuchen die Maschine möglichst heil runter zu bringen.
Er tut dies, weil er sich für seine Passagiere verantwortlich fühlt, und, weil er selbst überleben möchte.
Hinzu kommt die Erfahrung, die ihm hier von Nutzen ist.

Ein Autopilot macht nur das, wofür er programmiert ist.

Maschinen sind für mich eindeutig und grundsätzlich verantwortungslos. Ihr Verhalten hat aber sicherlich auch etwas mit fehlendem Risikobewußtsein zu tun.

"Intelligente" Maschinen, z.B. Schachcomputer, sind vor allem sehr ziel-"bewußt" und neigen zu Rücksichtslosigkeit und Opfern, und sie geben auch in aussichtsloser Position nicht auf (Motto: Mit einem Messer im Rücken gehe ich noch lange nicht nach Haus). Menschen und auch "höhere" Tiere würden sich zumeist rechtzeitig ergeben, evtl. in ihr Schicksal fügen und/oder taktisch verhandeln.

Einschub
Obwohl auch manche Menschen sich so (veranwortungslos) verhalten, so sind sie jedoch prinzipiell
verantwortungsbewußt und somit verantwortlich (es sei denn, sie gelten als "nicht zurechnungsfähig").

Wie Maschinen, so mag ich auch Pflanzen kein Verantwortungsbewußtsein zubilligen.

Schwierig wirds, wenn man auch Tieren (, die ja den Menschen zumindest biologisch näher stehen als Maschinen) Verantwortung zuerkennen möchte. Auch Tiere sind weitgehendst (DNS-)gesteuert und haben somit "nur" ihr eigenes Leben und das (Über-)Leben ihrer Nachkommen und Artgenossen "im Sinn".
Verantwortlich interpretiere ich daher vor allem im Sinne von "Rücksichtsvoll gegenüber der eigenen Art".

Und das "können" Maschinen nicht, bzw. noch lange nicht. Und wahrscheinlich ist es auch besser, wenn sie dies nie beigebracht bekommen.

Ich sehe aber auch die Gefahr, dass manche Entscheidungen vor allem in der zunehmenden Bürokratie nicht auf der Ebene einzelner Menschen (,die verantwortlich gemacht werden könnten,) getroffen werden, sondern auf die Ebene unpersönlicher Einrichtungen geschoben werden.
Beispiel Gerichtsurteil: das Gericht ist zu einem Urteil gekommen (der Richter sieht sich "nur" als ausführendes Organ des Staates bzw. des Gesetzes)
Beispiel Vollstreckung von Todesurteilen: die Ausführenden bleiben anonym, die Maschinerie, der Automatismus nimmt seinen Lauf.

Sind das nicht Anfänge, Maschinen Verantwortung quasi zu übertragen ?

Autonome Drohnen und anderes Kriegsgerät sollen unbemannt Ziele und Angriffszeitpunkte festlegen.
Dabei selbstständig lernen und ein nicht berechenbares Verhalten an den Tag legen.

Nach geltendem Völkerrecht ist das aber fragwürdig, weil immer ein Mensch für jede Militäroperation die Verantwortung tragen muss.
Die Technik müsste zuverlässsig zwischen Zivilisten und Nicht-Zivilisten unterscheiden.
Und wer bestimmt die Parameter die dann völlig unberechenbar über Leben und Tod entscheiden?

MfG Ernst Ellert II.

hallo, neo-x,
ich danke Dir aufrichtig dafür, dass Du fast jeden Satz von mir zitierst und meine geäußerte Meinung zusammen mit Deinen sparsamen Kommentaren allen Lesern verdeutlichst.

Zitat:

Wir haben diesen Computer so programmiert das er Millionen von Schachzüge wiedergeben kann auf Reaktion von "menschlichen" Zügen. Computer kennen keine Rücksichtslosigkeit, kein Moto, keinerlei Emotionen. Also können wir das dem Schachcomputer nicht unterstellen.

Danke für diese "unerwarteten Neuigkeiten". Hat jemand oder gar ich etwas anderes behauptet ??? Natürlich hat niemand Computern irgendwelche Emotionen oder Motten (Mehrzahl von Motto) unterstellt. Jedoch habe ich mir erlaubt, maschinelles "Verhalten" von menschlichem Verhalten zu unterscheiden. Und aus menschlicher Sicht sind Computer nun mal vergleichsweise verantwortungslos, rücksichtslos ... und auch das angeführte Motto verdeutlicht nur die typische nüchterne "Denk-" bzw. Rechenweise von Computerprogrammen.

Zum Bewußtsein ausgerechnet von Carnivoren: warum sollten sie mehr davon haben als z.B. insektenbestäubte Pflanzen ? Nach allem, was ich weiß, können Pflanzen nicht sehen. Also weder wie hübsch sie (für uns Menschen !) sind, noch ob ein Falter, eine Biene, eine Schnecke, eine Ameise, eine Raupe, eine fette Fliege oder gar ein Schwarm Heuschrecken im Anmarsch ist. Sie "funktionieren" nur, wenn alle Bedingungen stimmen und reagieren höchstens auf "gespeicherte" Gefahren.
Vielleicht können Pflanzen Emotionen spüren und darauf reagieren, aber eigenes Bewußtsein und damit auch Gefühle wie Langeweile, Wut, Ärger (über Dunkelheit, Wind, Regen, Trockenheit, Hitze, Kälte), Angst, Ekel, Schmerz, Schüchternheit, Liebe, Freude, Glück, Weisheit, Erfahrung ... halte ich für nicht gerechtfertigte Vermenschlichung und damit überinterpretiert. So manches davon würde jedoch auf höhere Tiere zutreffen.

Bevor wir dir Frage: Können Maschinen Verantwortung tragen? beantworten können, sollten wir uns folgende Fragen stellen:

Was beutes es überhaupt Verantwortung tragen
Warum sind wir bereit für etwas oder jemand Verantwortung zu übernehmen

Hängt es mit unserer sozialen Intelligenz zusammen, dass wir uns bereit erklären für etwas/jemand zuständig zu sein.

Die Eigenschaft Verantwortung zu übernehmen ist letztendlich ein Ergebnis der evolutionären Entwicklung des Menschen.
Warum hat der Mensch diese Eigenschaft?
Versuchen wir das an dem Beispiel Pilot/Autopilot zu analysieren Ein Autopilot führt, wie bereits zuvor erwähnt, lediglich Programme aus.
Ein menschlicher Pilot fühlt sich jedoch verantwortlich für sein Passagiere, warum? welchen nutzen hat er selbst von diesem Verantwortungsgefühl?
Warum fühlen sich Eltern für ihre Kinder verantwortlich? ist es der Arterhaltungstrieb, der dahinter steckt?

Letztendlich ist auch ein Gehirn nur ein biologischer Computer, dessen Programme durch die Evolution immer weiter verbessert wurden. Selbst wenn es sehr komplexe Operationen sind, die unser Gehirn ausführt, die (noch) kein Rechner beherrscht, so sind es doch im übertragenen Sinne "nur" genetische Programme.

Ob es jemals einen Rechner geben wird, der solche Programmroutinen beherrschen kann ist zur Zeit noch unwahrscheinlich.

Hallo Hans und guten Abend.
Es sind ja nicht nur automatische Waffensysteme die die Frage nach "Verantwortung" aufwerfen.

Zitat:

Doch bis autonome Fahrzeuge den Anforderungen im öffentlichen Straßenverkehr gerecht werden, sind noch eine Reihe von Problemen zu lösen.
Neben solchen technischer Art gilt es auch, rechtliche und philosophische Fragen zu lösen:
Wer haftet, wenn ein autonomes Auto einen Unfall baut?
Und wie viel Selbstständigkeit will man etwaigen Robotern auf vier Rädern überhaupt zugestehen?

Quelle und mehr Informationen:

http://www.br-online.de/wissen/forschung/autonomes-...

Einen schönen Restsonntag noch...
und mit den besten Grüßen.
Ernst Ellert II.

Ich möchte hier folgendes Einschieben:

Wie soll man entscheiden, ob Maschinen Verantwortung tragen können, wenn man sich da noch nict mal bei den Menschen oder Tieren einig ist.

Du bringst einem Kind etwas bei, z.Radfahren.
Wenn das Kind dann radfahren kann und einen Unfall verursacht, wer haftet?
Ist das Kind unter 7 so schaut der Geschädigte in die Röhre, weil das Kind, vom Gesetz her keine Verantwortung übernehmen kann. Verursacht aber "Nachbars Bello" einen gleichen Schaden, so haftet die Versicherung des Tierhalters. (Weil der Hund klüger ist, als das Kind oder ein besseres Rechtsempfinden hat????)

Bringt ein Meister einem Gesellen etwas bei, wer haftet, wenn etwas passiert?
Hier kann ich gleichsetzen: Bringt ein Programmierer einem Roboter etwas bei, wer haftet?

Die Rechtsverdreher sollten sich erst mal darüber Gedanken machen, wer bei von Menschen verursachten Schäden haftet, bevor man sich über Schaden durch Maschinen Gedanken macht.

Hans-m schrieb in Beitrag Nr. 1674-13:

(...)
Die Rechtsverdreher sollten sich erst mal darüber Gedanken machen, wer bei von Menschen verursachten Schäden haftet, bevor man sich über Schaden durch Maschinen Gedanken macht.

Hallo Hans, sei gegrüßt.
Du hast gut reden... ;-)
Die U$A wollen mit den Apparaten in die Schlacht ziehen um so mehr Menschenmaterial zu sparen.
Die Bevölkerung kuckt ihnen bald genauer auf die Finger, wer denn nun wen, wo und in welchem Krieg verheizt.
Und aus diesem Grund ist Eile bei wohlwollenden Entscheidungen angesagt.
Aber nur bei wohlwollenden.
Dein Standpunkt wird den Kriegstreibern gar nicht gefallen.
Mit so einer Meinung gefährdest Du dann schon ganz massiv die nationale Sicherheit der U$A.
Da musst Du dann bei nächsten Tripp in die Staaten bei der Einreise aber auf der Hut sein. ;-)

Mit den besten Grüßen.
Ernst Ellert II.

Hallo Ernst, hallo zusammen,

für mich stellt sich die Frage, ob Maschinen Verantwortung tragen können nicht wirklich, höchsten graduell.
Es geschieht bereits umfassend. Z.B. die Zündung einer EMP-Waffe über deutschem Gebiet wäre der Ober-Gau: Nichts geht mehr, kein Auto, keine Waschmaschine, kein Fernseher, kein Radio, kein Computer, kein Telefon.

Auch ist Deutschland Weltmeister in der Erforschung und Entwicklung von Sensor-/Mikrocontroller-gesteuerten Einheiten.
Die werden immer raffinierter und bekommen damit immer mehr Verantwortung. Was heute eine Einparkhilfe ist, wird in der nächsten Generation ein Assistent sein, der in alle wesentlichen Fahrfunktionen wenigstens limitierend eingreift und vor kritischen Situationen frühzeitig warnt. Im Sinne der Verkehrs-Sicherheit ist das wünschenswert und deswegen gehen wir in die Richtung.

Die Computer-Simulation von militärischen Gefechtsszenarien wird in Deutschland seit über 10 Jahren entwickelt. Die Planbarkeit ist ein strategisches Plus und deswegen gehen wir in die Richtung.
Dass man die Simultation mit der Wirklichkeit verwechselt halte ich innerhalb Europas bisher für ausgeschlossen. In Amerika wurde die Absurdität eines virtuellen Krieges schon in den 60er Jahren zu Ende gedacht: http://en.wikipedia.org/wiki/A_Taste_of_Armageddon oder bei Youtube "A taste of armageddon Part 1" ffff
Aber man vergißt auch schnell ...

lg
Thomas

Ich sag mal: Intelligente Maschinen muss man rechtlich behandeln, wie unmündige Kinder.
Man kann beiden etwas beibringen, aber beide können ihr Handeln letztendlich nicht überblicken.
Um erwachsen zu werden und Verantwortung zu tragen, braucht man Lebenserfahrung, und die wird eine Maschine nie erlangen können.

Verantwortlich bleibt immer der Vormund, bzw Programmierer/Hersteller.oder Betreiber.

Und wenn das Militär eine solche "unmündige" Kampfdrohne einsetzt, so sind dann die entsprechenden "Strippenzieher" verantwortlich, die den Einsatz befohlen haben.

Hier gibt es neue Gesichtspunkte zu der Themenfrage.
Verantwortung tragen ist sinngemäß nicht weit weg von haftbar sein.

http://www.zeit.de/wissen/2011-11/roboter-recht-haftung

Dann würde dieser völlig offene Fragenkomplex nicht nur kriegführende Nationen betreffen
sondern auch jeden x-beliebigen Privathaushalt, Kommunen oder regional-Regierungen.
Mit den besten Grüßen.
Ernst Ellert II.

Ich denke ein Roboter/Maschine kann dann Verantwortung übernehmen, wenn sie Mündig ist.
Mündigkeit bedeutet aber auch, dass man über Recht und Unrecht selbst entscheiden kann und die Konsequenzen kennt.

Hier könnte man die Kritereien zu Grunde legen, mit denen man auch Menschen als Mündig bezeichnet, oder im umgekehrten Fall als entmündigt.

http://de.wikipedia.org/wiki/M%C3%BCndigkeit
http://de.wikipedia.org/wiki/Handlungsf%C3%A4higkei...
http://de.wikipedia.org/wiki/M%C3%BCndigkeit_%28Phi...

Auszug:

Zitat:

Der Begriff Mündigkeit beschreibt das innere und äußere Vermögen zur Selbstbestimmung. Mündigkeit ist ein Zustand der Unabhängigkeit. Sie besagt, dass man für sich selbst sprechen und sorgen kann.

Eine Maschine, die nur ein Programm abarbeitet, kann nicht als Selbstbestimmt und Unabhängig bezeichnet werden, und kann somit keine Verantwortung übernehmen.

Hallo Hans-m

Zitat:

Eine Maschine, die nur ein Programm abarbeitet, kann nicht als Selbstbestimmt und Unabhängig bezeichnet werden, und kann somit keine Verantwortung übernehmen

Fraglos wird eine Maschine immer nur so gut sein, wie es sein Computerprogramm ist. Dabei gibt es bereits kluge Programme. Ich könnte mir z. B. vorstellen, dass eines Tages ein Computerprogramm im Cockpit so
umfassend und genial konzepiert sein kann, dass es auf alle Eventualitäten die beste Antwort, sprich die beste
Reaktion kennt. Man könnte dann bereits sagen, dass er eine Art von Verantwortung tragen kann. Ein Pilot ist sich
im allgemeinen seiner (menschlichen) Verantwortung bewusst, ob er allerdings besser reagiert ist fraglich.
Auf künftige unbemannte Raumschiffe, welche z.B. den Alfa Centauri ansteuern, können wir über Funk kaum mehr auf das Geschehen eingreifen. Ihre Programme werden dann so gut sein müssen, dass sie die Verantwortung (für welche der Programmierer zwar auch verantwortlich ist) alleine tragen können.
Natürlich werden alle Entscheidungen des Computers weder von Gefühlen, noch von Bewusstsein geprägt sein.

frdl. Grüsse
Helmut Brunner

Helmut Brunner schrieb in Beitrag Nr. 1674-19:

Ich könnte mir z. B. vorstellen, dass eines Tages ein Computerprogramm im Cockpit so
umfassend und genial konzepiert sein kann, dass es auf alle Eventualitäten die beste Antwort, sprich die beste
Reaktion kennt. Man könnte dann bereits sagen, dass er eine Art von Verantwortung tragen kann.

Es wird trotzdem weiterhin der Programmierer oder der Nutzer des Programmes sein, bzw hier der Betreiber des Flugzeuges das vom Programm gesteuert wird, der die Verantwortung trägt.

Das Programm kennt ja nicht die Konsequenzen für eine Fehlentscheidung, oder würdest Du einen Computer wegen fahrlässiger Tötung in den Knast sperren?
Wenn z.b eine Sensor ausfällt, dann kann ein Pilot noch aus dem "Bauchgefühl" handeln, ein Computer, der nur Sensoren auswerten kann, wird das ganze in die Katatstophe steuern.

Die Erfahrung, die ein Pilot in seiner "Fluglaufbahn" sammelt, passt garantiert auf keine Festplatte. Zudem reicht das Wissen allein nicht aus, sondern die Verknüpfung verschiedener Erfahrungen entscheiden über das Handeln des Piloten. Zudem hat der Pilot, der ja selbst mit an Bord ist, einen Überlebenswillen, im Gegensatz zum Computer, was letztendlich seine Entscheidungen, auch zum Vorteil der Passagiere, beeinflusst.

Ernst Ellert II schrieb in Beitrag Nr. 1674-1:

Wird es in Zukunft möglich sein, oder vielleicht nötig werden, Maschinen Verantwortung aufzubürden?

Das geht wohl kaum. Nur Menschen können Verantwortung tragen.

Zitat:

Ernst Ellert II in Beitrag Nr. 1674-1:
Wird es in Zukunft möglich sein, oder vielleicht nötig werden, Maschinen Verantwortung aufzubürden?
Volker Aven schrieb in Beitrag Nr. 1674-21: als Antwort darauf:
Das geht wohl kaum. Nur Menschen können Verantwortung tragen.

Hans zitiert als Auszug in Beitrag-Nr. 1674-18
11.11.2011 12:45:

Der Begriff Mündigkeit beschreibt das innere und äußere Vermögen zur Selbstbestimmung. Mündigkeit ist ein Zustand der Unabhängigkeit. Sie besagt, dass man für sich selbst sprechen und sorgen kann. Zitat ende.

In wie weit trifft das denn auf den Menschen zu?

Zitat:

Der Begriff Mündigkeit beschreibt das innere und äußere Vermögen zur Selbstbestimmung. Mündigkeit ist ein Zustand der Unabhängigkeit. Sie besagt, dass man für sich selbst sprechen und sorgen kann. Zitat ende.

Henry schrieb in Beitrag Nr. 1674-22:

In wie weit trifft das denn auf den Menschen zu?

Ich denke Selbstbestimmung hat auch was mit Spontanität, odr auch "Bauchgefühl" zu tun.
Eine Entscheidung treffen, die nicht durch "Sensoren" gesteuert ist.

Z.B sich ins Flugzeug zu setzen, und einfach nach Hollywood zu fliegen.
oder auch seinen Chef einfach mal mit Schimpfwörtern zu betitteln

Natürlich muss man dabei auch die Konsequenzen tragen, das nennt man dann Verantwortung übernehmen.

Eine Maschine kann solche Handlungen nicht vornehmen, weil sie nur auf Programmroutinen basieren, und diese wiederum sind durch Sensoren gesteuert. nach vorgefertigten Rechenalgorythmen.

Eine Maschine tut immer nur das, was der Programierer für die entsprechende Situation vordefiniert hat.

Bestes Beispiel für "Maschinen" sind Spielprogramme, wie etwa bei Playstation etc.
Eine Maschine würde nie bei Schach, Monopolie oder sonstigen Spielen, versuchen zu schummeln. Das ist eine Eigenschaft des Menschen, sich einen (unerlaubten) Vorteil beim Spiel zu erschleichen. Mit der Konsequenz das er evtl aus dem Spiel ausgeschlossen wird.

Würde man eine Maschine zum Schummeln programmieren, so würde sie es nur tun, weil der Programmierer es so will. Aber wer würde gerne gegen ein Monopolie oder Schachprogramm o.ä antreten, das sich nicht an die Regeln hält?
Der Spieler müsste ständig die Spielzüge seiens Gegners auf Korrektheit überprüfen, und ihn ermahnen solche Schummeleien in Zukunft zu unterlassen. Das ginge in dem Fall natürlich nur, wenn der Speiler den "Schummelmodus" abschalten könnte.

Abseits von Kampfhandlungen aber trotzdem nah an den Lebensnerven der Gesellschaft .......
Die FAZ schreibt.....

Zitat:

Die Maschinen beginnen zu handeln 23.06.2012 ·
An der Wall Street haben die Computer die Menschen abgelöst.
Sie handeln miteinander im Millisekundentakt um Millionengewinne -
bis sie plötzlich abstürzen.

Quelle: http://www.faz.net/frankfurter-allgemeine-zeitung/f...
Ob sich da jemand Gedanken über mündig oder nicht mündig gemacht hat? Bestimmt nicht.