Dürfen wir Verantwortung an Maschinen delegieren?

Redakteur: Franz Graser

Autonomes Fahren, Roboter in der Fabrik, Algorithmen in der Medizin: Der Philosoph Julian Nida-Rümelin über das Verhältnis von Technik und Ethik.

Firmen zum Thema

Professor Julian Nida-Rümelin: Der ehemalige Kulturstaatsminister lehrt Philosophie an der Ludwig-Maximilians-Universität in München und beschäftigt sich unter anderem mit den Grenzbereichen zwischen Technik und Ethik.
Professor Julian Nida-Rümelin: Der ehemalige Kulturstaatsminister lehrt Philosophie an der Ludwig-Maximilians-Universität in München und beschäftigt sich unter anderem mit den Grenzbereichen zwischen Technik und Ethik.
(Bild: Copyright: (c) Bernd Euring 2010)

Unter dem Motto „Philosophie trifft Elektronik“ setzte die Keynote von Professor Julian Nida-Rümelin die Reihe interdisziplinärer Vorträge beim ESE Kongress fort, die 2015 mit dem Beitrag der Juristin Elke Luise Barnstedt vom Karlsruher Institut für Technologie ihren Anfang nahm.

Für Professor Nida-Rümelin, der an der Münchner Ludwig-Maximilians-Universität lehrt, sind technische Entwicklungen und die Kultur miteinander verwoben. Als Beispiel nennt er den griechischen Mathematiker und Ingenieur Archimedes (um 287 - 212 vor Christus), der unter anderem im Bereich der Hydraulik (sogenannte Archimedische Schraube) und bei den Hebelgesetzen Erstaunliches leistete.

Archimedes, so Nida-Rümelin, entwarf sogar Automaten, die in der Lage waren, bei einem Bankett Wein nachzuschenken. Es ist leicht auszumalen, dass manche technischen Entdeckungen weitaus früher gemacht worden wären, hätten sich die Erfindungen des Archimedes durchgesetzt. Warum aber entfalteten diese Entwicklungen so wenig Wirkung? „Diese technische Extrembegabung fand in einer Kultur statt, die dafür wenig übrig hatte“, erklärt der Münchner Philosoph.

Wie hängen nun aber Technik und menschliche Verantwortung zusammen? Nida-Rümelin verwies hier auf den deutsch-amerikanischen Philosophen Hans Jonas (1903 - 1993), der in seinem Hauptwerk „Das Prinzip Verantwortung“ eine pessimistisch gestimmte Technik-Philosophie entwarf. Jonas gebrauchte hierfür die Formel „Handle so, dass durch deine Handlungen menschliches Leben auf diesem Planeten nicht gefährdet wird.“

Jonas' Gedanke hat unter anderem in die Bewertung der Gentechnik Eingang gefunden. Aber auch im Hinblick auf moderne Trends wie den Transhumanismus (der die menschliche Existenz unter anderem durch technische Implantate zu verbessern sucht) ist er hochaktuell. Nida-Rümelin sieht solche Entwicklungen durchaus nicht nur negativ, aus seiner Sicht ist es jedoch wichtig, die „conditio humana“, also die menschliche Natur, nicht aus dem Blickfeld zu verlieren. Er befürwortet es, neue Techniken zu verfolgen, aber es dürfe nicht dazu führen, „dass alles ins Rutschen kommt“.

Verantwortung heißt Rechenschaft ablegen

In diesem Zusammenhang kommt der Begriff der Verantwortung ins Spiel. Der Terminus selbst ist laut Nida-Rümelin zwar erst runde 300 Jahre alt, das Prinzip ist jedoch bereits in der „Nikomachischen Ethik“ des griechischen Philosophen Aristoteles (384 bis 322 vor Christus) enthalten. Verantwortung zu übernehmen, bedeutet hier gegenüber anderen – möglicherweise gegenüber einer höheren Instanz – Rechenschaft für seine Handlungen abzulegen. Und dies setzt eine zutief menschliche Fähigkeit voraus: die Fähigkeit zu deliberieren, also zu überlegen und zu bedenken.

Maschinen seien dazu nicht in der Lage, urteilt der Münchner Philosoph. Nida-Rümelin erteilt damit den Verfechtern einer sogenannten „starken KI“ eine Absage, die keinen grundsätzlichen Unterschied zwischen den Kapazitäten von Menschen und Computern sehen. Nach deren Auffassung könne praktisch jedwede Entscheidung an einen Algorithmus ausgelagert werden.

Dies verneint Nida-Rümelin vehement. Der Philosoph stellt sich auf die Seite der Verfechter der sogenannten „schwachen KI“, die die technischen Fähigkeiten von Computern zwar anerkennen, aber dennoch eine Grenze zwischen den den Möglichkeiten von menschlichen und maschinellen Intelligenzen ziehen.

Vorgänge simulieren bedeutet nicht unbedingt verstehen

„Die Tatsache, dass Computer unglaubliche Rechenleistungen vollbringen oder Siri auf dem iPhone alle möglichen Fragen beantwortet, bedeutet nicht, dass etwas Persönliches vor sich geht. Es fehlen einfach mentale Zustände“, stellt Nida-Rümelin fest. Als Beleg hierfür führt er das Gedankenexperiment des sogenannten chinesischen Zimmers an, das der amerikanische Philosoph John Searle (*1932) formuliert hat. Dabei handele es sich um einen Raum, in dem sich ein Mensch aufhält, der die chinesische Sprache nicht beherrscht. Durch ein Fenster werden ihm immer wieder Schrifttafeln gezeigt, die auf Chinesisch formulierte Fragen enthalten.

Da die Tafeln auch Nummern enthalten, kann die Person im Zimmer durch das Fenster seinerseits die passenden Tafeln anzeigen, die die entsprechenden Antworten auf Chinesisch enthalten. Wird zum Beispiel die Fragetafel 21 gezeigt, kann die Person im Zimmer die entsprechende Antwort-Tafel heraussuchen und hochhalten.

Dadurch entstehe zwar der Eindruck, die Person im Zimmer verstünde Chinesisch, was aber nicht der Fall ist. Damit zeigt Searle nach Ansicht von Nida-Rümelin auf, dass das Bestehen des sogenannten Turing-Tests noch nicht beweist, dass es sich um echtes Denken handelt: Ein Computer könne zwar Programme ausführen und Zeichenreihen ausführen; allerdings sei er noch nicht in der Lage, das Gesagte auch zu verstehen.

Die Fähigkeit zur Deliberation, also zum Überlegen und Bewerten, sieht Nida-Rümelin deshalb bei auf Algorithmen basierenden Systemen nicht gegeben. Deshalb verfügen sie auch nicht über die Fähigkeit zur Willensfreiheit und Verantwortung. Deshalb könne Verantwortlichkeit nicht an Computer übertragen werden.

Verantwortung kann nicht delegiert werden

Übertragen auf aktuelle technische Entwicklungen wie das autonome Fahren bedeutet dies, dass die Verantwortung für die Handlungen im Straßenverkehr letztlich nicht an einen Computer übergeben werden kann. Bestimmte Abwägungen, etwa das oft zitierte Dilemma, ob ein autonom gesteuertes Fahrzeug, das in einer Notsituation nicht mehr anhalten kann, eher mit einem älteren Verkehrsteilnehmer oder mit einer jungen Mutter mit einem Kinderwagen, kollidieren solle, sind laut Nida-Rümelin in einer zivilen Ordnung unzulässig.

Daher warnt der Münchner Philosophieprofessor und bekennende Alfa-Romeo-Fan davor, komplexe Abwägungen an einen Algorithmus zu übergeben. Er rät deshalb von autonomen Fahrzeugen ab. Stattdessen spricht er sich für die Regelung der völkerrechtlich verbindlichen Wiener Konvention aus, wonach der Führer eines Fahrzeugs stets die Kontrolle über das Fahrzeug behalten müsse. Das könne in der Praxis so aussehen wie in der Luftfahrt, bei der Piloten häufig nur eine überwachende Tätigkeit ausführen, während der Autopilot fliegt. Der Fahrer müsse eben jederzeit in der Lage sein, einzugreifen.

Eine Alternative wäre eine Art öffentliches Verkehrsmittel, das zentral betrieben wird und bei dem die autonomen Fahrzeuge quasi auf Abruf bereitstehen. Eine Delegation, das wiederholte der Professor an dieser Stelle noch einmal, funktioniere nicht.

Eine weitere Folge der technischen Entwicklung, nämlich die unaufhaltsam voranschreitende Digitalisierung, führt aus Sicht von Professor Nida-Rümelin nicht dazu, dass den Menschen die Arbeit ausgehe. Diese Klage habe es seit Beginn der Industrialisierung gegeben, sagte der Professor. Diese Einschätzungen hätten sich stets als falsch herausgestellt, das Arbeitsvolumen sei im Gegenteil insgesamt gestiegen.

Natürlich werde die Digitalisierung viel verändern, sagte Nida-Rümelin; zu glauben, dass die Maschinen den Menschen letzten Endes die Arbeit abnähmen, käme allerdings einer „Unterschätzung des ökonomisch-sozialen-kulturellen Systems“ gleich.

(ID:44453353)