Einsatz von Robotern: "Es geht nicht um das Ob, sondern um das Wie"

"Roboterethik – Sie sind stark, klug, selbstständig. Und was wird aus uns?" lautet der Titel der Tagung, die von der Daimler-und-Benz-Stiftung gemeinsam mit dem Cologne Center for Ethics, Rights, Economics, and Social Sciences of Health (Ceres) veranstaltet wird. Interdisziplinär beschäftigen sich Experten aus Ethik und Philosophie, Informatik, Mathematik und Soziologie mit den zu erwartenden Herausforderungen, die der Einsatz von Robotern, also autonom agierenden Maschinen, für unsere Gesellschaft mit sich bringt.

Dr. Johannes Schnurr von der Daimler-und-Benz-Stiftung sprach im Vorfeld mit der wissenschaftliche Leiterin der Tagung, Professor Dr. Christiane Woopen (im Bild unten). Sie ist Direktorin des Cologne Center for Ethics, Rights, Economics, and Social Sciences of Health (Ceres) an der Universität zu Köln und leitet außerdem die Forschungsstelle Ethik des Instituts für Geschichte und Ethik der Medizin am Universitätsklinikum Köln. Woopen ist zudem Vorsitzende des Deutschen Ethikrats.

Johannes Schnurr: Die Vorstellung, dass uns in Zukunft nicht mehr Menschen, sondern Roboter medizinisch behandeln, in der Altenpflege tätig sind oder in selbstfahrenden Autos das Steuer übernehmen, kann beängstigend wirken. Wie sollten wir mit dieser Entwicklung und gerade auch mit unseren Ängsten umgehen?

Christiane Woopen: Menschen haben seit jeher Angst vor neuen und unbekannten Entwicklungen. Das scheint eine anthropologische Konstante zu sein, für die es aber auch ein psychologisches Pendant gibt, nämlich die Faszination der Machbarkeit des eigentlich Unvorstellbaren. Gerade die Technik vermag den Menschen sowohl zu erschrecken als auch zu begeistern, weil sie ihn mit sich selbst konfrontiert: Er ist derjenige, der sie hervorbringt, der erfindungsreich und machtvoll ist – und er ist zugleich derjenige, der möglicherweise die Kontrolle über sie verliert, von ihr abhängig ist und zum Opfer werden kann.

Wir sollten unsere Ängste vor einer bestimmten Art von Technik oder einer speziellen Anwendung zunächst im Detail analysieren. Wovor genau haben wir Angst? Was überfordert uns? Erst wenn wir uns selbst verstehen, ist der Weg frei, um eine Antwort auf die Frage zu finden, wie wir unsere Ängste überwinden können. Haben wir beispielsweise Angst vor Sicherheitsrisiken, können Maßnahmen helfen, die die Sicherheit und damit das Vertrauen erhöhen. Empfinden wir aber eher ein Gefühl der Befremdung angesichts des Unbekannten, können Aufklärung sowie konkrete Begegnungen und Erfahrungen helfen.

Schnurr: Roboter sollen uns im Alltag unterstützen und uns gefährliche oder monotone Arbeiten abnehmen. Wo sehen Sie hier die größten Chancen?

Woopen: Eine große Chance könnte darin bestehen, dass Roboter in manchen Tätigkeiten sicherer, zuverlässiger, widerstandsfähiger und ausdauernder sind. Dadurch könnten sich Menschen Tätigkeiten entledigen, die sie ohnehin nicht gerne durchführen. Ihre Zeit und Energie könnten wir dann für andere Tätigkeiten einsetzen, in denen unsere spezifisch menschlichen Fähigkeiten viel besser zur Geltung kommen. Dazu zähle ich etwa alle Tätigkeiten, bei denen die Begegnung von Mensch zu Mensch bedeutsam ist, die Einfühlungsvermögen und Anteilnahme erfordern oder die aus der unberechenbaren Kreativität von Menschen im Kontext ihrer ganz individuellen Lebensgeschichten entstehen.

Schnurr: Gibt es überhaupt Möglichkeiten, sich gegen eine solch tiefgreifende technologische Entwicklung zu stellen? Oder ist der "technische Imperativ" ("Handle so, dass keine der dir zu Gebote stehenden technischen Möglichkeiten ungenutzt bleibt"), wie ihn der Philosoph Hans Jonas kritisch formulierte, doch am Ende immer stärker als eine Haltung, die auf das Machbare bewusst verzichten will?

Woopen: Es geht meines Erachtens weniger um die Frage, OB man auf Machbares verzichtet. Es geht vielmehr um die Frage, WIE man seine Nutzung gestaltet. Sich ganz grundsätzlich gegen die technologische Entwicklung oder etwa die Digitalisierung zu stellen, halte ich für faktisch nicht machbar und auch ethisch nicht wünschenswert. Zwar können sich Individuen in ihrer Lebensführung dagegen entscheiden, bestimmte Techniken anzuwenden, aber ein allgemeines Verbot wird es nicht geben können, und es sollte es auch nicht geben. Umso wichtiger ist aber, die Anwendungsbedingungen nach ethischen Maßstäben zu definieren und politisch zu kontrollieren.

Schnurr: In die weitere Zukunft gedacht: Halten Sie die Vorstellung, dass Maschinen selbst moralisch handeln könnten, für zu fantastisch? Und umgekehrt: Erwächst nicht auch uns Menschen eine Pflicht, gegenüber selbst lernenden Maschinen in besonderem Maße verantwortungsbewusst zu agieren?

Woopen: Solange Menschen Maschinen so gestalten, dass sie immer etwas Bestimmtes unter bestimmten Bedingungen tun, ist es unsere eigene Moral, die wir den Robotern einprogrammieren. Das ändert sich bei selbst lernenden Systemen, deren Verhaltensweisen unvorhersehbar werden können. Hier sind technischer und regulatorischer Einfallsreichtum gefragt: Es könnte zum Beispiel festgelegt werden, was auf keinen Fall geschehen darf, und es könnte Aufsichtspflichten geben, die Fehlentwicklungen rechtzeitig erkennen und verhindern können. Maschinen selbst könnten nur dann selbst moralisch handeln, wenn sie aus sich selbst heraus zwischen dem Guten und dem Bösen unterscheiden könnten und wenn sie ein Empfinden für ein gelingendes oder ein scheiterndes Leben haben.

Was unsere Pflichten gegenüber Maschinen betrifft, bin ich der Auffassung, dass diese aus Pflichten gegenüber den Menschen begründet sind: Unsere Verantwortung besteht zunächst einmal in der menschengerechten Anwendung von Technik. Verantwortung gegenüber Robotern selbst bestünde dann, wenn sie leiden könnten.

Schnurr: Sie sind Vorsitzende des Deutschen Ethikrats. Welche gesellschaftliche Rolle sehen Sie für Ethiker bei solch komplexen Herausforderungen wie dem künftigen Einsatz von Robotern?

Woopen: Die Ethik als wissenschaftliche Reflexion über das gute Handeln spielt meines Erachtens eine wichtige Rolle bei der gesellschaftlichen Debatte über den Einsatz von Robotern. Sie dient der gründlichen Reflexion und Argumentation. Letztlich kann und sollte sie einen Beitrag dazu leisten, Regeln aufzustellen, die gewährleisten, dass Roboter mehr Nutzen als Schaden hervorbringen.

Schnurr: Sie selbst sind Ärztin, haben Ihren beruflichen Schwerpunkt dann aber in den Bereich der Medizinethik verlegt. Was hat sie zu dieser Neuausrichtung bewogen?

Woopen: Ethische Fragen haben mich – was manchmal für meine Kommilitonen und Kollegen etwas anstrengend gewesen sein mag – bereits im Studium und dann auch in meiner ärztlichen Tätigkeit in der Gynäkologie und Geburtshilfe immer persönlich berührt und zuweilen nachhaltig umgetrieben. Letztlich war es wohl ein Zusammenspiel von Familiengründung, Umzug, Zufall, Glück und persönlichen Interessen, das mich in die Neuausrichtung meines beruflichen Engagements brachte.

Schnurr: Was fasziniert Sie – ganz persönlich als Wissenschaftlerin – an dem Thema Robotifizierung und autonome Maschinen?

Woopen: Techniken, die in unterschiedlichen Bereichen zu einer grundlegenden Veränderung gesellschaftlicher Funktionsprinzipien und Lebenswirklichkeiten führen – also sogenannte disruptive Technologien, zu denen auch die Digitalisierung gehört –, faszinieren mich in ihrer innovativen Kraft und ihrer Unverschämtheit, die Grenzen des Vorstellbaren infrage zu stellen. Sie weisen in die Zukunft und werden unsere eigene Welt und die unserer Kinder prägen. Mir ist es wichtig, dass wir diese Zukunft allen anderen Erwägungen voran nach ethischen Maßstäben gestalten.

Mehr zum Thema Digitalisierung und die Rolle von HR lesen Sie im Titelthema des aktuellen Personalmagazins  "Auf dem Weg zur Industrie 4.0 – Wie sich die Arbeitswelt verändert, worauf HR sich einstellen muss".