URI: 

       # taz.de -- Philosophin über Robotherethik: „Technik ist nicht neutral“
       
       > Wie und warum wir Roboter bauen und was wir sie tun lassen, ist immer
       > auch eine moralische Frage: Janina Loh spricht in Hamburg über
       > Roboterethik.
       
   IMG Bild: Dahinter steckt immer der Mensch: NRW-Innenminister Herbert Reul (CDU) im Januar 2022
       
       taz: Janina Loh, werden Sie oft auf Isaac Asimov angesprochen? 
       
       Janina Loh: Ständig. Ich würde sagen, von den 130 [1][Interviews, die ich
       bislang geben durfte], haben ein Viertel, vielleicht sogar ein Drittel
       Asimov zumindest in irgendeiner Form thematisiert.
       
       Naheliegend insofern, als der in einer seiner Science-Fiction-Geschichten
       drei „Roboter-Gesetze“ formuliert hat; ein viertes – beziehungsweise
       nulltes – kam später hinzu. Ich könnte mir vorstellen, dass diese Gesetze
       vielen Menschen zuerst einfallen, wenn diese auf Ihr Buch „Roboterethik“
       stoßen und damit ihr Arbeitsgebiet. 
       
       Was Asimov selbst immer wieder gezeigt hat, ist, wie diese Gesetze
       [2][miteinander in Konflikt geraten] und dass sie letztlich nur den
       Ausgangspunkt darstellen, aber keine fertige Ethik sein können. Aus meiner
       Sicht sind sie nicht besser oder schlechter als beispielsweise die zehn
       Gebote oder der Kategorische Imperativ von Immanuel Kant – ein Vorschlag.
       
       Verhandelt wird darin: [3][wie soll und wie darf ein Roboter handeln]. Das
       ist die eine Dimension. Und es gibt eine andere. 
       
       Das ist die Perspektive, dass Roboter genauso wenig wie ein Toaster oder
       ein anderes elektronisches Gerät moralisch handeln können. Aber dass gerade
       jene, die im besonderen Umgang mit Menschen sind, zum Beispiel
       Pflegeroboter, einen besonderen moralischen Wert für uns haben. Und das
       heißt, dass wir mit diesen Robotern nicht alles machen dürfen, was wir
       wollen.
       
       Vielleicht noch mal einen Schritt zurück: Wie definieren Sie einen Roboter? 
       
       Als besondere Form von Maschine. Alle Roboter sind Maschinen, aber nicht
       alle Maschinen sind Roboter. Es gibt drei technische Kriterien: Ein Roboter
       besteht erstens aus Sensoren, die Daten aus der Umgebung sammeln, und diese
       zweitens an mindestens einen Prozessor weitergeben, der sie verarbeitet,
       und drittens an mindestens einen Effektor oder Aktor übergibt; der
       übersetzt die Daten in mechanische Abläufe. Hinzu kommen drei philosophisch
       interessantere Aspekte.
       
       Welche sind das? 
       
       Ein Roboter verfügt erstens über einen eigenständigen Körper, mit dem er
       zweitens in seine Umgebung hineinwirken kann. Und zwar in einer Weise, wie
       das ein Computer beispielsweise nicht kann. Ein Smartphone ist also eine
       supersmarte Maschine, aber kein Roboter.
       
       Und der dritte Aspekt? 
       
       Ein Roboter agiert zumindest quasi autonom. Das heißt, es sieht von außen
       so aus, als würde er autonom agieren, ohne direkten Einfluss von Menschen.
       Das ist dann auch der Grund, warum ich sagen würde, eine Drohne, zumindest
       die bekannten Drohnen, die von Menschen extern gesteuert werden, sind keine
       Roboter.
       
       Also der Typ Drohne, bei dem es immer noch irgendwo einen Menschen mit
       einem Joystick vor einem Bildschirm gibt. Aber entwickelt sind oder werden
       ja auch solche Drohnen, bei denen der Mensch nicht mehr eingreifen kann –
       und das auch gar nicht mehr können soll. 
       
       Es gibt in der Militärrobotik wie in allen anderen Bereichen der Robotik
       umfangreiche Studien dazu. Und Gremien, die darüber diskutieren, ob es
       sinnvoll ist, solche Roboter zu entwickeln. Und Leute, die finanzstark wie
       auch, sage ich mal, politische Schwergewichte sind, die darauf Einfluss
       haben. Aber nach wie vor sind solche Entwicklungen keine Naturgesetze. Wir
       sind da immer noch im Bereich des Menschlichen und menschlicher
       Entwicklung, die wir als Bürger*innen demokratischer Länder mitbestimmen
       können: was soll passieren dürfen in einem Land, was nicht.
       
       Das beantwortet ja eigentlich auch etwaige Zweifel, ob und warum Roboter
       überhaupt Thema der Philosophie und also der Ethik sein können, die sich ja
       genuin für den Menschen interessiert. Denn hinter diesen Maschinen stehen
       immer noch Menschen, menschliche Entscheidungen, menschliche Konflikte. 
       
       Das ist eine sehr grundlegende Frage. Viele Leute, vor denen ich Vorträge
       halte, kommen nach wie vor mit dieser irreführenden Position, dass es hier
       nur um Einsen und Nullen gehe, dass Technik immer neutral sei. Und das ist
       hochgradig schwierig.
       
       Hat sich daran etwas geändert in der Zeit, die Sie sich nun damit
       beschäftigen? Vor vier Jahren ungefähr gab es etwas Aufregung um diesen
       automatisierten Seifenspender, ich glaube, dann auch noch ausgerechnet bei
       Facebook: Der funktionierte unterschiedlich gut, je nach Hautfarbe der
       Nutzer*innen. Und den hatte ja [4][irgendjemand so programmiert]. 
       
       Es gab auch diesen Microsoft-Chatbot, der sich weiterentwickeln sollte
       durch Interaktion mit User*innen im Internet – und nach nicht mal 24
       Stunden [5][vom Netz genommen werden musste], weil er rassistisch und
       sexistisch geworden war. Aber ja, da ist eine Entwicklung zu sehen. Ich
       selbst, mit meiner Arbeit, wurde vor vielleicht sieben oder acht Jahren
       immer noch ein bisschen schräg angeschaut, wenn ich auf einmal auf Podien
       saß, neben Künstliche-Intelligenz-Leuten und vielleicht noch
       Rechtswissenschaftler*innen: Was macht eine Person, die sich um Philosophie
       kümmert, um Ethik, in dieser Runde?
       
       30 Aug 2022
       
       ## LINKS
       
   DIR [1] https://janinaloh.de/interviews-andere-aktivitaeten-interviews-other-activities/interviews/
   DIR [2] https://www.scientificamerican.com/article/asimovs-laws-wont-stop-robots-from-harming-humans-so-weve-developed-a-better-solution/
   DIR [3] /Archiv-Suche/!717725/
   DIR [4] /Philosophin-Judith-Simon-ueber-IT-Ethik/!5508564
   DIR [5] /Microsofts-Twitterbot/!5286773
       
       ## AUTOREN
       
   DIR Alexander Diehl
       
       ## TAGS
       
   DIR Roboter
   DIR Philosophie
   DIR Technologie
   DIR Hamburg
   DIR Ethik
   DIR Google
   DIR Politisches Buch
   DIR Oper
   DIR Sex
   DIR NSA
       
       ## ARTIKEL ZUM THEMA
       
   DIR KI-Expertin über Daten und Macht: „Die Branche ist eine Monokultur“
       
       Meredith Whittaker ist Expertin für Künstliche Intelligenz und wechselte
       von Google zur Signal Foundation. Ein Gespräch über das
       Überwachungs-Geschäftsmodell.
       
   DIR Verhaltensökonom Armin Falk: Todesfälle oder Menschenleben
       
       Das Gute wollen, aber letztlich Schlechtes tun? Der Verhaltensökonom Armin
       Falk zeigt, wann Menschen sich moralisch verhalten und wann nicht.
       
   DIR Science-Fiction-Oper in Hannover: Das Wollen der Androidin
       
       Wo künstliche Menschen geplant werden, geht die Geschichte oft schief.
       Sachte futuristisch erzählt davon die Oper „Humanoid“ in Hannover.
       
   DIR Forscherin über Sexroboter: „Robotik hat viel mehr Potenzial“
       
       Sexroboter sind ein Beispiel, wie technische Entwicklungen einem männlichen
       Kanon folgen. Das muss nicht so bleiben, sagt Forscherin Tanja Kubes.
       
   DIR NSA-Überwachung: „Wollen wir das wirklich?“
       
       Yvonne Hofstetter entwirft Algorithmen. Für private Konzerne oder
       Rüstungsfirmen. Ein Gespräch über die wachsende Macht der Maschinen.