URI: 

       # taz.de -- Technikforscher über neue Intelligenz: „Eine typische Vermenschlichung“
       
       > Die Rechenleistung von Maschinen überholt das menschliche Gehirn. Von
       > „neuer Intelligenz“ will Technikforscher Christopher Coenen nicht
       > sprechen.
       
   IMG Bild: Vor denen müssen wir wohl eher keine Angst haben. (Archivbild 2003)
       
       taz.am wochenende: Herr Coenen, Sie bearbeiten mit Kollegen vom [1][Büro
       für Technikfolgenabschätzung beim Deutschen Bundestag (TAB)] momentan ein
       Projekt zum Thema „Mensch-Maschine-Entgrenzung“. Hat die Politik Angst vor
       Künstlicher Intelligenz?
       
       Christopher Coenen: Von Angst würde ich nicht sprechen. Aber manche
       Abgeordnete sind besorgt und fragen sich, was sich in der Neuro- und in der
       KI-Forschung entwickelt. Sie interessieren sich auch für die aktuellen
       Diskussionen um [2][Cyborgs, also Mensch-Technik-Verschmelzungen], und um
       Künstliche Intelligenz (KI). Die Politiker wollen wissen, ob diesen
       „transhumanistischen“ Diskussionen realistische Zukunftsbilder zugrunde
       liegen.
       
       Der Informatiker Jürgen Schmidhuber, der zu Künstlicher Intelligenz
       forscht, glaubt, dass in wenigen Jahrzehnten ein einziger Computer die
       Rechenkraft der ganzen Menschheit haben wird. 
       
       Zweifellos wird die Rechenleistung weiter schnell wachsen. Das ist eine
       überzeugende Prognose.
       
       Schmidhuber sagt, das stelle den Menschen als Krone der Schöpfung infrage. 
       
       Ich glaube nicht, dass dies ein zutreffendes Bild ist. Diese Angst-Lust
       teile ich nicht, dass da etwas kommt, das uns zerstört oder erlöst von
       unserer metaphysischen Einsamkeit im All.
       
       Verharmlosen Sie damit nicht die Entwicklung? 
       
       Es stimmt, dass die Systeme immer komplexer werden und von den Menschen zum
       Teil gar nicht mehr zu verstehen sind. Sie könnten auch außer Kontrolle
       geraten. Aber ich sehe nicht, dass daraus eine [3][gänzlich neue Form der
       Intelligenz] entsteht.
       
       Sie sehen also keine Anhaltspunkte dafür, dass Künstliche Intelligenz ein
       Selbstbewusstsein entwickeln kann? 
       
       Nein. Wir haben ja schon kein gutes Verständnis davon, warum wir selbst
       selbstbewusst sind. Ein denkendes Wesen mit Bewusstsein und einer
       Persönlichkeit wie HAL aus „2001 – Odyssee im Weltraum“ – sehe ich nicht
       entstehen.
       
       Was ist der Unterschied zwischen Intelligenz und Selbstbewusstsein? 
       
       Selbstbewusstsein ist das Wissen um die eigene Existenz, die Fähigkeit,
       sich selbst und seine Handlungen zu reflektieren. Das ist etwas anderes als
       Rechenleistung. Wie soll aus der Quantität eine neue Qualität werden?
       
       Würden Sie also sagen, Maschinen können nur instrumentelle Vernunft
       erlernen? 
       
       Auch wenn quasi eine andere Art von Vernunft in sie hineingebaut würde,
       blieben es letztlich Instrumente. Diese Vernunft bliebe deshalb also immer
       zweckrational.
       
       Der Historiker Philip Mirowski spricht schon heute von einer
       Cyborg-Ökonomie. 
       
       Ja, aber das ist etwas anderes: Soziotechnische Systeme, wie das in der
       Soziologie genannt wird, werden auf jeden Fall immer komplexer. Ein
       Beispiel ist die Börsenwelt. Die Händler verstehen nicht mehr, wie ihre
       Systeme funktionieren.
       
       Heißt das, wir sind schon heute der Technik unterworfen? 
       
       In gewisser Hinsicht konnten wir uns noch nie unabhängig von Technik
       definieren. Das Smartphone, das unser Gespräch hier aufzeichnet, bestimmt
       unser Verhalten mit. Der Mensch ist das Technik nutzende Wesen.
       
       Viele Wissenschaftler sind von den Möglichkeiten der Künstlichen
       Intelligenz, die sie in Zukunft erwarten, begeistert. Andere warnen: Die KI
       könnte das Ende der Menschheit einläuten. 
       
       Aber beide Aussagen kommen aus dem gleichen, stark transhumanistisch
       geprägten Milieu. Diejenigen, die Diskussionen über solche existenziellen
       Risiken anfachen, erhoffen sich zugleich besonders viel von der Künstlichen
       Intelligenz. Beispielsweise der [4][Internetunternehmer Elon Musk] oder der
       [5][Philosoph Nick Bostrom]. Das ist die Aufmerksamkeitsökonomie: In dieser
       ist es fast egal, ob du sagst, irgendeine Entwicklung kann die Welt retten
       oder vernichten. Ähnliches findet sich bei den Diskussionen um synthetische
       Biologie oder Nanotechnologie: Neuerschaffung oder Untergang der Welt.
       
       Utopie und Dystopie liegen nah beieinander. Wo verorten Sie sich? 
       
       Aus der Perspektive der Technikfolgenabschätzung würde ich sagen: Da tun
       sich viele interessante Dinge, aber radikal Umstürzendes im
       transhumanistischen Sinn sehe ich nicht. Trotzdem habe ich seit Monaten
       fast jede Woche eine Interviewanfrage zu dem Thema. Es ist ein Hype.
       
       Wie erklären Sie sich das? 
       
       Wir haben umstürzende Veränderungen in unserer Realität, eine vollkommene
       Technisierung des Soziallebens, angefangen mit dem Babyphone und endend mit
       dem virtuellen Friedhof. Das beunruhigt uns. Wenn wir über Gefahren von
       Künstlicher Intelligenz in der Zukunft sprechen, geht es eigentlich um
       unsere Gegenwart.
       
       Computersysteme können heute selbst lernen. Ist das nicht eine andere
       Qualität als ein Babyphone? 
       
       Sicherlich, aber der Mainstream der KI-Forscher unterscheidet zu Recht
       zwischen Maschinenlernen und den übertriebenen Visionen zu Künstlicher
       Intelligenz. Die Forschung kann sich zum Teil daran orientieren, wie das
       menschliche Gehirn funktioniert, aber es geht nicht um die Erschaffung
       neuer Wesen. Viele KI-Forscher sind irritiert über die aktuelle Diskussion.
       Die fragen sich: Kommt jetzt wieder eine Debatte, die dem Ansehen des Fachs
       schadet, wie es sie bis Mitte der 1990er Jahre mehrfach gegeben hat?
       
       Aber seitdem hat sich in der Forschung viel getan. Mittlerweile können
       Geräte sogar unsere Gefühle erfassen und simulieren. 
       
       Das stimmt zum Teil. Aber das heißt ja nicht, dass uns etwas gegenüber
       sitzt, das selbst fühlt. Im Alltag gibt es schon KI, die Gefühle simuliert:
       Datingportale nutzen zum Beispiel Bots, die dem Nutzer antworten, und der
       denkt, er spricht mit seiner Traumfrau. Aber dieser Bot ist doch trotzdem
       nicht jemand, der sich fragt, warum er existiert und ob es einen Gott gibt.
       
       Die Künstliche Intelligenz kann also unkontrollierbar werden, aber nicht
       die Macht ergreifen. 
       
       „Die Macht ergreifen“, das ist so eine typische Vermenschlichung. Es gibt
       das Gedankenspiel des Philosophen Bostrom von einer Künstlichen
       Intelligenz, die erschaffen wurde, um Büroklammern herzustellen. Und dann
       ordnet diese Künstliche Intelligenz alles dem Ziel unter, Büroklammern
       herzustellen. Das endet in einem Universum, das vollständig in Büroklammern
       umgearbeitet ist.
       
       Klingt unwahrscheinlich. 
       
       Ja, aber es können Systeme geschaffen werden, denen Ziele eingebaut sind,
       und wir Menschen unterwerfen uns solchen Systemen. Das kann auch eine
       positive Vision sein.
       
       Eine Büroklammern-Maschine ist ja nicht die gefährlichste Vision. Auch im
       Militär wird an der KI geforscht. In einem [6][offenen Brief] hat der
       berühmte Physiker Stephen Hawking zusammen mit mehr als 16.000 anderen
       Wissenschaftlern vor einer „dritten Revolution“ in der Waffentechnik
       gewarnt – nach dem Schwarzpulver und der Nukleartechnik.
       
       Die Beunruhigung ist verständlich, weil es um existenzielle Entscheidungen
       geht – Leben oder Tod. Wenn wir an diese Geräte Entscheidungen übertragen,
       hat das im militärischen Bereich eine andere Qualität als eine
       Konsumempfehlung.
       
       Wo sollten wir der KI Grenzen setzen? 
       
       Wir sollten keine Entscheidungen, bei denen es um Leben und Tod geht, durch
       technische Prozesse ersetzen. So neu ist das Problem aber nicht.
       
       Warum? 
       
       Schon heute ist es Realität, etwa in der Medizin oder an der Börse, dass
       Entscheidungen auf der Basis technisch erzeugter Handlungsempfehlungen
       getroffen werden. Der Mensch versteht nicht, wie es zu den Empfehlungen
       kommt, und muss sich darauf verlassen.
       
       Wir haben die Grenze also längst überschritten. 
       
       Ja. Aber weiterhin wichtig ist, dass solche Prozesse möglichst transparent
       sind. Das wäre eine Art ethische Leitlinie. Das ist in der Realität
       allerdings nicht immer möglich. Wenn wir sehr schnell eine Entscheidung
       treffen müssen, dann vertrauen wir darauf, dass Technik von gutwilligen
       Menschen so eingerichtet wurde, dass wir geeignete Entscheidungsgrundlagen
       erhalten. Aber dann bleibt es trotzdem noch unsere Entscheidung, was wir
       tun.
       
       Im 19. Jahrhundert haben Arbeiter Maschinen zerstört, weil sie Angst
       hatten, überflüssig zu werden. Kommt der Kampf zwischen Mensch und Maschine
       zurück? 
       
       Nein, es ist auch heute noch ein Kampf zwischen Menschen um Ressourcen. Wir
       müssen uns die Frage stellen, was wir aus dem technischen Fortschritt und
       dem Produktivitätszuwachs machen. Wir sind nah dran, dass fast alle
       stupiden Arbeiten von Maschinen übernommen werden können. Klar ist, dass
       viele Jobs wegfallen und durch Technik ersetzt werden, um Kosten zu sparen.
       Es ist eine politische Frage, wie wir damit umgehen.
       
       11 Sep 2015
       
       ## LINKS
       
   DIR [1] http://www.tab-beim-bundestag.de/de/
   DIR [2] /!5056686/
   DIR [3] /!5040153/
   DIR [4] /!5214394/
   DIR [5] http://www.faz.net/aktuell/feuilleton/buecher/nick-bostrom-zukunftsdenker-die-superintelligenz-ist-gar-nicht-super-13329615.html
   DIR [6] http://futureoflife.org/AI/open_letter_autonomous_weapons
       
       ## AUTOREN
       
   DIR Kersten Augustin
   DIR Bigna Fink
       
       ## TAGS
       
   DIR Cyborg
   DIR Technologie
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Computer
   DIR Nick Bostrom
   DIR Stephen Hawking
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Gehirn
   DIR Schwerpunkt Überwachung
   DIR Hacking
   DIR Drohnen
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Cyborg
   DIR Gehörlose
   DIR Cyborg
       
       ## ARTIKEL ZUM THEMA
       
   DIR Neues Buch von Nick Bostrom: Würde in der Matrix
       
       Der Blick des Philosophen und Politikberaters Nick Bostrom in die Zukunft
       gleicht einer Science-Fiction. Mit beängstigenden Implikationen.
       
   DIR Astrophysiker warnt vor Weltuntergang: Hawking misstraut dem Fortschritt
       
       Eindringlich warnt Stephen Hawking vor den tödlichen Gefahren des
       Fortschritts – ob künstliche Intelligenz oder Gentechnik. Und nennt sich
       trotzdem Optimist.
       
   DIR Künstliche Intelligenz: Professor Helbing und seine Mission
       
       Dirk Helbing will mit künstlicher Intelligenz die Welt handhabbar machen.
       Der Physiker knüpft dazu seit Jahren weltweit ein Netzwerk.
       
   DIR US-Studie zu Fliegengehirnen: Was Fliegen riechen
       
       Banane oder Jasmin? WissenschaftlerInnen können dank leuchtender Moleküle
       nachweisen, was Fliegen riechen und fühlen.
       
   DIR Künstliche Intelligenz: Mensch, gib mir deine Daten
       
       Die Entwicklung künstlicher Intelligenz ist ein altes Militärprojekt. Nun
       sprechen Forscher von einer Revolution. Gefahr oder Chance?
       
   DIR Bodyhacking: „Der Körper wird digital stimuliert“
       
       Die italienische Hackerin Tatiana Bazzichelli fordert mehr Lust beim
       Hacken. Ein Gespräch über Cyborgs, Sex-Toys und politische Neugier.
       
   DIR Robotik und Gesellschaft: Revolution der Maschinenwesen
       
       Autonom agierende Maschinen werden in vielen Bereichen den Menschen
       ersetzen. Sie sollen Pflegedienste übernehmen und Kampfroboter sein.
       
   DIR Künstliche Intelligenz im Turing-Test: „Captain Cyborg“
       
       Angeblich hat ein Computer den Turing-Test bestanden und künstliche
       Intelligenz bewiesen. Doch es sind Zweifel angebracht.
       
   DIR Mensch und Maschine: Terminator mit menschlichem Antlitz
       
       Schritt für Schritt bauen sie ihren Körper mit Technik aus. Sogenannte
       Cyborgs erfreuen sich in Berlin einer kleinen, aber regen Community.
       
   DIR Eintauchen bei den Gehörlosen: Zwischen Genozid und Cyborgs
       
       Gehörlose diskutieren im Netz rege über ihr Verhältnis zum Rest der
       Gesellschaft. Gibt es ein Recht auf Taubheit? Oder sollte man gleich Cyborg
       werden?
       
   DIR Verschmelzen von Körper und Maschine: Wir Cyborgs
       
       Die Datenbrille Google Glass zeigt, wie wenig Technik und Mensch noch
       trennt. Doch die Symbiose aus Körper und Maschine geht noch viel weiter.
       Ein kurzer Scan.