URI: 

       # taz.de -- Debatte Künstliche Intelligenz: Wunderwaffe als Herrschaftssystem
       
       > Haushalt, Verkehr, Militär: Die Diskussion um KI-gesteuerte Maschinen
       > wird vielfältiger. Nur: Wie intelligent ist „künstliche Intelligenz“?
       
   IMG Bild: Dumm, dümmer, KI? Oder doch eher: Nur so dumm oder schlau, wie die Menschen, die sie programmieren?
       
       Die [1][sogenannte künstliche Intelligenz (KI)] ist derzeit in aller Munde.
       Computer, die Menschen nachahmen: Bei der KI handelt es sich um eine
       vielversprechende neue Technologie. Ihre Anwendung wird aber auch Alltag
       und Gesellschaft radikal verändern. Sorgen bereiten sollte uns dabei
       weniger die Technik selbst als vielmehr die Tatsache, dass sie von den
       größten Unternehmen der Menschheitsgeschichte entwickelt und gestaltet
       worden ist, die sie auch künftig betreiben wollen.
       
       Diese Unternehmen beeinflussen damit auch wesentlich, was KI kann und was
       nicht, wofür sie benutzt werden wird und wofür nicht. Denn wie man auch an
       Dieselautos, Kriegswaffen oder dem Internet sieht, gibt es nicht die
       Technik, sondern jeweils ganz unterschiedliche Versionen und
       Entwicklungspfade.
       
       In der Öffentlichkeit werden meist die möglichen Vorteile von künstlicher
       Intelligenz dargestellt und dann immer nur deren unmittelbare soziale
       Folgen diskutiert, wie am Beispiel des KI-gesteuerten autonomen Autos: Es
       heißt, wir könnten künftig lesen oder mit den Kindern spielen, während wir
       an unsere Ziele gefahren werden. Es gebe dank KI und Vernetzung der Autos
       auch weniger Unfälle und weniger Staus.
       
       Ob das stimmt, muss sich erst noch zeigen. Ausgeblendet wird dabei aber,
       dass die zukünftige Bedeutung von KI sich nicht auf selbstfahrende Autos
       beschränkt. Ein besonders kritischer Punkt ist eine [2][möglicherweise
       militärische Nutzung]. Parallel zu selbstfahrenden Autos werden
       selbstfahrende Panzer, selbstständig kämpfende Roboter und selbst
       organisierte Drohnen für Überwachung und Luftangriffe entwickelt und
       gebaut.
       
       Die Technologie soll außerdem voraussagen können, wo demnächst welche
       Verbrechen begangen werden und wen man am besten schon vorher verhaftet. In
       China werden künftig die Einwohner KI-gestützt mit Punkten bewertet, damit
       der Staat die guten von den schlechten Bürgern unterscheiden kann. [3][Wozu
       wohl?] Bald werden auch Start-ups gegründet werden, die Journalisten und
       womöglich Politiker durch KI ersetzen, kann KI doch viel preiswerter
       Artikel schreiben und Entscheidungen viel effizienter treffen.
       
       ## Technik und die Interessen der Entwickler
       
       Derzeit erinnert die öffentliche Diskussion insgesamt daran, wie einst die
       Atomkraft eingeführt wurde: Alles wird technisch prima, und den Rest
       kriegen wir auch noch hin. Wir brauchen aber stattdessen eine
       grundsätzliche Debatte und auf breiter Ebene eine Verständigung darüber,
       wie wir als Gesellschaft mit künstlicher Intelligenz umgehen wollen. Wie
       kann KI zu Demokratie und Frieden, zur Achtung der Menschenrechte und zur
       Selbstverwirklichung beitragen statt nur zu maximalen Gewinnen von
       Facebook, Google und Apple?
       
       Im öffentlichen Dialog wird ausgeblendet, dass Technik immer längs der
       Interessen der Entwickler entsteht und auch nicht einfach zu einer
       Gesellschaft dazukommt, sondern dass sie in die Gesellschaft
       hineinorganisiert werden muss. Davon hängt es aber vor allem ab, wie sie
       sich auf Gesellschaft, Demokratie und Zusammenleben auswirkt.
       
       Autos waren einmal eine solche Neuheit. Sie benötigten Straßen,
       Verkehrsregeln, Parkplätze, Fabriken, Tankstellen. Die in diesem Kontext
       entstandenen Konzerne verdienen sich heute noch mit immer mehr Autos und
       deren Nutzung dumm und dämlich. Der öffentliche Raum und die Atemluft der
       Menschen wurden dabei auf rücksichtslose Weise zerstört. Ähnliche
       Entwicklungen lassen sich bei der Atomkraft aufzeigen, die letztlich nur
       durch die Einschränkung bürgerlicher Rechte durchgesetzt werden konnte. Und
       die Computertechnologie entstand mit dem Versprechen, neue
       Kommunikationsformen, bessere soziale Beziehungen und mehr Teilhabe möglich
       zu machen.
       
       Anfangs gab es dann beispielsweise selbst organisierte lokale soziale
       Netze, die den Menschen und ihrem Zusammenleben dienten. Heute ist das
       alles von dem Datenkraken Facebook verschluckt und monopolisiert, der mit
       „Social Media“ völlig irreführend bezeichnet wird. Denn den Betreibern geht
       es um Geld und Macht, die sie sich dadurch sichern, dass sie die
       Kommunikation ihrer Nutzerinnen und Nutzer auf ihr Geschäftsmodell hin
       optimieren. Es besteht darin, sie an eine wahre Werbeflut zu verkaufen.
       
       ## Gefährliche Monopole
       
       Auch auf anderen Feldern sind gefährliche Monopole entstanden: Google
       kontrolliert unser Wissen, Amazon die materiellen Bedürfnisse, YouTube und
       Instagram bestimmen unsere Bilderwelten. Zusammen mit einigen weiteren
       weltweit tätigen Internetgiganten setzten sie sich heute immer
       aufdringlicher im Leben der Menschen fest, indem sie mehr und mehr Bereiche
       menschlichen Kommunizierens und Handelns organisieren und kontrollieren.
       
       Jetzt kommt die künstliche Intelligenz auf uns zu. Da sollten wir nicht bei
       der Diskussion versprochener Vorteile stehen bleiben. Am Beispiel von
       KI-gesteuerten Autos sollten wir vielmehr fragen: Von wem und wie werden
       das Verkehrswesen, der öffentliche und städtische Raum und unsere
       Umweltbedingungen künftig organisiert? Wir werden jedenfalls keinen wie
       bisher von der Kommunalpolitik bereitgestelltenen öffentlichen Nahverkehr
       mehr haben. Niemand sollte davon träumen, dass er künftig statt im Bus
       bequem im selbstfahrenden Elektro-Mercedes zu seinem Ziel geschaukelt wird.
       
       Vielmehr wird es große und kleine, schnelle und langsame, bequeme und
       unbequeme, pünktliche und unpünktliche, jedenfalls teure und noch teurere
       Beförderungsmodi geben, und alle Fahrzeuge werden statt Fenstern
       Bildschirme haben, über die lauthals personalisierte Werbung läuft. Denn
       auch hier werden gigantische international tätige Firmen wie Uber die Sache
       gewinnbringend in die Hand nehmen – und zu deren Geschäftspraktiken gehören
       bekanntlich Rechtsbrüche, Kundenbetrug, Mitarbeiterausbeutung und jede
       Menge Druck auf Politik und Öffentlichkeit. Auf Fußgänger, Fahrradfahrer
       und sonstige kulturelle Besonderheiten werden sie dabei kaum Rücksicht
       nehmen.
       
       In Zukunft werden auch immer mehr menschliche Lebensbereiche KI-gestützt
       neu organisiert werden: die Bildung, die Musik und Unterhaltungsbranche,
       sicher auch die Bürokratie, die halt noch etwas länger braucht. Der Handel
       optimiert den Umgang mit seinen Kunden, in den Betrieben werden
       Arbeitsprozesse von Computern übernommen, Polizei und Justizverwaltung
       erproben KI für Aufklärung, Kontrolle und Fahndung. Im Gesundheitsbereich
       soll KI Epidemien voraussagen, medizinische Diagnosen stellen und dem
       Chirurgen das Skalpell führen. KI kann aber auch unerwünschte Kranke
       aussortieren oder als Querulanten eingestufte Patienten blockieren: Je nach
       Programmierung können die jeweiligen Geschäftsmodelle auf attraktive oder
       auf grauenhafte Weise durchgesetzt werden.
       
       ## Lauschende Wunschmaschinen
       
       Grundsätzlich geht es darum, dass KI manches übernehmen kann, was bisher
       nur Menschen leisten konnten. Derartige KI-gesteuerte Algorithmen operieren
       aber völlig intransparent. Die Betroffenen werden nicht gefragt, es gibt
       keine wirksame rechtliche oder demokratische Kontrolle. So gut wie niemand
       weiß beispielsweise heute, welche Daten sein oder ihr Auto bereits
       aufzeichnet und was damit geschieht. Auch werden in immer mehr Haushalten
       KI-gesteuerte Smartspeaker wie Siri, Alexa oder der Google Assistant als
       Familienmitglieder aufgenommen, aber es bleibt völlig unklar, was genau
       diese lauschenden Wunschmaschinen eigentlich tun.
       
       Insgesamt sollten wir davon ausgehen, dass die von weltweit agierenden
       Monopolen kontrollierte KI sich von einer eigentlich menschenfreundlichen
       Technik derzeit zum Kern eines neuen Herrschaftssystem entwickelt, mittels
       dessen der Kapitalismus alle lohnenden Bereiche des menschlichen Lebens
       durchdringt und kolonisiert.
       
       Fassen wir nun zusammen: Nicht KI oder ihre möglichen Vorteile sind das
       Entscheidende, das wir diskutieren müssen. Vielmehr geht es um die Frage,
       wie und wozu sie entwickelt und in die Gesellschaft hineinorganisiert und
       betrieben wird. Sie kann helfen – und sie kann unterdrücken. Wenn die
       Internetgiganten die Bürgerinnen und Bürger erst einmal zum Objekt
       KI-gesteuerter Algorithmen gemacht haben, wird das nur schwer zu ändern
       sein.
       
       Aber die zukünftige Entwicklung der Menschheit darf so nicht festgelegt
       werden. Die Verwendung von KI muss vielmehr mithilfe des Staates
       demokratisch und unter wesentlicher Beteiligung der Zivilgesellschaft
       gestaltet werden.
       
       ## Künstliche „Intelligenz?“
       
       Ein erster Schritt dazu könnte es sein, sich klarzumachen, dass der Begriff
       der künstlichen Intelligenz seit den 1950er Jahren, als noch ehrfürchtig
       vom „Elektronengehirn“ die Rede war, eine völlig übertriebene
       Vermenschlichung von Computern beinhaltet. Gewiss, Computer, die ihre
       Aufgaben mithilfe von KI erledigen, können viele Probleme oft schneller
       und systematischer erledigen als Menschen. Von daher sind sie ein
       effizientes Instrument, und für so zu bearbeitende Probleme sollten wir sie
       benutzen.
       
       Aber es sind nur ganz bestimmte Probleme, die mittels KI, also letztlich
       mit statistischen Verfahren auf hypothetischer Ebene gelöst werden können.
       Computer haben keinen Körper und machen keine Erfahrungen, sie wissen
       nichts von Gendergerechtigkeit, Empathie, Solidarität oder Ethik. Sie
       können zwar Daten übertragen und menschliche Sprache verwenden, aber das
       ist kein Kommunizieren, nur eine Simulation menschlichen Kommunizierens.
       Sie können nicht verstehen und auch nicht lernen. Von daher sollten wir
       nicht von künstlicher Intelligenz sprechen, sondern von
       Problemlösekapazität. Sonst vernebelt diese falsch verstandene Technik doch
       noch das menschliche Denken.
       
       13 Jan 2019
       
       ## LINKS
       
   DIR [1] /kuenstliche-Intelligenz/!t5025529
   DIR [2] /Petition-der-Woche--autonome-Waffen/!5521072
   DIR [3] /Big-Data-und-Ueberwachung-in-China/!5431172
       
       ## AUTOREN
       
   DIR Friedrich Krotz
       
       ## TAGS
       
   DIR Kampfdrohnen
   DIR Killerroboter
   DIR Lesestück Meinung und Analyse
   DIR Roboter
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Schwerpunkt Nahost-Konflikt
   DIR USA
   DIR Alexa
   DIR Alexa
   DIR China
   DIR Florian Butollo
   DIR Verbrennungsmotoren
   DIR Affen
   DIR Lesestück Interview
   DIR Publikationen
       
       ## ARTIKEL ZUM THEMA
       
   DIR Israel nutzt KI-System Lavender in Gaza: 20 Sekunden für Leben oder Tod
       
       Die israelische Armee setzt für die Suche nach Hamas-Kämpfern auf eine KI.
       Sie agiert fast autonom, nimmt zivile Opfer in Kauf und verdächtigt
       Zehntausende.
       
   DIR Observatorium für künstliche Intelligenz: Bundesregierung überwacht KI
       
       Das Arbeitsministerium plant ein „KI-Observatorium“, um künstliche
       Intelligenz zu regulieren. Wie das genau gehen soll, weiß sie selbst noch
       nicht.
       
   DIR Aufnahmen von Siri und Alexa: Anhören oder abhören
       
       Smarte Geräte schneiden mit, was ihnen gesagt wird, und die Anbieter lassen
       das transkribieren. Genau das ist der Job unserer Autorin.
       
   DIR Überwachung von Smart-Home-Geräten: Alexa soll Zeugin werden
       
       Innenminister Seehofer will, dass Sprachassistenten abgehört und die Daten
       als Beweise verwendet werden dürfen. Datenschützer schlagen Alarm.
       
   DIR Automatisierte Arbeit in China: Roboter verdrängen Wanderarbeiter
       
       Die Automatisierung führt zu deutlichem Job-Abbau. Zu Beginn der
       chinesischen Feiertage sind viele Wanderarbeiter gekündigt worden.
       
   DIR Soziologe über Künstliche Intelligenz: „Soviel Zeit nehmen wie nötig“
       
       Florian Butollo erklärt die Grenzen Künstlicher Intelligenz. Der
       Arbeitswissenschaftler ist Mitglied der gleichnamigen Enquetekommission.
       
   DIR Jürgen Trittin über Klimaschutz in China: „Europa muss antworten“
       
       Klimaschutz wird in China stark vorangetrieben, sagt der Grünen-Politiker
       Jürgen Trittin. Er will mehr Kooperationen.
       
   DIR Die Wahrheit: Wahn unter Wolldecken
       
       Vom Affen lernen, heißt glücklich werden. Das Wahrheit-Interview zu
       künstlicher Stupidienz und der Zukunft der Dummheit.
       
   DIR Aus taz FUTURZWEI: „Flugtaxis sprengen Ihre Fantasie“
       
       Wie sehen Sie künstliche Intelligenz, Dorothee Bär? Die
       Digital-Staatsministerin über Ängste, Konservativismus und die digitale
       Erziehung ihrer Kinder.
       
   DIR Studie über Publikationen: Länderranking in der KI-Foschung
       
       Die KI-Forschung boomt. Die Anzahl der Publikationen nimmt rasant zu, die
       meisten kommen aus Europa. Danach folgt China.