URI: 

       # taz.de -- Ethikerin über Daten und KI: „Der Markt muss reformiert werden“
       
       > Datenwirtschaft dient bisher zu wenig dem Gemeinwohl. Christiane Woopen
       > will sie nach den Prinzipien der sozialen Marktwirtschaft regulieren.
       
   IMG Bild: Digitale Überwachung in China: Lebenschancen nach dem Scoring-System verteilen
       
       taz: Frau Woopen, warum brauchen wir eine Datenethikkommission? 
       
       Christiane Woopen: Das Leben der einzelnen Menschen und der Gesellschaft
       wird von Daten und technologischer Steuerung in allen Bereichen geprägt.
       Das führt einerseits dazu, dass wir effizientere Prozesse und innovative
       Produkte haben, es führt aber auch dazu, dass sich bestimmte Dinge
       paradigmatisch ändern – da müssen wir die rechtlichen Regelungen
       weiterentwickeln, um unsere grundlegenden Werte wie Freiheit und
       Gerechtigkeit zu erhalten und zu befördern.
       
       Was bedeutet das? 
       
       Es werden im Hintergrund Daten aus Bereichen zusammengeführt, die zuvor
       getrennt waren. Soll der Preis, den ich für eine Hotelübernachtung bezahle,
       von meinem Wohnort oder der Marke meines Computers abhängig sein, von dem
       aus ich das Hotel buche? Oder: Wenn Sie früher einen Hosenanzug kaufen
       wollten, haben Sie sich auf den Weg gemacht und ihn in unterschiedlichen
       Geschäften gesucht. Heute werden Sie auf Ihrem Bildschirm von dem
       Hosenanzug gefunden, während Sie eigentlich Zeitung lesen, weil Unternehmen
       aus Daten, deren Herkunft und Bewertung Sie nicht überschauen, [1][ein
       persönliches Profil von Ihnen erstellt haben] und dies für ihre
       kommerziellen Zwecke nutzen. Derselbe Mechanismus kann, wie wir es bei
       Wahlen gesehen haben, zu manipulativen Zwecken genutzt werden.
       
       Was bedeutet die Digitalisierung für unseren Alltag? 
       
       Sie hat etwa Auswirkungen darauf, wie jeder Einzelne sein Leben und wie die
       Gesellschaft Debatten führt. Zum Beispiel in den sozialen Medien. Man kann
       sich problemlos anonym äußern, also [2][ohne dafür Verantwortung zu
       übernehmen]. Akteure können massenweise Nachrichten verschicken, die von
       Chatbots kommen. Bei Telefonanrufen kann man sich nicht mehr sicher sein,
       ob man mit einem automatisierten System spricht oder einem Menschen. Wir
       brauchen mehr Transparenz, Kontrollierbarkeit und Selbstbestimmung, um den
       Einzelnen zu schützen.
       
       Im Netz hinterlässt jeder Datenspuren. Macht Ihnen das Angst? 
       
       Früher, in der Feudalgesellschaft, lag die Macht bei denen, die über
       Ländereien verfügten, in der Industriegesellschaft bei denen, die die
       Produktionsmittel besaßen. Und jetzt manifestiert sich in der
       Kapitalgesellschaft ein Machtwechsel hin zu denen, die über Daten und
       Technologien verfügen. Das führt zu einer Monopolisierung und damit zu
       einer vermeintlichen Deutungshoheit einiger weniger Akteure über das, was
       für unser aller Leben wünschenswert ist. Wir brauchen dringend eine
       Auseinandersetzung mit der Frage, wer in welchem Ausmaß von den Gewinnen
       aus der Verwertung von Daten profitieren sollte. Die derzeitigen
       Geschäftsmodelle scheinen mir nicht ausreichend dem Gemeinwohl und dem
       gesellschaftlichen Zusammenhalt zu dienen.
       
       Solche Technologien vereinfachen aber unser Leben. 
       
       Die Chancen, die eine wissenschaftlich fundierte Auswertung qualitativ
       guter Daten bietet, sind großartig. Ich sehe vielfältige Ansatzpunkte. Aber
       wir müssen darauf achten, dass wir den Fortschritt zum Beispiel in der
       Arbeitswelt so gestalten, dass wir Menschen Arbeitsplätze bieten, wo
       Technik und Mensch sinnvoll zusammenarbeiten können.
       
       Ist die Digitalisierung nicht eine wunderbare Chance, allen Menschen echte
       Teilhabe zu ermöglichen? 
       
       Man kann bei Youtube Vorlesungen hören. Wir können Menschen in entlegenen
       Landstrichen Zugang zu medizinischer Versorgung gewährleisten, wenn sie
       sich online in die Sprechstunde beim Arzt einwählen, ohne das Haus zu
       verlassen. Über digitale Medien können wir Menschen, die vorher am
       Arbeitsmarkt keine Chance hatten, Möglichkeiten eröffnen. Das alles kann
       das Leben vereinfachen und Perspektiven eröffnen.
       
       Aber? 
       
       Wir müssen etwa die Menschen, die in der Plattformökonomie arbeiten,
       schützen – zum Beispiel was ihren Zugang zu sozialen Sicherungssystemen
       angeht. Die Institutionen unseres Arbeitsmarkts zur Sicherung der
       Arbeitsrechte funktionieren hier zu einem erheblichen Teil nicht und müssen
       weiterentwickelt werden. Es muss auch klar sein, wer die Verantwortung beim
       Einsatz automatisierter Systeme wie den selbstfahrenden Autos trägt.
       
       Der digitale Markt wird von wenigen – vor allem US-amerikanischen – Firmen
       beherrscht. Für wie bedrohlich halten Sie das? 
       
       Der Markt muss dringend neugestaltet werden, und zwar nach den Prinzipien
       der sozialen Marktwirtschaft. Es darf beispielsweise nicht sein, dass
       einige wenige durch die Programmierung der Suchmaschine und unter dem
       Diktat werbegesteuerter Geschäftsmodelle darüber entscheiden, welche
       Informationen wir unmittelbar bekommen, und welche nicht oder allenfalls
       mühsam. In einer Demokratie muss Vielfalt gewährleistet sein. Sie darf
       nicht von einigen wenigen Daten- und Technologiemonopolen ausgebremst
       werden.
       
       Das Geschäftsmodell dieser Konzerne ist der gläserne Mensch. Und die
       Nutzer*innen lassen sich darauf ein. 
       
       Das stimmt, aber gleichzeitig wächst das Unbehagen darüber und das lähmende
       Gefühl der Machtlosigkeit. In unserem Kulturkreis besteht immerhin das
       starke Bewusstsein über die Bedeutung von Freiheit, Selbstbestimmung,
       Gerechtigkeit und Privatsphäre. Das ist hoffentlich ein Treiber für mehr
       Technologieentwicklung und Angebote auf dem Markt, die Datensouveränität
       unterstützen. Große Sorgen aber machen mir die Entwicklungen in China.
       [3][Dort will der Staat Bürger anhand eines Scoring-Systems bewerten] und
       ihnen gemäß dem Score Lebenschancen zuteilen, also etwa die Möglichkeit zu
       reisen, den gewünschten Job zu bekommen, Versicherungen abzuschließen oder
       aber auch die Kinder auf eine bestimmte Schule schicken zu können. Eine
       Gegenbewegung aus der Mitte der Gesellschaft heraus scheint es dort nicht
       zu geben. Die Datenethikkommission befürwortet technologischen Fortschritt
       und Innovation mit dem Ziel, die individuellen Entfaltungsmöglichkeiten,
       den gesellschaftlichen Wohlstand sowie die Solidarität im Rahmen einer
       freiheitlich demokratischen Grundordnung zu fördern.
       
       5 Oct 2018
       
       ## LINKS
       
   DIR [1] /Berechnung-des-Alltags/!5243063
   DIR [2] /Kommentar-Hatespeech-auf-Facebook/!5392817
   DIR [3] /Social-Scoring-in-China/!5480926
       
       ## AUTOREN
       
   DIR Tanja Tricarico
       
       ## TAGS
       
   DIR Daten
   DIR Algorithmen
   DIR Ethik
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Lesestück Recherche und Reportage
   DIR Algorithmen
   DIR Suchmaschine
   DIR Schwerpunkt Meta
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Bundesregierung
       
       ## ARTIKEL ZUM THEMA
       
   DIR Essenslieferdienste in der Corona-Krise: Alles frei Haus, bitte
       
       Essenslieferdienste sind gerade beliebt wie nie. Die Branche ist bekannt
       für prekäre Arbeitsbedingungen. Ein Kollektiv will nun vieles anders
       machen.
       
   DIR Automatisierung im Alltag: Rettet Künstliche Intelligenz die Welt?
       
       Die Bundesregierung hat sich zur Künstlichen Intelligenz viel vorgenommen.
       Nun startet der Digitalgipfel.
       
   DIR Kommentar Anonymes Surfen: Keine Ausreden mehr
       
       Seine Daten im Netz auch eigenverantwortlich zu schützen ist heute viel
       einfacher als früher. Hilfsmittel gibt es genug.
       
   DIR Debatte Datenschutzpanne bei Facebook: Gefährlich praktisch
       
       Facebook kreiert immer neue Datenskandale, Besserung ist nicht in Sicht. Im
       Zweifel können sie einem das Leben ruinieren. Was tun? Gehen oder bleiben?
       
   DIR Debatte über Künstliche Intelligenz: Fatale Schlagseite
       
       Die Gesellschaft muss sich beim Thema KI stärker einmischen. Vor allem beim
       Gestalten der sich jetzt bildenden Anwendungsstrukturen.
       
   DIR Kommentar KI-Strategie der Regierung: Ratlose Intelligenz
       
       Die Bundesregierung will ganz vorne sein bei der Entwicklung der
       Künstlichen Intelligenz. Der Schutz privater Daten kümmert sie wenig.