URI: 
       # taz.de -- Diskriminierende KIs: „Zeigen den Status quo von gestern“
       
       > Queere Menschen werden durch Künstliche Intelligenz oft diskriminiert.
       > Sowohl Technologie an sich, als auch die Entstehungsbedingungen sind
       > schuld.
       
   IMG Bild: Männlichen Stereotypen oft Teil unserer Vorstellung: der humanoide Roboter REEM B in einem Entwicklingszentrum in Barcelona
       
       taz: Wie kann eine KI queer sein, Frau Morais dos Santos Bruss? 
       
       Sara Morais dos Santos Bruss: Der Begriff ist entstanden aus einer
       Frustration über eine sehr enge Vorstellung von [1][künstlicher
       Intelligenz]: die Vorstellung, dass es eine bestimmte Wahrheit gibt und KI
       eine Art von universell gültigem Wissen produziert. Wir sollten aber
       verstehen, dass Fragen der Repräsentation oder des Geschlechts ambivalent
       und im Wandel sind. Im Sinne der Queeren KI wollen wir uns anschauen, wie
       sich Technologie auf den Körper auswirkt, das heißt auf bestimmte Menschen
       eben unterschiedlich wirkt.
       
       Haben Sie ein Beispiel? 
       
       Bei einem Software-Unternehmen gab es einen [2][Algorithmus, der
       Bewerbungen von Frauen schlechter bewertet] hat, weil bei diesem
       Unternehmen sehr viele Männer gearbeitet haben. In Bezug auf queere
       Identitäten gab es den Fall bei Uber, wo eine Gesichtserkennung-Software
       eingesetzt wurde, die trans Menschen nicht korrekt identifizieren konnte
       und damit von deren Arbeit ausgeschlossen hat.
       
       In dem wissenschaftlichen Sammelband „Queere KI“, den Sie mitherausgegeben
       haben, steht der Satz: „KI wird als Superintelligenz gesehen und mit einem
       weißen, männlichen, rationalen Subjekt gleichgesetzt.“ Wo macht sich das
       noch bemerkbar? 
       
       Wenn man künstliche Intelligenz in der Bildersuche eingibt, sind die
       Suchergebnisse sehr einheitlich: Die Bilder zeigen einen weißen Roboter vor
       blauem Hintergrund. Dadurch wird ein Stereotyp herausgebildet, bei dem das
       Männliche wieder mit dem Kalten und Rationalen verbunden wird. Oder es wird
       ein Gehirn mit einem Schaltkreis gezeichnet. Die Bilder von KI sind geprägt
       von einer sehr vermenschlichten Sci-Fi-Ästhetik. Unsere Vorstellung von KI
       würde aber sehr konkreter werden, wenn man zum Beispiel einen humanoiden
       Roboter abbilden würde, der wirklich existiert. Gleichzeitig gibt es KI,
       die vergeschlechtlicht vermarktet wird, bei Dating-Apps zum Beispiel.
       
       Inwiefern? 
       
       Diese Apps sind unterschiedlich codiert, und das hat mit Vorstellungen zu
       tun, wie Menschen mit einer bestimmten Geschlechtszugehörigkeit agieren.
       Die [3][Dating-App Grindr], die vor allem von schwulen Männern genutzt
       wird, funktioniert primär über GPS und ortsbasierten Services – im
       Gegensatz zu Apps, die eher ein heterosexuelles Publikum ansprechen. Daraus
       lassen sich bestimmte Vorstellungen von sexuellem Verhalten schlussfolgern,
       etwa, was das Wichtigste an dem akuten Begehren ist.
       
       Es ist auffällig, dass KI-Stimmen wie Alexa oder Siri weiblich sind. Was
       ist daran problematisch? 
       
       Die beruhen auf einer Vorstellung, die anknüpft an eine Rolle der
       Bediensteten, die eine Art Servicedienstleistung erbringt. An der
       Hochschule Merseburg gab es 2020 eine Installation mit der fiktiven
       Sprachassistenz „Miau Miau“. Das Publikum konnte mit ihr direkt
       interagieren. Allerdings wurde sie – fürs Publikum unsichtbar – live
       gesprochen von einer Schauspielerin. „Miau Miau“ war nicht unterwürfig,
       sondern eher unhöflich und frech. Und doch haben einige männliche
       Teilnehmer versucht, mit ihr zu flirten und sich ihr anzunähern. Selbst bei
       KIs und auch bei Gegenständen verfallen wir in vergeschlechtlichte
       Vorstellungen. Ich habe einen Freund, dessen Fahrrad eine „Sie“ ist, und
       eine Bekannte, deren Laptop ein „Er“ ist. Das Problem sind natürlich nicht
       die Geschlechter, sondern die Rollen, die wir damit verknüpfen. Mir war es
       im Sinne der Queeren KI aber auch wichtig zu überlegen, in welchen
       Kontexten KI daran beteiligt ist, diese deterministischen Strukturen
       umzudeuten.
       
       Auf was sind Sie gestoßen? 
       
       Gerade in der Kunst gibt es dafür tolle Beispiele. Der Künstler Jake Elwes
       etwa hat eine Art Deepfake-[4][Dragshow] gestaltet. Für seine KI saßen ihm
       mehrere Dragqueens Modell. Die KI hat daraus eine Performance kreiert, bei
       der die Körper ineinander morphen und die Identitäten sich ständig
       verändern. Körperbewegungen oder -formen, die ungewöhnlicher waren, konnte
       die KI nicht codieren: Sie hat dann Sequenzen produziert, bei denen die
       Körper teils in etwas Monströses oder Fantastisches gekippt sind. Insofern
       ist der Begriff Queere KI auch ein Plädoyer dafür, KI fluider und offener
       zu gestalten.
       
       Aber wie soll das gehen? KI beruht doch immer auf eindeutigen Daten. 
       
       Es gibt bereits mehrere Projekte mit queeren Chatbots, vor allem in der
       Kunst. Die Trainingsdatensätze bestehen dort etwa aus queerer Poesie und
       feministischer Theorie. Die Künstlerin Sara Ciston hat ein intersektionales
       KI-Tool kreiert, infolgedessen Google-Ergebnisse keine Stereotype mehr
       produziert haben, sondern für Fragen zum Thema Queerness hoffnungsstiftende
       und poetische Vorschläge lieferten. Aus solchen Projekten lassen sich
       Prinzipien ableiten, zum Beispiel, dass Daten von weißen Männern auch nur
       auf ebensolche angewendet werden sollten. Oder dass man zulässt, dass
       Algorithmen auch Ambivalenzen produzieren. Viele Technologieunternehmen
       finanzieren experimentellere Formen des Umgangs mit KI, etwa durch
       Fellowships oder Künstler*innen-Residenzen. Das künstlerische Experiment
       kann also zu realen Technologien beitragen, das sollte man nicht
       unterschätzen.
       
       Was muss noch passieren im Sinne einer Queeren KI? 
       
       Ich plädiere dafür, nicht nur die Technologien selbst zu sehen, sondern
       auch die Entstehungsbedingungen. Das Clickworking, das Aufbereiten der
       Daten, passiert, weil Menschen weniger bezahlt werden als die deutsche Norm
       und unter prekären Bedingungen arbeiten. Da frage ich mich, ob diese
       Menschen, die an der Schnittstelle zu den Technologien sitzen, mehr
       Mitspracherecht bekommen könnten. Das Problem einer Queeren KI ist auch,
       dass [5][KIs in der Regel den Status quo von gestern zeigen], weil dieser
       auf Daten beruht, die erst mal gesammelt werden müssen. Wir müssen solche
       Wissenskonstruktionen also stärker hinterfragen, das wäre schon ein erster
       großer Schritt in Richtung Queere KI.
       
       5 Jan 2024
       
       ## LINKS
       
   DIR [1] /Zukunft-von-KI/!5979683
   DIR [2] /Diskriminierung-durch-KI/!5953408
   DIR [3] /Frauen-und-Internetsexualitaet/!5111935
   DIR [4] /Cis-Frau-gewinnt-Drag-Wettbewerb/!5976184
   DIR [5] /Forscherin-ueber-Kuenstliche-Intelligenz/!5937210
       
       ## AUTOREN
       
   DIR Fabian Dombrowski
       
       ## TAGS
       
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Diskriminierung
   DIR Technischer Fortschritt
   DIR Weltwirtschaft
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Schwerpunkt Künstliche Intelligenz
       
       ## ARTIKEL ZUM THEMA
       
   DIR Weltwirtschaftsforum stellt Bericht vor: Hauptsorgen KI und Extremwetter
       
       Zwei von drei Manager:innen in der globalen Wirtschaft erwarten binnen
       zehn Jahren schlimme Krisen. Ganz oben: Desinformation und Klimawandel.
       
   DIR Zukunft von KI: Habt keine Angst
       
       2023 war das Jahr der künstlichen Intelligenz. Um die Zukunft der
       Technologie zu gestalten, brauchen wir Mut, Utopie und Spaß.
       
   DIR Ausstellung mit Medienkunst zu KI: Der Klang seltener Erden
       
       Geht es nur noch um Algorithmen? Eine Ausstellung in der Galerie Nord |
       Kunstverein Tiergarten untersucht die Rolle der menschlichen Stimme bei KI.
       
   DIR Künstliche Intelligenz auf Medien-Messe: Größer als industrielle Revolution
       
       KI revolutioniert die Medienwelt jetzt schon. Menschliche Kreativität sei
       aber nicht ersetzbar, heißt es auf der Konferenz „Content London“.