# taz.de -- Vor Inkrafttreten der EU-Regeln: Werkzeugkoffer gegen KI-Auswüchse
> Verbände bereiten sich darauf vor, das neue EU-Recht zu Künstlicher
> Intellligenz durchzusetzen, welches in Kürze in Kraft tritt. Doch es gibt
> Lücken.
IMG Bild: Auf der Suche nach Durchblick auf der Digitalkonferenz re:publica
Berlin taz | Beschwerden, Klagen, eine systematische Beobachtung neuer
Geschäftsmodelle – die Zivilgesellschaft wappnet sich für die Durchsetzung
der neuen europäischen Regeln zu künstlicher Intelligenz (KI). „Mit der
Kombination unserer Möglichkeiten haben wir ein ziemlich scharfes Schwert
in der Hand“, sagte Jutta Gurkmann, Geschäftsbereichsleiterin für
Verbraucherpolitik beim Verbraucherzentrale Bundesverband (vzbv), bei einer
Podiumsdiskussion auf der Digitalkonferenz re:publica am Dienstag.
Der AI Act, der [1][erst in der vergangenen Woche endgültig verabschiedet]
wurde, ist die erste umfassende und verbindliche [2][Regulierung von KI].
Als „Meilenstein in Bezug auf den Schutz von Diskriminierung durch
künstliche Intelligenz“, bezeichnete Christiane Rohleder, Staatssekretärin
im Verbraucherschutzministerium, das Regelwerk bei der Diskussion.
„Es gibt einige Schutzlücken“, widersprach der Recht- und Ethikprofessor
Philipp Hacker. Zum Beispiel bei der sogenannten General Purpose AI, also
KI-Systemen, die besonders vielfältig einsetzbar sind. Dazu gehören die
GPT-Modelle, die auch die Basis für den KI-Chatbot ChatGPT bilden.
Für diese Modelle gebe es nämlich eine folgenschwere Ausnahme: Die
Vorschriften, die Herstellern von Hochrisikosystemen Auflagen für ihre
Trainingsdaten machten, etwa was Diversität und Repräsentativität angeht,
gälten für sie nicht. Auf Basis der Trainingsdaten lernt eine KI. Hatte
also etwa eine KI zum Generieren von Bildern nur männliche Ärzte in ihren
Trainingsdaten, wird sie höchstwahrscheinlich keine Bilder von Ärztinnen
erzeugen. „Wir bräuchten hier eine Art Content-Moderation bei den
Trainingsdaten selbst“, fordert Hacker.
## Österreichische Datenschutz-NGO gegen OpenAI
Diese Forderung könnte noch bei einem der ersten Verfahren zum Tragen
kommen, die derzeit in Sachen KI laufen. Die österreichische
Datenschutz-NGO Noyb hat [3][Beschwerde gegen OpenAI, das Unternehmen
hinter ChatGPT, eingereicht].
Der Vorwurf: ChatGPT generiere – mindestens in dem beanstandeten Fall –
reproduzierbar falsche persönliche Daten über eine reale Person und sei
nicht in der Lage, das zu korrigieren. Ein klassischer Fall strategischer
Prozessführung, wie Mitdiskutantin Svea Windwehr von der Gesellschaft für
Freiheitsrechte (GFF) erklärt: „Es geht darum, Grund- und Menschenrechte zu
stärken und diese anhand von gezielten Fällen durchzusetzen.“
Besonders viele Möglichkeiten haben hier Verbände, die auch zu
Verbandsklagen berechtigt sind, wie der vzbv, erklärt Gurkmann: Sie könnten
mittlerweile auch Schadensersatz für Betroffene einklagen. Darüber hinaus
gebe es weitere Werkzeuge wie die systematische Marktüberwachung etwa
neuer, potenziell problematischer Geschäftsmodelle.
GFF-Aktivistin Windwehr kritisiert jedoch die prekäre Finanzierung vieler
zivilgesellschaftlicher Akteure: „Es ist toll, dass die Zivilgesellschaft
als Partner wahrgenommen wird, aber es besteht ein großes
Finanzierungsloch.“ Sie fordert nachhaltige Finanzierungswege, etwa einen
Fonds, der sich aus staatlichen und privaten Mitteln speist.
## Aufsichtsbehörden auf EU- und nationaler Ebene vorgesehen
Dabei soll es nicht nur die Zivilgesellschaft übernehmen, den AI Act
durchzusetzen. Auch Aufsichtsbehörden sowohl auf EU- als auch auf
nationaler Ebene sind vorgesehen.
In Deutschland ist noch offen, wie die Aufsicht im Detail umgesetzt wird.
Rechtsexperte Hacker fordert dabei ein Denken jenseits der bekannten
Strukturen: „Man muss neue Herangehensweisen finden, sonst wird das
nichts.“ Schließlich sei es ein Unterschied, ob eine Bank KI einsetzen
will, eine medizinische Einrichtung oder eine Schule. Statt einer Arbeit
entlang der etablierten Behördengrenzen schlägt Hacker beispielsweise
projektbezogene Zusammenarbeit vor.
28 May 2024
## LINKS
DIR [1] /Kuenstliche-Intelligenz/!6009041
DIR [2] /FAQ-zum-neuen-AI-Act-der-EU/!5991054
DIR [3] /Beschwerde-gegen-OpenAI-in-der-EU/!6007268
## AUTOREN
DIR Svenja Bergt
## TAGS
DIR Schwerpunkt Künstliche Intelligenz
DIR Verbraucherschutz
DIR Digitalisierung
DIR Social-Auswahl
DIR Film
DIR Stellenabbau
DIR GNS
DIR Schwerpunkt Europawahl
DIR Schwerpunkt Künstliche Intelligenz
DIR Schwerpunkt Künstliche Intelligenz
DIR Schwerpunkt Künstliche Intelligenz
## ARTIKEL ZUM THEMA
DIR Film mit KI-generiertem Putin: Best-of der bösen Taten
Der polnische Regisseur Patryk Vega hat einen Film mit einem teilweise
computeranimierten Putin in die Kinos gebracht. Leider muss man vor ihm
warnen.
DIR Chiphersteller in der Krise: Intel streicht jede sechste Stelle
Chiphersteller Intel reagiert mit Stellenstreichungen auf schlechte Zahlen.
Der Bau der Chipfabrik in Magdeburg soll dadurch nicht gefährdet sein.
DIR Chip-Konzern profitiert von KI-Hype: Nvidia nun wertvollstes Unternehmen
Mit einem Börsenwert von rund 3,3 Billionen US-Dollar hat der
US-Chiphersteller Microsoft und Apple überholt. Die Nachfrage von Software
mit KI hat den Umsatz vervielfacht.
DIR EU-Investitionen in KI: Intelligenzrückstand auf China
Der Europäische Rechnungshof kritisiert die Investitionsbereitschaft der EU
in KI. Gefahren für den Jobmarkt sind auf EU-Ebene aber kein Thema.
DIR Künstliche Intelligenz: EU-Regeln für KI kommen
Europa beschließt Regeln für den Einsatz von künstlicher Intelligenz. Die
Vorgaben zu Chatbots wie ChatGPT gelten Kritikern als zu lasch.
DIR KI-Experte über AI-Gesetz der EU: „Deutliche Verbesserungen“
Die EU hat Regeln für künstliche Intelligenz beschlossen. Wann
Verbraucher:innen etwas davon mitkriegen werden, erklärt Experte Miika
Blinn.
DIR Deutschland muss KI-Regeln umsetzen: Streitpunkt Überwachung
Deutschland muss bald die neuen EU-Regeln zu künstlicher Intelligenz
umsetzen. Fachleute fordern Verschärfungen – etwa bei der
Gesichtserkennung.