# taz.de -- Menschenrechtler über Polizeikongress: „Nicht alles, was möglich ist, sollte auch umgesetzt werden“
> In Berlin tagt ab Mittwoch die internationale Polizei und tauscht sich
> über KI-Überwachung aus. Der Jurist Steven Kleemann sieht die neue
> Technik kritisch.
IMG Bild: Wie viel KI-Überwachung soll der Staat wagen? Darüber wird ab Mittwoch beim Europäischen Polizeikongress gesprochen
taz: Herr Kleemann, diesen Mittwoch startet in Berlin der europäische
Polizeikongress. Dort soll es unter anderem um neue Einsatzmöglichkeiten
von künstlicher Intelligenz (KI) in den Sicherheitsbehörden gehen. Davon
sind [1][manche in Berlin schon beschlossen] – etwa die KI-gestützte
Videoüberwachung. Ist so eine Überwachung mit unseren Grundrechten
vereinbar?
Steven Kleemann: Durch die neuen Techniken sehen wir eine Verschiebung:
Bisher musste ein konkreter Verdacht vorliegen, bevor der Staat tätig wird.
Die Werkzeuge drehen das um. Aus dem „Wir suchen jemand Bestimmtes“ wird so
„Wir lassen die Maschine mal schauen, wer auffällt“. Wenn solche Systeme
laufen, greifen sie in die Grundrechte aller ein, deren Daten dabei
verarbeitet werden. Nicht nur von Beschuldigten. Mit Software, die
Verhaltensmuster untersuchen soll, wird „normales Verhalten“ definiert und
das anhand statistischer Häufigkeiten in Trainingsdaten. Alles, was dann
davon abweicht, wird als Auffälligkeit markiert.
taz: Algorithmen können also Vorurteile wie Rassismus oder Klassismus
reproduzieren und Diskriminierung sogar verstärken.
Kleemann: Das klingt technisch, ist aber eigentlich sehr konkret. Wenn man
sich vorstellt, jemand bleibt in der Bahnhofshalle länger sitzen,
vielleicht, weil er kein Zuhause hat. Er ist dann auffällig. Jemand hat
sich aufgrund einer Behinderung anders bewegt? Auffällig. Jemand hat sich
aus religiösen Gründen länger an einem Ort aufgehalten? Sehr auffällig. So
besteht das Risiko, dass etablierte Diskriminierungspraktiken wie Racial
Profiling und so weiter technisch legitimiert werden. Weil diese Systeme
genau so funktionieren.
taz: Sie haben zu „vertrauenswürdiger KI für polizeiliche Anwendungen“
geforscht. Kann es so etwas überhaupt geben? Und wenn ja, wie müsste das
aussehen?
Kleemann: Recht, Ethik und Technik müssten aufeinander abgestimmt werden,
und da gibt es natürlich viele Probleme. Man könnte nah an den rechtlichen
Vorgaben bleiben, die aber noch nichts darüber aussagen, ob wir etwas als
Gesellschaft wollen. Da gäbe es dann mehr oder weniger konkrete
Anforderungen an Datenqualität, Risikomanagement, menschliche Aufsicht,
Transparenz, aber auch die Grundrechte. Es kommt auf den Einsatzzweck an.
Und da sind wir wieder beim nächsten Problem: Gerade im polizeilichen
Bereich, wo es ja Geheimhaltungsinteressen gibt, müsste eigentlich ein
Umdenken stattfinden zu einer viel größeren Transparenz über den Einsatz
polizeilicher Systeme, damit man das irgendwie legitimieren könnte. Aber so
eine Selbsteinschätzung der Polizei oder nur der Blick von außen kann da
eigentlich keine pauschale Antwort geben.
taz: Polizeiliche Daten sollen auch für KI-Trainings und die automatisierte
Datenanalyse genutzt werden dürfen. Wer garantiert, dass diese
hochsensiblen Daten nicht an Dritte weitergegeben werden?
Kleemann: Genau das ist auch aus unserer Sicht ein großes Problem. Von der
Verknüpfung der ganzen Datenbanken erhofft sich die Polizei ja sehr viel.
Man legitimiert damit jetzt im Nachhinein die schlechte Datenverarbeitung
der Polizei. Laut dem neuen Sicherheitspaket auf Bundesebene soll die
Polizei die sogar von privaten Anbietern übernehmen lassen können. Wer das
kontrollieren soll, lassen die Regelungsvorhaben offen.
taz: Ein Programmpunkt beim Polizeikongress heißt „Polizeiliche
Datenanalyse – zwischen Staat und Markt. Wie viel Kooperationen können wir
wagen?“ Einige Bundesländer nutzen bereits [2][Software des]
[3][umstrittene][4][n US-Unternehmens Palantir]. Darf ein Staat das wagen?
Kleemann: Nicht alles, was technisch irgendwie möglich ist, sollte auch
umgesetzt werden. Wir müssten diesbezüglich eine viel größere Debatte
führen. Deswegen [5][empfehlen wir, eine Enquetekommission einzusetzen] –
um abzuklopfen, wie weit wir als Gesellschaft bereit sind zu gehen. Man
muss sich anschauen, was eigentlich die grundlegende Idee hinter solchen
Systemen ist. Und wenn man zu dem Schluss kommt, das ist nicht mit unseren
Werten vereinbar, dann spielt es keine Rolle, ob das System jetzt aus den
USA kommt oder ob ein europäisches System genau das Gleiche macht.
taz: Eine weitere geplante Maßnahme ist [6][der biometrische Abgleich mit
öffentlich zugänglichen Daten] zum Beispiel aus den sozialen Medien. Wird
mit solchen Maßnahmen der Datenschutz einfach ausgehebelt?
Kleemann: Das ist ein sehr kritischer Punkt. Bei den „Internetdaten“ geht
es oft um Lichtbilder. [7][Das Problem an Gesichtern ist], man kann sie
nicht ablegen. Wer sich nicht irgendwie stark einschränken will, gibt sein
Gesicht jeden Tag vielen Kameras preis. Die Technologie macht aus dieser
Allgegenwart eine Identifizierung. So ein Eingriff geht weit über
Fingerabdrücke oder DNA-Spuren hinaus und wirkt viel einschüchternder.
6 May 2026
## LINKS
DIR [1] /Reform-des-Berliner-Polizeigesetzes/!6096087
DIR [2] /Ueberwachungs-Software-Palantir-Dobrindt-haelt-Thiel-die-Tuer-auf/!6176150
DIR [3] /Ueberwachungs-Software-Palantir-Dobrindt-haelt-Thiel-die-Tuer-auf/!6176150
DIR [4] /Ueberwachungs-Software-Palantir-Dobrindt-haelt-Thiel-die-Tuer-auf/!6176150
DIR [5] https://www.institut-fuer-menschenrechte.de/publikationen/detail/polizeiliche-gesichtserkennung
DIR [6] /Open-Source-Intelligence-bei-der-Polizei/!6060094
DIR [7] https://www.institut-fuer-menschenrechte.de/publikationen/detail/polizeiliche-gesichtserkennung
## AUTOREN
DIR Marco Fründt
## TAGS
DIR Polizei
DIR Schwerpunkt Künstliche Intelligenz
DIR Polizeigesetz
DIR Berlin
DIR Grundrechte
DIR Diskriminierung
DIR Schwerpunkt Überwachung
DIR GNS
DIR Reden wir darüber
DIR Palantir
DIR Palantir
DIR Deepfake
DIR Palantir
DIR Schwarz-rote Koalition in Berlin
DIR Schwarz-rote Koalition in Berlin
## ARTIKEL ZUM THEMA
DIR Palantir in Deutschland: Überwachung first, Bedenken second
Bundesinnenminister Dobrindt hält an der Überwachungssoftware Palantir
fest. Eine taz-Recherche zeigt: Damit steht er fast alleine da. Grund zur
Entwarnung ist das nicht.
DIR Geheimdienst wählt Software-Alternative: Palantir stirbt langsam
Der Geheimdienst setzt zur Terrorabwehr auf eine europäische Alternative
zur Palantir-Software. Doch der rechtliche Rahmen bleibt fragwürdig.
DIR Deepfakes in der EU: Brüssel verwässert Regeln für KI
Die Europäische Union will härter gegen sogenannte Deepfakes vorgehen. Doch
gleichzeitig lockert sie KI-Regeln.
DIR Überwachungssoftware Palantir: Dobrindt hat für Thiel den Fuß in der Tür
Sicherheitsexperten raten von Palantir ab. Doch Innenminister Dobrindt
stört das nicht, wie die Antwort auf eine Grünen-Frage zeigt.
DIR Anwalt über Berliner Polizeigesetz: „Menschen verhalten sich anders, wenn sie überwacht werden“
Die geplante Neufassung des Asog ist zum Teil verfassungswidrig, sagt der
Anwalt Lukas Theune. Er fordert einen Stopp des Gesetzgebungsverfahrens.
DIR Reform des Berliner Polizeigesetzes: Riskantes Manöver
CDU und SPD bringen ihr neues Polizeigesetz ins Abgeordnetenhaus ein.
Berlin befindet sich damit bei der Beschränkung von Freiheitsrechten weit
vorn.