Mit dem ersten offiziellen Treffen der neu gegründeten Arbeitsgruppe KI hat das ZFK-Frauennetzwerk Ende Januar den Startschuss gegeben. Mehr als 60 Teilnehmerinnen nahmen an dem digitalen Auftaktmeeting teil – ein deutliches Signal für den hohen Bedarf an Austausch rund um künstliche Intelligenz in der kommunalen und energiewirtschaftlichen Praxis. Das zeigt sich auch an den MItgliedern der Arbeitsgruppe, die inzwischen auf 222 angewachsen ist.
Ziel des Netzwerks ist es, Frauen aus der Kommunalwirtschaft zusammenzubringen, um KI nicht nur als technisches Werkzeug, sondern auch als Organisations-, Rechts- und Kulturthema gemeinsam zu bearbeiten. Inhaltlicher Höhepunkt des Auftaktmeetings war der Vortrag von Esther Anna Watorowski, Rechtsanwältin und zertifizierte Datenschutzbeauftragte aus Berlin. Unter dem Titel "Mut zur KI – aber rechtssicher" gab sie einen praxisnahen Überblick über die zentralen rechtlichen Fragen beim Einsatz von KI-Systemen.
Rechtliche Leitplanken statt KI-Bremse
Watorowski machte früh deutlich, warum das Thema für Organisationen dringlich ist. Studien zeigten, dass Einzelpersonen mit KI-Unterstützung teils bessere Ergebnisse erzielen als Teams ohne KI. Gleichzeitig warnte sie vor bekannten Risiken wie Diskriminierung, Halluzinationen oder intransparenten Entscheidungslogiken, die bereits heute in realen Anwendungen sichtbar seien.
"KI-Systeme lernen aus der Vergangenheit. Wir Menschen leben aber in der Gegenwart – und unsere Wünsche und Hoffnungen liegen in der Zukunft", so Watorowski mit Blick auf Verzerrungen in Trainingsdaten. Genau daraus entstünden systematische Benachteiligungen, etwa im Recruiting oder bei automatisierten Bewertungen.
Datenschutz, Urheberrecht, KI-Verordnung
Im Mittelpunkt des Vortrags standen drei Themenfelder: Datenschutz, Urheberrecht und die europäische KI-Verordnung (AI Act).
Beim Datenschutz verwies Watorowski auf grundlegende Zielkonflikte. "Beim Datenschutz geht es um Zweckbindung und Datenminimierung – es sollen so wenig personenbezogene Daten wie möglich erhoben werden. Gleichzeitig geht es bei KI um Big Data und bestehende Datenschätze zu nutzen", erklärte die Rechtsanwältin. Besonders relevant sei Artikel 22 DSGVO: "Eine Entscheidung mit rechtlicher Wirkung darf nicht vollständig automatisiert getroffen werden." Das betreffe unter anderem Bewerbungsabsagen, Kündigungen oder leistungsabhängige Bewertungen.
Auch verbreitete Annahmen zur "DSGVO-Konformität" von KI-Tools relativierte sie. "Allein ChatGPT Enterprise reicht nicht", sagte Watorowski. Entscheidend seien unter anderem das Vorhandensein eines Auftragsverarbeitungsvertrags, die Speicherorte der Daten und der Umgang mit Betroffenenrechten. Spätestens bei Auskunfts- oder Löschansprüchen stoße generische KI an strukturelle Grenzen.
Beim Urheberrecht warnte sie vor unbedachtem Einsatz: Das Hochladen urheberrechtlich geschützter Inhalte in KI-Systeme stelle eine Vervielfältigung dar und sei ohne entsprechende Rechte unzulässig. KI-generierte Inhalte seien zudem nicht automatisch geschützt. "Das Urheberrecht entsteht durch den menschlichen Schaffensakt – nicht durch etwas vom KI-System Geschaffenes", so Watorowski.
AI Act: Weniger Regulierung als oft behauptet
Ausführlich ordnete Watorowski den neuen europäischen AI Act ein. Die Verordnung verfolge einen risikobasierten Ansatz: Verboten seien nur KI-Praktiken mit "inakzeptablem Risiko", die gegen die Grundwerte der EU verstoßen. Als Beispiel nennt die Datenschützerin Emotionserkennung am Arbeitsplatz oder das in China verbreitete Social Scoring. Hoch reguliert seien insbesondere Anwendungen im HR- und Finanzbereich.
Die oft geäußerte Kritik, der AI Act verhindere Innovation, teilte sie nicht. "Nur etwa fünf bis 15 Prozent der KI-Systeme fallen überhaupt in den Hochrisikobereich", erklärte Watorowski. Für die Mehrheit gelte lediglich eine Transparenzpflicht. "Der Rest ist praktisch nicht reguliert."
Schatten-KI als Organisationsproblem
Besondere Aufmerksamkeit erhielt der Abschnitt zur sogenannten Schatten-KI. Laut aktuellen Umfragen nutzten bereits rund 70 Prozent der Beschäftigten KI-Tools ohne formale Freigabe, viele davon auch mit sensiblen Daten.
Watorowski riet davon ab, allein auf Verbote zu setzen. "Die Menschen wollen KI nutzen – und sie tun es ohnehin", sagte sie. Stattdessen empfahl sie klare, kurze KI-Nutzungsrichtlinien, Whitelists erlaubter Tools und regelmäßige Schulungen. KI-Kompetenz dürfe nicht an einzelnen Rollen hängen: "Das darf keine Aufgabe einer einzelnen Person sein – es ist eine Teamaufgabe."
Austausch statt Einzellösungen
In der anschließenden Diskussion wurde deutlich, dass viele rechtliche und organisatorische Fragen in der Praxis noch offen sind – etwa zur Abgrenzung von Anbieter- und Betreiberrollen. Das KI-Frauennetzwerk will an solche Debatten weiter ansetzen: als Raum für Austausch, Einordnung und gemeinsames Lernen.
Geplant sind künftig zweimonatliche Treffen der Gesamtgruppe sowie thematische Vertiefungen in kleineren Runden. Wer sich ebenfalls daran beteiligen möchte, kann sich direkt bei Laura Partikel melden.
