KI-Tools können Texte strukturieren, große Datenmengen auswerten und sogar Muster in Gerichtsentscheidungen erkennen. Sinem Köstak warnt allerdings davor, Ergebnisse ungeprüft zu übernehmen. "Verantwortung, Kontrolle und Transparenz" seien entscheidend, sagte die Datenschutzkoordinatorin und KI-Compliance-Beauftragte bei bei SWK, bei einem NRW-Stammtisch des ZFK-Frauennetzwerks in Krefeld.
Kerstin Abraham, Vorständin und Arbeitsdirektorin des Gastgebers SWK, sprach indes über die Herausforderungen des kommunalen Konzerns und ihr Engagement für Frauen in Fach- und Führungspositionen. Unternehmen müssten Frauen als "wichtigen Wirtschaftsfaktor" verstehen und ihre Lebensrealitäten stärker berücksichtigen, betonte sie.
Rechtliche Fragen im Mittelpunkt
Die Grundlagen von KI seien inzwischen vielen bekannt, sagte Köstak. Deshalb stellte sie nicht die technischen Möglichkeiten, sondern die rechtlichen und organisatorischen Folgen in den Mittelpunkt. KI könne Texte strukturieren, Formulierungen vorschlagen, Ideen liefern und große Datenmengen auswerten. Gerade im juristischen Bereich ließen sich damit Muster in Gerichtsentscheidungen erkennen. Eine belastbare Prognose für den Ausgang eines Verfahrens sei daraus jedoch nicht automatisch abzuleiten.
Der Mensch muss im Vordergrund stehen.
Sinem Köstak, IT-Governance & Organisation bei den SWK
"Der Mensch muss im Vordergrund stehen", betonte Köstak. Viele Gerichtsentscheidungen würden nicht veröffentlicht oder seien nicht digital verfügbar. Zudem könnten bestehende Verzerrungen in den Daten durch KI übernommen und verstärkt werden. Ergebnisse müssten deshalb stets kritisch geprüft und eingeordnet werden.
Wie riskant ein unkritischer Umgang sein kann, zeigte Köstak anhand eines Falls aus den USA. Anwälte hatten in einem Schriftsatz vermeintliche Präzedenzfälle angeführt, die ein KI-System jedoch frei erfunden hatte. Namen und Aktenzeichen wirkten plausibel. Erst die Prüfung durch das Gericht brachte die Täuschung ans Licht. Die Anwälte wurden sanktioniert, weil sie die Angaben ungeprüft übernommen hatten.
Auch aus Nordrhein-Westfalen berichtete Köstak von einem Fall, in dem ein Chatbot auf einer Unternehmenswebsite falsche akademische Titel zu Personen ausgab. Das Gericht stellte klar: Der Betreiber kann sich nicht darauf berufen, dass die KI eigenständig gearbeitet habe. Wer Website-Inhalte als Grundlage für einen Chatbot bereitstellt, muss dafür sorgen, dass die ausgegebenen Informationen korrekt sind.
Köstaks zentrale Botschaft lautete: "Verantwortung, Kontrolle und Transparenz" dürften beim Einsatz von KI nicht verloren gehen. Das gelte für juristische Schriftsätze und wissenschaftliche Arbeiten ebenso wie für Texte und Dokumente in Unternehmen. KI könne bei Recherche, Strukturierung und ersten Entwürfen helfen. Die individuelle geistige Leistung, die Quellenprüfung und die abschließende Entscheidung müssten jedoch beim Menschen bleiben.
"Nutzt die Möglichkeiten – aber verantwortungsvoll", appellierte Köstak. Auch der Einsatz von KI müsse transparent gemacht werden. Sie verwies zudem auf neue Kennzeichnungspflichten, insbesondere bei künstlich erzeugten Bildern und anderen Inhalten.
Förderung von Frauen in Fach- und Führungspositionen
Für Gastgeberin Abraham ist Verantwortung ebenfalls ein Schlüsselbegriff – allerdings mit Blick auf die Unternehmenskultur. Die SWK hat sich in den vergangenen Jahren zu einem breit aufgestellten kommunalen Konzern mit rund 3800 Beschäftigten entwickelt. Zugleich steht das Unternehmen vor großen Aufgaben: Die Wärmeversorgung muss transformiert, die Netzinfrastruktur ausgebaut und der öffentliche Verkehr trotz hoher Kosten gesichert werden. Diese Herausforderungen seien nur mit qualifizierten und engagierten Beschäftigten zu bewältigen.
Ein besonderes Anliegen ist Abraham die Förderung von Frauen in Fach- und Führungspositionen. Vor fünf Jahren gründete sie gemeinsam mit weiteren Engagierten ein Krefelder Netzwerk, das Frauen sichtbarer machen und ihre berufliche Entwicklung unterstützen soll. Inzwischen sei es fest in der Stadtgesellschaft verankert: "Man kommt an uns wirklich nicht mehr vorbei."
Man braucht unsere Exzellenz, man braucht unsere Befähigung
Kerstin Abraham,
SWK-Vorständin und Arbeitsdirektorin
Darüber hinaus setzt sich Abraham für einen offeneren Umgang mit der Gesundheit von Frauen in verschiedenen Lebensphasen ein. Gemeinsam mit den Alexianern und einer selbstständigen Partnerin hat sie eine Veranstaltungsreihe zur Frauengesundheit initiiert. Die fünf Veranstaltungen beschäftigen sich unter anderem mit Kinderwunsch, Menopause und der Vereinbarkeit von Beruf und Privat-/Familienleben.
Unternehmen müssten Frauen nicht als Problemfaktor betrachten, sondern als wichtigen Wirtschaftsfaktor, sagte Abraham. "Man braucht unsere Exzellenz, man braucht unsere Befähigung." Dafür brauche es mehr Wissen, Verständnis und Räume, in denen offen über gesundheitliche und persönliche Herausforderungen gesprochen werden könne.
Ihre Botschaft an die Teilnehmerinnen: Netzwerke sollten nicht nur dem Austausch dienen, sondern konkrete Veränderungen anstoßen. Sichtbarkeit entstehe, wenn Frauen Verantwortung übernehmen, ihre Themen ansprechen und sich gegenseitig unterstützen. Oder, auf den KI-Einsatz übertragen: Delegieren ist möglich – Verantwortung bleibt.
