Eine Umfrage unter Leserinnen und Lesern des ZfK-KI-Newsletters liefert ein klares Stimmungsbild: Unter den 23 Teilnehmenden wurden IT-Sicherheits- und Datenschutzbedenken am häufigsten genannt. 17 Leserinnen und Leser setzten dort ein Häkchen, zwölf bei fehlendem Know-how und zu wenig geschulten Mitarbeitenden.
Dass diese Sorge in der Branche vorherrschend ist, zeigt auch die Digital@EVU-Studie, die der BDEW mitbeauftragt hat. Demnach nennen 59 Prozent der befragten Unternehmen Sicherheitsbedenken, insbesondere bei Datenschutz und Cybersecurity, als Hindernis für die künftige Nutzung von Datenanalyse und KI. Gegenüber der letzten Ausgabe ist dieser Wert um 24 Prozentpunkte gestiegen.
Doch hinter Datenschutz und IT-Sicherheit steckt mehr als die Frage, ob ein Chatbot Kundendaten verarbeiten darf. Es geht um Datenhoheit, Berechtigungskonzepte, Netz- und Messdaten, Cloud-Betriebsmodelle, KI-Agenten mit Systemzugriff und die Nähe zu kritischer Infrastruktur. Je näher KI an energiewirtschaftliche Kernprozesse rückt, desto stärker verschiebt sich die Frage: Nicht ob KI genutzt wird, sondern unter welchen Bedingungen sie kontrolliert in den Betrieb überführt werden kann.
Nicht jedes Problem ist ein Datenschutzproblem
Moritz Anders, Partner, Cyber Security Leader und Experte für Cybersicherheit in der Energiewirtschaft bei PwC Deutschland, warnt davor, Datenschutz und IT-Sicherheit zu eindimensional als Blockade zu lesen. "IT-Sicherheit und Datenschutz sind relevant – aber sie blockieren KI-Vorhaben seltener als oft angenommen. Richtig angewendet etablieren sie vielmehr wichtige Leitplanken, auf deren Grundlage sich Anwendungsfälle skalieren und in echte Wertschöpfung überführen lassen."
Wenn Datenschutz in der Praxis dennoch als Blocker auftauche, sei das häufig ein Symptom. "Scheitert ein KI-Projekt an der DSGVO, fehlt in der Regel die Datenstrategie", so Anders. KI mache sichtbar, wo Daten- und Governancestrukturen, Berechtigungskonzepte oder Sicherheitsmechanismen noch nicht ausreichend aufgestellt seien.
Thorsten Vogel, Business Line Lead Utilities bei Adesso, berichtet von konkreten Auswirkungen: "Wir erleben, dass Kunden den Einsatz von KI beispielsweise in der Softwareentwicklung untersagen. Das zeigt: Sicherheits- und Datenschutzbedenken sind nicht abstrakt, sondern beeinflussen Entscheidungen in der Praxis und können KI-Projekte bremsen." Die technischen Möglichkeiten seien in der Regel vorhanden. Die größeren Hürden lägen in Organisation, Governance und Prozessen.
Schatten-KI entsteht nicht trotz, sondern wegen Verboten
In vielen Unternehmen beginnt KI dort, wo der Nutzen unmittelbar sichtbar ist: in der Recherche, beim Schreiben, in der Dokumentenanalyse, im Kundenservice oder in Prognosen. Gerade solche Anwendungen lassen sich vergleichsweise schnell ausprobieren. Damit daraus aber kein unübersichtlicher Flickenteppich aus einzelnen Tools, privaten Accounts und nicht freigegebenen Anwendungen entsteht, braucht es früh klare Regeln. Sebastian Menge, Vice President bei Capgemini Invent, formuliert es zugespitzt: "Wer nur verbietet, produziert Schatten-KI. Mitarbeitende nutzen die Werkzeuge dann privat und unkontrolliert."
Capgemini schlägt deshalb vor, KI-Governance nicht als neues Silo aufzubauen, sondern als Erweiterung bestehender Strukturen wie Informationssicherheitsmanagement, Datenschutzmanagement und IT-Governance zu verstehen. Dazu gehörten ein interdisziplinäres Gremium, ein Use-Case-Register mit Risikoklassifizierung, eine belastbare Datenklassifizierung und ein Lebenszyklus-Ansatz, bei dem KI-Systeme nicht nur einmal freigegeben, sondern kontinuierlich überwacht und regelmäßig neu bewertet werden.
In der Praxis zeigt sich zugleich ein weiteres Hemmnis: Je mehr KI-Anwendungen in den Unternehmen entstehen, desto stärker geraten Einzelfallprüfungen, verteilte Zuständigkeiten und fehlende pauschale Freigaben an Grenzen.
Wie eine solche Steuerung in der Praxis aussehen kann, zeigen die Stadtwerke Jena. Dort entwickelt ein interdisziplinäres Team Richtlinien für den sicheren Einsatz von KI-Systemen. Aus der Arbeit des sogenannten KI-Boards ging eine gruppenweit gültige Dienstanweisung Künstliche Intelligenz hervor. Das heißt, für die Einführung und Nutzung einer KI-Anwendung ist eine dokumentierte Freigabe durch dieses Gremium erforderlich. Der Fachbereich initiiert den Prozess, das Board stellt eine standardisierte Checkliste bereit.
Auch die Stadtwerke Karlsruhe haben mit dem konzernübergreifenden Programm "KI-Kompass" einen Rahmen geschaffen. Er umfasst interne Nutzungsregeln für generative KI, eine KI-Sicherheitsrichtlinie und Schulungen. Neue KI-Systeme werden über bestehende Software- und Cloud-Antragsprozesse geprüft. Zusätzlich wird bewertet, in welche Risikoklasse eine Anwendung nach der europäischen KI-Verordnung fällt.
Sichere Alternativen statt reiner Verbote
Die Karlsruher nutzen KI bereits in mehreren Feldern. Dazu gehören bei den Stadtwerken Anwendungen in Vertrieb und Kundenservice, darunter der Chatbot "Oskar" und ein Voicebot bei telefonischen Anfragen. Außerdem werden KI-Systeme zur Optimierung von Energiebedarfsprognosen bei B2B-Kunden eingesetzt. Die Netztochter Stadtwerke Karlsruhe Netzservice setzt KI vor allem in daten- und prozessnahen Anwendungsfeldern im Netz- und Messstellenbetrieb ein. Intern wurde die Plausibilisierung von Zählerdaten als priorisierter Use Case identifiziert.
Gleichzeitig betont man in Karlsruhe, dass sich unkontrollierte KI-Nutzung nicht allein durch Verbote verhindern lasse. "Entscheidend ist, sichere Alternativen bereitzustellen, die im Arbeitsalltag tatsächlich nutzbar sind." Mitarbeitende sollen Zugang zu leistungsfähigen, geprüften und DSGVO-konformen KI-Tools erhalten. Dadurch sinke das Risiko, dass einzelne Fachbereiche auf frei verfügbare Anwendungen oder private Accounts ausweichen.
Die Stadtwerke Jena setzen ebenfalls auf verbindliche Regeln, Freigabeprozesse, technische Maßnahmen und verpflichtende Schulungen. Bemerkenswert ist: Weder Jena noch Karlsruhe berichten davon, dass bislang KI-Projekte allein wegen Sicherheits-, Datenschutz- oder Governance-Fragen vollständig eingestellt wurden. Jena sieht die größeren Hemmnisse derzeit vielmehr bei Kapazitäten und Kompetenzen.
Wo die rote Linie verläuft
Je näher KI an Netzbetrieb, Messwesen und kritische Infrastruktur rückt, desto klarer werden die Grenzen. Thorsten Vogel vom deutschen IT-Dienstleister und der Unternehmensberatung Adesso nennt autonome Schalthandlungen im Strom- und Gasnetz als klare rote Linie. "In der Betriebstechnik sollten solche Vorgänge nicht eigenständig durch KI ausgeführt werden." Auch bei der Speicherung und Verarbeitung von SCADA-Rohdaten seien strenge Bedingungen erforderlich. Besonders kritisch sei zudem die Einspeisung von Rohdaten aus Smart-Meter-Gateway-Administrator-Systemen.
Das Bundesamt für Sicherheit in der Informationstechnik, BSI, zieht die entscheidende Grenze dort, wo KI-Ausgaben direkte Aktionen auslösen können. Kritisch werde es "vor allem in agentischen Systemen, in denen LLMs mit externen Tools, APIs oder automatisierten Workflows gekoppelt sind". Eine KI-gestützte Protokollzusammenfassung im Fachbereich sei in der Regel unkritisch. Ein KI-Agent mit Zugriff auf Betriebsdaten des Netzleitsystems oder eine automatisierte Auswertung von Messstellendaten mit Handlungsempfehlung sei dagegen grundsätzlich sicherheitsrelevant.
Auch die Stadtwerke Karlsruhe formulieren eine klare Linie: KI könne Entscheidungen vorbereiten, Prozesse unterstützen und Muster sichtbar machen. "Die Verantwortung darf aber nicht an ein System abgegeben werden. Der Mensch bleibt zentrale Kontroll- und Entscheidungsinstanz."
Daten brauchen Schutzbedarf, nicht Pauschalverbote
Die befragten Unternehmensberartungen unterscheiden deutlich zwischen Datenarten und Anwendungsfällen. Torsten Berge, Director und Experte für KI-Assurance bei Deloitte, betont, die Klassifizierung von Daten und Schutzbedarfsklassen sei essenziell für einen sicheren KI-Einsatz in der Fläche und werde mit Blick auf autonome Agenten noch wichtiger. Klassifiziert sein sollten unter anderem Kundendaten, Verbrauchs- und Messdaten, Netzdaten, Betriebs- und OT-Daten sowie Marktkommunikationsdaten.
Der BDEW warnt zugleich vor einem pauschalen Ausschluss von Netz- und Betriebsdaten. Gerade diese Daten seien für viele KI-Anwendungen zentral, etwa für digitale Zwillinge, Echtzeit-Monitoring, Optimierung von Leitungs- und Lastverteilung, präskriptive Netzwartung oder Netzplanung auf Basis von Einspeisung und Verbrauch. "Ein genereller Ausschluss dieser Daten wäre daher nicht zielführend. Entscheidend sind klare Regeln für Nutzung, Schutz und Zugriff."
Ähnlich differenziert fällt der Blick auf Cloud- und Betriebsmodelle aus. Capgemini hält kein Entweder-oder für realistisch, sondern hybride Modelle, die sich an Datenklasse und Sicherheitsrelevanz orientieren. Für Produktivitätsanwendungen mit unkritischen Daten könne die Public Cloud ein gangbarer Weg sein. Für sensible Kunden-, Verbrauchs- und Netzdaten kämen private oder europäisch-souveräne Cloud-Angebote in Betracht. Adesso sieht ebenfalls vor allem Private-Cloud-Modelle und hybride Ansätze als realistisch an. Ausschlaggebend sei, dass keine schützenswerten Informationen an Dritte gelangen.
Der Einstieg muss nicht groß beginnen
Für kleinere und mittlere Stadtwerke ergibt sich aus den Antworten ein pragmatischer Weg. Adesso rät, im Zweifel klein anzufangen. Der erste Anwendungsfall solle keine kritischen Netz- oder personenbezogenen Daten berühren, etwa die interne Wissenssuche oder das Aufbereiten von Texten. Zweitens brauche es eine verantwortliche Person für den KI-Einsatz. "Governance verlangt keine eigene Abteilung, aber jemanden, der die Entscheidung trägt." Drittens müsse für genau diesen Fall geklärt werden, welche Daten hineinfließen und ob sie vorher pseudonymisiert werden müssen.
PwC formuliert es ähnlich: "Fokus schlägt Breite." Bewährte Einstiegsszenarien seien interne Wissensrecherche, Kundenservice oder die Unterstützung bei Klärfällen. Capgemini empfiehlt kleineren Stadtwerken, nicht alles selbst machen zu wollen: mit Nutzungsrichtlinie und Basisschulungen starten, geprüfte Enterprise-Standardlösungen einsetzen und Anforderungen an Anbieter vertraglich fixieren.
Die Stadtwerke Karlsruhe beschreiben den nächsten Schritt als Übergang von einzelnen Initiativen zu einer dauerhaften KI-Delivery-Pipeline. Anwendungsfälle sollen systematisch aufgenommen, bewertet, priorisiert, pilotiert und anschließend in den Betrieb überführt werden. Dafür brauche es eine belastbare Datenbasis, klare Verantwortlichkeiten, ein verbindliches Operating Model sowie ausreichende personelle und finanzielle Ressourcen.
Von einer grundsätzlichen KI-Bremse sprechen die Befragten nicht. Vielmehr wird der Einsatz genauer vermessen: Welche Daten sind betroffen? Wie nah rückt eine Anwendung an kritische Prozesse? Wer trägt Verantwortung? Und gibt es sichere Alternativen, die im Arbeitsalltag tatsächlich funktionieren? Für Stadtwerke, Netzbetreiber und Messstellenbetreiber wird KI damit weniger zur reinen Tool-Frage als zu einer Frage des Betriebsmodells.
