Mehrfach haben KI-Agenten bei Sicherheitstests Grenzen überschritten und sind in reale Systeme eingedrungen. KI-Labore wie Anthropic oder Open AI warnen selbst vor den Risiken der eigenen Technologie. Schnell ist von einer "außer Kontrolle geratenen KI" die Rede. Doch diese Lesart ist mehr Sensationslust als Diagnose. Fakt ist: Die betroffenen KI-Agenten haben keinen eigenen Willen entwickelt. Die Wahrheit ist viel banaler: Sie bekamen von Menschen einen Auftrag – und führten ihn unerwartet kreativ aus. Eine KI muss uns überhaupt nicht schaden wollen. Es reicht, wenn sie den Willen eines Angreifers sehr kompetent ausführt.
Früher skalierte der Exploit – heute skaliert der Angreifer
Dabei ist die größte Veränderung nicht einmal die Kreativität – sondern die Geschwindigkeit. Cyberangriffe folgten lange einer ziemlich einfachen Ökonomie: Eine Lücke zu finden dauerte so lange, dass sich der Aufwand nur dort lohnte, wo eine Schwachstelle auf viele tausende identische Systeme angewandt werden konnte. Verbreitete Consumer-Software war deshalb das attraktivste Ziel; exotische Eigenentwicklungen hingegen eher nicht. In vielen IT-Abteilungen entstand dadurch das Gefühl, Open Source und Legacy wären sicherer als Standardsoftware. Und tatsächlich war das bis vor kurzem keine ganz falsche Annahme. Sicherheitsforscher sprechen dabei von der "Security by Antiquity": Veraltete oder ungewöhnliche Technik war relativ sicher, weil sich kaum jemand die Mühe machte, sie anzugreifen.
KI verändert diese Rechnung gerade grundlegend. Moderne Modelle können blitzschnell Quellcode analysieren, Schnittstellen rekonstruieren, alte Programmiersprachen verstehen und unzählige Lösungswege ausprobieren. Anthropic demonstrierte mit Mythos bereits wie mit vollautomatischer Schwachstellensuche tausende Lücken auf einmal gefunden werden können. Früher musste ein Angriffsvektor standardisierbar sein, um zu skalieren. Heute lässt KI zunehmend auch individualisierte Angriffe skalieren. Damit verlieren mit einem Mal tausende Systeme, die bisher zu speziell waren, um in den Fokus von Angreifern zu rücken, ihren Bestandsschutz.
Welche Rolle KI bereits bei der Bewertung von Schwachstellen und beim Abgleich mit Sicherheitsvorgaben spielen kann, zeigt ein Beitrag über KI in Sicherheitskonzepten.
Besonders betroffen: Die immer dezentralere Energiewirtschaft
Diese Veränderung stellt viele Branchen vor große Herausforderungen – allen voran die Energiewirtschaft. Dass der Sektor im Fadenkreuz steht, ist keine Theorie: Erst im Juli wurde ein britischer Stromerzeuger nach einem Cyberangriff vier Tage außer Betrieb gesetzt. Medien brachten den Angriff mit iranischen Akteuren in Verbindung; die britische Regierung kommentierte das bisher nicht, aber das Schweigen spricht Bände.
Wie angespannt das aktuelle Bedrohungsbild für kritische Infrastrukturen ist, zeigt auch eine aktuelle Studie.
Zugleich trifft die neue Angriffsgeschwindigkeit im Energiesektor auf besonders langlebige Technik und jahrzehntelang gewachsene IT- und OT-Landschaften. Eigenentwicklungen, Sonderlösungen und alte Programmiersprachen waren hier bisher Ausdruck von Unabhängigkeit. Heute drohen sie zur technischen Schuld zu werden. Selbst Programmiersprachen, die zu alt sind, um noch Entwickler dafür zu finden sind für eine angreifende KI nicht schwerer zu lesen als eine Bedienungsanleitung.
Und die Energiewende verschärft das Problem zusätzlich. Smart Meter, Wechselrichter, Speicher und fernbetriebene Erzeuger schaffen ständig neue Identitäten, Verbindungen und Softwarebestände – und immer neue Abhängigkeiten. Telekommunikation braucht Strom, ein dezentrales Stromsystem braucht Telekommunikation. Ein Cyberangriff kann so vom Datenpaket zum physischen Ereignis werden.
Vom Schloss zum Sicherheitsdienst
Natürlich ist dieses Problem nicht unbekannt. Viele Unternehmen denken dabei allerdings vor allem an bessere Firewalls – doch das ist Teil einer alten Denkweise. Die klassische Sicherheitslogik war statisch: gutes Schloss, hoher Zaun, gelegentliche Kontrolle. Übertragen hieß das Firewall, Penetrationstest, Audit und Patch-Zyklus.
Doch diese Logik kommt im KI-Zeitalter an ihr Ende. Wenn KI rund um die Uhr Schwachstellen suchen und Exploits erzeugen kann, kann auch die Verteidigung nicht mehr statisch sein, sondern sie muss permanent handeln: Systeme inventarisieren, Konfigurationen prüfen, Anomalien erkennen, Rechte begrenzen und Gegenmaßnahmen automatisiert ausrollen. Das beste Schloss reicht nicht mehr – Im KI-Zeitalter braucht es zusätzlich einen Sicherheitsdienst, der rund um die Uhr patrouilliert und Schlösser austauscht, bevor der Einbrecher den passenden Schlüssel gebaut hat.
Diese neue Logik trifft in der Energiewirtschaft auf eine IT, die vielfach noch nicht einmal im Cloud-Zeitalter angekommen ist. Die Geschichte von der übermächtigen KI ist deshalb vor allem eine bequeme Ausrede: Sie verdeckt, dass ein Großteil der Angreifbarkeit aus einer längst überfälligen Überholung der eigenen IT-Fähigkeiten entsteht: Während die Angreifer sich industrialisiert haben, sind die Verteidiger im Zeitalter der Manufaktur stehengeblieben.
Die On-Premise-Illusion muss enden
Besonders erstaunlich ist deshalb die Renaissance des Selbstbetriebs. Rund um offene KI-Modelle entsteht gerade eine Art technisches Biedermeier: das Modell auf die eigene Hardware, die Daten in den eigenen Keller – und schon fühlt sich alles wieder souverän an.
Für isolierte Spezialanwendungen kann das sinnvoll sein. Sobald eine solche KI aber mit dem Internet verbunden ist, Tools nutzt oder auf Unternehmenssysteme zugreift, übernimmt der Betreiber auch den gesamten Sicherheitsbetrieb. Unabhängigkeit heißt dann vor allem, sich immer stärkeren Angreifern ohne die Unterstützung großer, permanent lernender Sicherheitsökosysteme entgegenzustellen.
Ein eigener Server ist kein Sicherheitskonzept. Er ist nur ein Betriebsort. Cloud und integrierte Sicherheitsplattformen sollten für die meisten Funktionen zum Regelfall werden. Eigenbetrieb braucht heute eine wirklich gute Begründung. Für viele Energieunternehmen ist das kein optionales Innovationsprojekt mehr, sondern das Nachholen versäumter IT-Modernisierung.
Die Frage nach dem Betriebsort ist deshalb eng mit den Cloud-Abhängigkeiten von Energieversorgern und der Kontrolle über sicherheitskritische Dienste verbunden.
Zentral lernen, lokal überleben
Cloud first heißt dabei nicht, jede Schutzfunktion im Stromnetz von einer Internetverbindung abhängig zu machen. Zeitkritische und ortsgebundene OT muss lokal funktionsfähig sein. Dafür sollten knappe eigene IT-Kapazitäten reserviert bleiben. Identitätsmanagement, Threat Intelligence, Security Monitoring sowie Asset- und Vulnerability-Management lassen sich hingegen zentral orchestrieren und profitieren massiv von der Einbettung in aktiv gemanagte Ökosysteme.
Die Büchse der Pandora ist geöffnet
All diese Veränderungen mögen unbequem erscheinen. Ob KI für Cybersecurity gut oder schlecht ist, ist dabei jedoch die falsche Frage. Die Technologie ist da, und Angreifer werden sie nutzen.
Die Frage ist deshalb nicht, ob KI eine Bedrohung für IT-Systeme ist. Die Frage ist, ob ob die Verteidiger in den IT-Abteilungen in Anbetracht dieser Bedrohung den Kopf in den Sand stecken und romantische On-Premise-Fantasien pflegen, oder ob sie ihre Betriebsmodelle endlich ins 21. Jahrhundert bringen. Die Zukunft der Cybersicherheit ist nicht weniger KI – sondern bessere IT.
