Die "KI-Sicherheitsstudie 2026" des Bundesamtes für Sicherheit in der Informationstechnik (BSI) und des TÜV-Verbands zeigt: 49 Prozent der befragten Unternehmen setzen bereits künstliche Intelligenz ein, weitere neun Prozent planen den Einsatz. Bei den Sicherheitsprozessen klafft jedoch eine Lücke. Nur elf Prozent der Unternehmen mit bestehender oder geplanter KI-Nutzung haben spezielle Abläufe für KI-bezogene Sicherheitsvorfälle.
Gleichzeitig berichten 17 Prozent der Befragten von bestätigten oder vermuteten Cyberangriffen und Betrugsversuchen, bei denen KI eine Rolle gespielt hat oder gespielt haben könnte. Für die Untersuchung befragte das Institut forsa im Auftrag des BSI und des TÜV-Verbands zwischen dem 22. Juni und dem 31. Juli 2026 insgesamt 505 Unternehmen.
Der Befund passt zu einer Entwicklung, die die ZFK bereits beschrieben hat: Zwischen dem Selbstbild deutscher Unternehmen und der tatsächlichen Integration von KI klafft eine deutliche Lücke. Nun zeigt sich die zweite Seite dieser Entwicklung – in der Sicherheitsvorsorge.
Die Angreifer nutzen den Vorsprung
Die 17 Prozent mit Vorfällen teilen sich auf: Vier Prozent berichten von bestätigten Fällen, elf Prozent von Verdachtsfällen und zwei Prozent von beidem. In der Studie wird damit kein flächendeckendes Angriffsgeschehen beschrieben. Sie zeigt aber, dass KI-gestützte oder mutmaßlich KI-gestützte Vorfälle in den Unternehmen angekommen sind.
Bei den betroffenen Unternehmen dominieren bekannte Angriffsmethoden. 90 Prozent der Firmen, die mindestens einen entsprechenden Vorfall oder Verdachtsfall meldeten, nennen hochrealistische Phishing-E-Mails als vermutete Angriffsmethode. 40 Prozent berichten von automatisierten Angriffsskripten, elf Prozent von sogenannten Deepfakes, also gefälschten Audio- oder Videoaufnahmen. Die Angaben beziehen sich auf eine Teilgruppe von 91 Unternehmen.
Die Bedrohung entsteht damit nicht allein durch völlig neue Angriffstechniken. KI kann bekannte Methoden schneller skalierbar und überzeugender machen. Fehlerfreie Sprache, passende Details aus dem Arbeitsalltag oder eine imitierte Stimme erschweren es Beschäftigten, echte Nachrichten von Fälschungen zu unterscheiden.
Viele Unternehmen verlassen sich auf alte Prozesse
"KI verschärft die Bedrohung von außen und schafft neue Risiken im eigenen Betrieb", sagt Dirk Stenkamp, Präsident des TÜV-Verbands und Vorstandsvorsitzender von TÜV Nord. Angreifer könnten mit KI ihre Attacken automatisieren und Menschen gezielter täuschen, erklärt Stenkamp. Zugleich könne eine KI sensible Daten preisgeben oder auf Grundlage falscher Informationen Entscheidungen treffen.
Bei der Reaktion auf KI-bezogene Sicherheitsvorfälle setzen 43 Prozent der Unternehmen mit bestehender oder geplanter KI-Nutzung auf allgemeine IT-Sicherheitsprozesse. Spezielle KI-Regeln haben sie bislang nicht ergänzt. Weitere 20 Prozent erarbeiten entsprechende Abläufe. Ein Viertel verfügt nach eigenen Angaben über keine Regelungen für solche Vorfälle. Nur elf Prozent haben bereits spezielle Prozesse eingerichtet.
Auch bei den organisatorischen Grundlagen zeigt sich ein uneinheitliches Bild. 63 Prozent der Unternehmen, die KI nutzen, haben eine feste Zuständigkeit für KI-Themen. 59 Prozent verfügen über verbindliche interne Richtlinien. Eine unternehmensweite Strategie gibt es dagegen nur bei 33 Prozent. In vielen Betrieben ist damit geregelt, wer sich grundsätzlich um KI kümmert. Weniger klar ist offenbar, wie Anwendungen über den gesamten Lebenszyklus hinweg überwacht und im Störungsfall abgeschaltet oder ersetzt werden.
Technische Schutzmaßnahmen sind weiter verbreitet als spezielle Notfallprozesse. 67 Prozent der KI-nutzenden Unternehmen prüfen kritische Ergebnisse durch Beschäftigte. 64 Prozent beschränken Zugriffsrechte, 62 Prozent schützen sensible Daten. 52 Prozent testen KI-Anwendungen vor dem Einsatz auf Sicherheitsrisiken. Eine Protokollierung oder Überwachung der KI-Nutzung gibt es dagegen nur bei 40 Prozent. Acht Prozent nennen keine der abgefragten technischen Schutzmaßnahmen.
KI ist nicht nur ein Angriffsrisiko
Die Unternehmen nutzen KI bislang vor allem für die Erstellung von Texten, Bildern und Code. 96 Prozent der KI-nutzenden Betriebe nennen diesen Bereich. 53 Prozent setzen die Technologie zur Datenanalyse ein. Zur Verbesserung der eigenen IT-Sicherheit nutzt sie dagegen nur etwa ein Drittel. Damit bleibt ein Teil des möglichen Nutzens für die Abwehr von Angriffen ungenutzt.
Das ist auch deshalb bemerkenswert, weil viele Unternehmen den KI-Einsatz aus Sicherheitsgründen kritisch sehen. 53 Prozent der Unternehmen, die derzeit keine KI verwenden und dies auch nicht planen, nennen Datenschutz- oder Sicherheitsbedenken als Grund. Häufiger wird nur ein fehlender Nutzen genannt, den 58 Prozent anführen. Weitere Hürden sind ein hoher Integrationsaufwand, rechtliche Unsicherheiten, fehlende Kompetenzen und erwartete Kosten.
BSI-Vizepräsident Thomas Caspers erklärt deshalb: "Auch Unternehmen, die selbst keine KI einsetzen, sind durch KI-gestützte Cyberangriffe gefährdet." Die Angreifenden müssen nicht abwarten, bis ein Unternehmen eigene Modelle betreibt. Es reicht, wenn sie KI nutzen, um Nachrichten zu formulieren, Identitäten zu imitieren oder Angriffe zu automatisieren.
Für die Unternehmen folgt daraus eine doppelte Aufgabe. Sie müssen Anwendungen sicher auswählen und betreiben. Zugleich müssen sie ihre Beschäftigten befähigen, mit neuen Formen der Täuschung umzugehen. 76 Prozent der KI-nutzenden Betriebe sehen zusätzlichen Schulungsbedarf bei der Anwendungskompetenz. 69 Prozent wünschen sich mehr Wissen über den sicheren Umgang mit KI. 60 Prozent nennen Governance und rechtliche Vorgaben als Weiterbildungsfeld.
Der AI Act erhöht den Druck
Auch die europäische Regulierung verstärkt den Handlungsdruck. 71 Prozent der Befragten fühlen sich schlecht über die Anforderungen des AI Act informiert. Selbst unter den Unternehmen mit KI-Einsatz bleibt der Kenntnisstand lückenhaft. Die meisten dieser Unternehmen ordnen sich nach der Studie als Betreiber ein. Sie entwickeln die Systeme nicht selbst, sondern setzen Anwendungen anderer Anbieter ein.
Unternehmen müssen nicht selbst ein Sprachmodell entwickeln, um für dessen Einsatz verantwortlich zu sein. Sie müssen Anwendungen auswählen, Zugriffsrechte festlegen, Daten schützen, Ergebnisse überwachen und den Umgang mit Fehlern organisieren. Je stärker KI in Kundenkommunikation, Personalprozesse, Prognosen oder technische Abläufe eingebunden wird, desto wichtiger werden nachvollziehbare Zuständigkeiten.
Lesen Sie auch: Deutschland bekommt KI-Aufsicht: Neue Pflichten für Stadtwerke
Viele Unternehmen hoffen dabei auf unabhängige Prüfungen. 69 Prozent der Betriebe mit bestehender oder geplanter KI-Nutzung erwarten von Prüfungen und Zertifizierungen eine höhere Sicherheit und Zuverlässigkeit. Für 51 Prozent sind Zertifizierungen durch unabhängige Prüforganisationen ein wichtiges Auswahlkriterium. Der TÜV-Verband entwickelt derzeit gemeinsam mit dem TÜV AI.Lab ein Rahmenprogramm für die Zertifizierung von KI-Systemen. Es soll nach Angaben des Verbands Ende 2026 verfügbar sein.
Zertifikate können die Auswahl von Anwendungen erleichtern. Sie ersetzen jedoch weder laufende Kontrollen noch klare Verantwortlichkeiten im Unternehmen. Die Frage ist deshalb, ob die Unternehmen ihre Sicherheitsarchitektur ebenso schnell weiterentwickeln wie ihre KI-Anwendungen. Denn der nächste Schritt der KI-Integration wird nicht nur an ihrer Leistungsfähigkeit entschieden – sondern auch daran, wie zuverlässig die Systeme im laufenden Betrieb überwacht und im Ernstfall kontrolliert werden.
