"Nicht jede Entscheidung gehört in die Maschine"

Katharina Zweig, Professorin für Informatik an der Rheinland-Pfälzischen Technischen Universität Kaiserslautern-Landau (RPTU) spricht über die Grenzen algorithmischer Systeme, dünne und dicke Regeln – und warum Unternehmen ihre Identität klären müssen, bevor sie KI einsetzen.

Frau Zweig, Sie beschäftigen sich seit Jahrzehnten mit der Frage, wie gute Entscheidungen entstehen. Was treibt Sie dabei an?

Ich frage mich seit über 20 Jahren, wie gute Entscheidungen zustande kommen – und wie es dazu kommt, dass Softwaresysteme schlechte Entscheidungen treffen. Aber ich frage mich genauso, wie Menschen schlechte Entscheidungen treffen. Zum Beispiel, warum gibt jemand einer unbekannten Software vollständige Rechte auf dem eigenen Rechner, auf dem die Kreditkartendaten hinterlegt sind? Diese Frage nach Entscheidungsqualität ist für mich zentral.

Sie plädieren in der aktuellen KI-Debatte für mehr Ruhe. Warum?

Wir erleben im Moment eine enorme Beschleunigung. Neue Tools, neue Plattformen, ständig neue Versprechen. Ich habe bewusst etwas anderes gemacht: "Slow Reading". Ich lese gemeinsam mit Philosophen Bücher – langsam, gründlich, mit Diskussion. Das hilft mir, mich zu erden und Systeme sauber einzuordnen.

Sie beziehen sich auf den Kybernetiker Stafford Beer. Was ist für Unternehmen daran relevant?

Stafford Beer sagt: Eine langfristig überlebensfähige Organisation braucht fünf Untersysteme.
Erstens das operative Tagesgeschäft – in den meisten Fällen mit verschiedenen Abteilungen, zum Beispiel Verwaltung, Kundenakquise, Service, Produktion, etc. Zweitens ein System zur Ressourcenverteilung zwischen diesen Abteilungen. Drittens ein Managementsystem für Ausnahmen, die im Tagesgeschäft auftreten, für die es aber noch keine Entscheidungsregeln gibt. Viertens eine strategische Umweltbeobachtung.

Und fünftens – und das finde ich besonders wichtig – die Frage: Wer sind wir eigentlich?
Diese Identitätsfrage wird in der KI-Debatte oft übersehen.

Sie betonen die Identitätsfrage als fünftes System. Was genau meinen Sie damit?

Identität ist die Frage: Wer sind wir eigentlich? Wer wollen wir sein? Das ist keine technische Frage, sondern eine Führungsfrage. Wenn ein Unternehmen nicht weiß, wofür es steht, dann läuft es jeder technologischen Entwicklung hinterher.

Im Stafford-Beer-Modell bestimmt das oberste System die Identität. Es sorgt dafür, dass Entscheidungen auf allen anderen Ebenen konsistent bleiben.

Gerade in der KI-Debatte wird diese Ebene oft übersehen. Man fragt: Was kann die Technologie? Aber man fragt zu selten: Passt das zu uns? Wollen wir Entscheidungen dieser Art überhaupt automatisieren?
Diese Klärung kann keine Maschine übernehmen. Das ist Aufgabe der Führung.

Sie unterscheiden zwischen "dünnen" und "dicken" Regeln. Was meinen Sie damit?

Das ist eine Formulierung von Professorin Daston aus ihrem Buch "Regeln", das ich mit meinen Philosophiekollegen im "Slow-Reading" gelesen habe: In Organisationen entstehen Regeln auf unterschiedliche Weise. Manche sind schriftlich fixiert. Wie zum Beispiel Prozesse, Leitfäden, Vertragsbedingungen. Andere sind mündlich überliefert. Und vieles ist implizit: Man beobachtet andere und übernimmt deren Vorgehen.

Dünne Regeln sind stark strukturiert und explizit formulierbar. Sie lassen sich so präzise beschreiben, dass ein Computer sie ausführen kann. Sie sagt: Dünne Regeln leben in konstruierten Taschen der Welt. Wir schaffen uns Bereiche, in denen Regelhaftigkeit funktioniert.

Viele Unternehmen glauben, der Großteil ihrer Arbeit sei automatisierbar – bestünde also aus dünnen Regeln. Aber selbst wenn 80 Prozent der Aufgaben regelbasiert erscheinen, benötigen diese oft nur einen kleinen Teil der Arbeitszeit. Die komplexen 20 Prozent kosten unverhältnismäßig viel Zeit – und genau dort stoßen KI-Systeme an Grenzen.

Was bedeutet das für den KI-Einsatz?

Wenn dünne Regeln bekannt sind, reichen Algorithmen oder Expertensysteme. Maschinelles Lernen kann dort helfen, wo Regeln bisher nur implizit vorhanden waren oder nicht gut strukturiert sind. Aber wir dürfen nicht vergessen: Am Ende ist auch ein trainiertes System statischer, regelbasierter Code.

Und was heißt das im Umkehrschluss für die "dicken Regeln"?

Dicke Regeln benötigen Werturteile. Dort reicht es nicht, eine formal beschriebene Regel anzuwenden. Man braucht Kontext, Abwägung und Begründung.

Bei Entscheidungen, bei denen sich Experten nicht beliebig uneinig sein dürfen, halte ich große Zurückhaltung für geboten. Diese Entscheidungen sind normativ aufgeladen. Sie verlangen nachvollziehbare Begründungen und Verantwortung.

KI kann unterstützen – etwa durch Strukturierung oder Vorsortierung. Aber die finale Bewertung und Verantwortung gehört nicht in die Maschine.

Welche Entscheidungen sollte man KI-Systemen überlassen – und welche nicht?

Ich unterscheide vier Typen:

Singuläre strategische Entscheidungen – etwa: "Gehen wir an die Börse?" – sind ungeeignet.

Faktische Entscheidungen mit messbarem Outcome sind geeignet, wenn man Qualität und ROI, also den Return on Investment, überprüfen kann.

Risikovorhersagen sind schwieriger, weil Prognosen selbst die Zukunft verändern können.

Und bei Werturteilen rate ich klar zur Vorsicht. Dort brauchen wir Begründungen. Die kann KI nicht liefern.

Viele Unternehmen setzen stark auf KI-Agenten zum Beispiel Salesforce …

Ja, Salesforce hat sehr stark auf agentische KI-Systeme gesetzt und im letzten Sommer viel Personal reduziert. Seit Januar 2026 stellen sie massenhaft wieder Mitarbeitende ein. Denn in der Praxis zeigte sich, dass große Sprachmodelle bei komplexen Aufgaben an Grenzen stoßen.

Wenn man ihnen sehr viele Instruktionen gibt, können sie beginnen, einzelne Anweisungen nicht mehr konsistent zu berücksichtigen. Zudem sind sie nicht vollständig deterministisch – gleiche Eingaben führen nicht immer zu identischen Ergebnissen. In manchen Prozessen ist jedoch genau diese Verlässlichkeit erforderlich.

Hinzu kommt, dass solche Systeme bei Nebenfragen den Fokus verlieren können. Man spricht hier von "AI Drift".

Als Reaktion darauf wurden wieder stärkere Kontrollmechanismen und klar definierte Regelstrukturen eingeführt. In gewisser Weise erlebt man damit wieder eine Rückkehr zu den klassischen, stärker regelbasierten Systemen.

Was raten Sie Unternehmen konkret beim KI-Einsatz?

Erstens: eine klare Problemspezifikation. Zweitens: technologieoffen nach Lösungen suchen. Wenn es algorithmisch geht, nehmen Sie Algorithmen. Drittens: Betroffene einbinden. Viertens: sauber implementieren. Fünftens: kontinuierliche Qualitätssicherung.

KI darf man nicht einfach laufen lassen. Und vor allem: Klären Sie Ihre Identität. Wer wollen Sie sein? Das ist die eigentliche Führungsaufgabe.