"Bereite eine Präsentation zu unserem neuen Produkt vor, das wir im November vorstellen." Auf den ersten Blick wirkt der Prompt harmlos. Er enthält weder Namen noch Kontonummern oder Adressen. Trotzdem kann darin eine vertrauliche Information stecken: Das Produkt ist noch nicht angekündigt.
Genau solche Fälle adressiert die Lösung Brane der AI-Z Group. Diese wurde von Julian Antony Lang und Noah Rametsteiner sowie Oumar Langer gegründet. Ihr Ansatz: Unternehmen sollen leistungsfähige KI-Modelle nutzen können, ohne bei jedem Prompt darauf vertrauen zu müssen, dass Mitarbeitende selbst erkennen, welche Informationen das Unternehmen verlassen dürfen.
Dafür entwickelten die drei eine Software, die als lokale Sicherheitsinstanz im Unternehmensnetz betrieben wird und Anfragen prüft, bevor sie an externe Sprachmodelle weitergeleitet werden. Brane entscheidet, ob ein Prompt lokal verarbeitet, vor der Weitergabe pseudonymisiert unverändert an ein Cloud-Modell geschickt wird. Grundlage sind unternehmensspezifische Vorgaben und eine semantische Analyse.
Gerade diese semantische Prüfung soll auch Fälle erfassen, die sich nicht über einfache Kategorien abbilden lassen. "Wir arbeiten nicht nur nach verschiedenen Regeln", erklärt Langer. Entscheidend sei auch der Zusammenhang: Die Ankündigung eines neuen Produkts enthalte zwar keine offensichtlich schützenswerten Daten, könne für das Unternehmen aber dennoch hochsensibel sein.
Zwischen Verbot und Cloud-KI
Ausgangspunkt für die Entwicklung waren nach Angaben des Unternehmens mehr als 200 KI-Schulungen bei Firmen unterschiedlicher Größe. Dabei sei immer wieder das gleiche Problem aufgetaucht: Mitarbeitende wollten leistungsfähige KI-Dienste nutzen, während Unternehmen gleichzeitig Kontrolle über ihre Daten behalten müssten.
Eine Möglichkeit besteht darin, öffentliche KI-Dienste einzuschränken und stattdessen intern betriebene Modelle bereitzustellen. Doch das könne dazu führen, dass Beschäftigte auf private KI-Zugänge ausweichen oder mit den internen Lösungen unzufrieden sind. "Dazu ist eine hybride Lösung nötig, die sowohl lokal als auch in die Cloud gehen kann", beschreibt Langer die Überlegung hinter Brane.
Hinzu kommen regulatorische und rechtliche Fragen. Langer verweist unter anderem auf DSGVO, EU-AI-Act und US-Cloud-Act. Unternehmen müssten aus seiner Sicht deshalb genau festlegen, welche Informationen externe KI-Anbieter erreichen dürfen. Als Beispiele nennt er personenbezogene Daten, Bewerberinformationen oder Geschäftsgeheimnisse.
Die Entscheidung fällt im Unternehmensnetz
Technisch setzt Brane zwischen Nutzer und KI-Modell an. Dafür wird eine Hardware-Box im Unternehmensnetz installiert, auf der bereits ein lokales Open-Source-Sprachmodell läuft. Nach Angaben von Langer lässt sich die Box im Serverraum oder Rechenzentrum einbinden; das lokale Modell wird vorkonfiguriert ausgeliefert. Neue Modelle und Aktualisierungen sollen regelmäßig aufgespielt werden.
Jeder Prompt durchläuft zunächst diese lokale Instanz. Erst dort fällt die Entscheidung, wie die Anfrage weiterverarbeitet wird. Dafür gibt es drei Wege: Enthält ein Dokument besonders sensible technische, geschäftliche oder andere vertrauliche Informationen, kann die Anfrage vollständig auf dem lokalen Modell verarbeitet werden. Die Daten verlassen das Unternehmensnetz dann nicht.
Lassen sich einzelne sensible Angaben herauslösen, kann die Lösung diese vor der Weitergabe an ein Cloud-Modell pseudonymisieren. In einer Demonstration zeigt Langer das anhand einer E-Mail mit personenbezogenen Daten: Das externe Modell erhält nur die veränderte Fassung. Nach der Verarbeitung setzt Brane die ursprünglichen Angaben lokal wieder in die Antwort ein. "Der Nutzer bemerkt gar keinen Unterschied", so Langer.
Wird ein Prompt dagegen als unkritisch eingestuft, kann er direkt an ein externes KI-Modell geschickt werden. Dabei ist Brane nicht auf ein einzelnes KI-Modell oder einen einzelnen Bereitstellungsort beschränkt. Unternehmen können festlegen, welche Modelle und Infrastrukturen für bestimmte Daten und Anwendungsfälle zum Einsatz kommen – lokal, innerhalb einer europäischen Cloud-Infrastruktur oder über andere freigegebene Cloud-Dienste. "Damit muss nicht mehr der einzelne Nutzer entscheiden, ob eine Anfrage das Unternehmensnetz verlassen darf. Diese Prüfung übernimmt das System technisch", erläutert Langer.
Gerade bei umfangreichen Dokumenten kann die lokale Verarbeitung relevant werden. Würden darin zu viele Inhalte pseudonymisiert, könne dem externen Modell der notwendige Zusammenhang fehlen, konkretisiert Langer. In solchen Fällen soll Brane deshalb entscheiden, die komplette Analyse auf dem lokalen Modell vorzunehmen.
Relevanz für kommunale Unternehmen
Direkte Stadtwerke-Referenzen nennt Langer bislang nicht. Relevant kann der Ansatz für kommunale Unternehmen Langer zufolge aus zwei Gründen sein: Mitarbeitende wollen KI-Modelle für E-Mails, Dokumente, Verträge, Analysen und interne Informationen nutzen, gleichzeitig gelten hohe Anforderungen an Datenschutz, Informationssicherheit und Nachvollziehbarkeit. Über Brane lasse sich zentral festlegen, welche Inhalte externe Modelle sehen dürfen; diese Vorgaben werden technisch durchgesetzt und nicht allein der Entscheidung einzelner Beschäftigter überlassen.
Eine entscheidende Frage bleibt allerdings: Wie zuverlässig kann eine KI selbst beurteilen, ob eine Information kritisch ist? Die Lösung kombiniert dafür unterschiedliche Kontrollmechanismen. Eindeutige Vorgaben wie "Keine IBAN darf an ein externes KI-Modell übertragen werden" lassen sich technisch verbindlich durchsetzen. Bei kontextabhängigen Informationen ergänzt eine semantische Analyse diese Regeln. Welche Richtlinien gelten, definiert das Unternehmen selbst. Bei der Frage, ob der Zusammenhang einer Aussage vertraulich ist, bleibe die Entscheidung dagegen wahrscheinlichkeitsbasiert.
Damit nimmt diese Lösung Unternehmen nicht die Aufgabe ab, Regeln für den Umgang mit KI festzulegen. Der Ansatz verlagert aber einen Teil der Kontrolle von der einzelnen Nutzerentscheidung auf eine technische Instanz im eigenen Netzwerk. Darin sieht Langer den Vorteil: Beschäftigte sollen externe KI-Modelle nutzen können, ohne jedes Mal selbst beurteilen zu müssen, welche Informationen das Unternehmen verlassen dürfen.
