71 Prozent der Beschäftigten in Deutschland nutzen KI-Tools im Arbeitsalltag, ohne dass diese vom Unternehmen freigegeben wurden (Umfrage von Microsoft). 38 Prozent der Arbeitnehmer:innen geben an, bereits sensible Arbeitsinformationen unerlaubt an KI-Anwendungen weitergegeben zu haben (Studie der US National Cybersecurity Alliance).
Präsentationen erstellen, Dokumente analysieren, Werbeanzeigen oder Webseiten gestalten – all das geht blitzschnell mit KI-Chatbots wie Claude oder ChatGPT. Aber auch Standardsoftware beinhaltet heute oft künstliche Intelligenz.
Tipp: Eine anonymisierte Mitarbeiter:innenbefragung hilft dabei, ein realistisches Bild der Schatten-KI-Nutzung im eigenen Unternehmen zu gewinnen.
Das Problem: Unkontrollierter Einsatz + Fehlende KI-Kompetenz = Hohes Risiko.
Compliance-Strukturen schaffen
Durch unkontrollierten KI-Einsatz sind sensible Daten wie Beschäftigtendaten, Bewerber:innendaten, Kund:innen-Informationen, Geschäftsgeheimnisse oder Finanzzahlen besonders gefährdet. Dabei können Verstöße gegen die DSGVO, die KI-Verordnung oder das AGG Bußgelder oder Schadensersatzforderungen nach sich ziehen. Neben rechtlichen Risiken drohen auch Reputationsschäden und Vertrauensverlust bei Kund:innen.
Häufig wird unterschätzt, dass Schadensersatzforderungen nicht nur Unternehmen, sondern auch die Geschäftsführung persönlich treffen können. Nach § 43 GmbHG und § 93 AktG haften Geschäftsführer:innen und Vorstände, wenn sie keine angemessenen Compliance-Strukturen schaffen und dadurch gesetzliche Vorgaben verletzt werden.
Wie gehen Unternehmen am besten vor?
- Inventur
Prüfen Sie, welche KI-Tools in Ihrem Unternehmen bereits genutzt werden – etwa durch eine anonymisierte Befragung Ihrer Mitarbeitenden. Identifizieren Sie verbotene KI-Systeme gemäß KI-Verordnung und Hochrisiko-KI-Systeme sowie unzulässige Datenverarbeitungen. Prüfen Sie auch Ihre Standardsoftware auf den Einsatz von KI.
Legen Sie fest, in welchen Bereichen und zu welchen Zwecken KI in Ihrem Unternehmen eingesetzt werden soll. Verschaffen Sie sich einen Überblick der auf dem Markt verfügbaren KI-Tools und bewerten Sie, welche davon für Ihr Unternehmen sinnvoll sind.
Kurz: Was haben wir, was wird benötigt, was kann oder muss weg?
- Klare KI-Nutzungsrichtlinie
- Legen Sie fest, welche Tools erlaubt sind (Whitelist) und wie sie genutzt werden dürfen: Regeln Sie, wer welche Daten zu welchen Zwecken in welchen KI-Systemen verarbeiten darf.
- Verbieten Sie die Privatnutzung betrieblicher KI-Systeme und verbieten Sie die Nutzung privater KI-Systeme für betriebliche Zwecke.
- Verbieten Sie die Nutzung verbotener KI-Systeme. Bereiten Sie die rechtssichere Nutzung von Hochrisiko-KI-Systemen vor.
- Definieren Sie die ethischen Grundlagen der KI-Nutzung in Ihrem Unternehmen.
- Informieren Sie über die Zulassungskriterien und -prozesse für neue KI-Tools sowie Ansprechpartner bei Fragen.
- Verpflichten Sie Ihre Mitarbeitenden auf Beachtung der KI-Nutzungsrichtlinie sowie der KI-Verordnung, DSGVO und weiterer Gesetze. Bieten Sie hierfür Schulungen an.
- Weisen Sie Ihre Mitarbeitenden auf die arbeitsrechtlichen Folgen der Missachtung der KI-Nutzungsrichtlinie hin.
Tipp: Die KI-Nutzungsrichtlinie soll von Ihren Mitarbeitenden beachtet und gelebt werden – halten Sie sie also kurz und gut verständlich für alle. Zwei bis sechs Seiten reichen üblicherweise aus. Verlieren Sie also keine Zeit damit, an einem 100-seitigen perfekten Dokument zu feilen!
Tipp: Denken Sie daran, den Betriebsrat frühzeitig einzubeziehen. Gegebenenfalls ist eine Betriebsvereinbarung erforderlich. Da die KI-Nutzung ein dynamischer Prozess ist und Sie in Zukunft vermutlich neue KI-Tools einführen möchten, empfiehlt sich eine Rahmenbetriebsvereinbarung. Sie regelt die grundlegenden Prinzipien und Zwecke der KI-Nutzung und erspart für jedes weitere Tool Verhandlungen hierüber.
- Regelmäßige Schulungen
Schulen Sie ihr Team zu den rechtlichen Leitplanken, den ethischen Grundlagen sowie den Chancen, Grenzen und typischen Fehlerquellen bei der Nutzung der in Ihrem Unternehmen ganz konkret eingesetzten KI-Tools.
- Dokumentation
Dokumentieren Sie die Bekanntmachung der KI-Nutzungsrichtlinie gegenüber einzelnen Mitarbeitenden, die angebotenen KI-Kompetenz-Schulungen, die daran Teilnehmenden und die behandelten Inhalte der Schulungen.
- Onboarding mit KI-Fokus
Denken Sie daran, bereits die New Joiner in Ihrem Unternehmen hinsichtlich der KI-Nutzungsrichtlinie zu unterweisen.
