Künstliche Intelligenz (KI) ist heute in zahlreichen Unternehmen fest im Alltag verankert. Kommt es dabei zu Fehlern, stellt sich zwangsläufig die Frage, wer dafür die Verantwortung trägt und haftet:
- das Unternehmen (Arbeitgeber), das das KI-System einsetzt,
- die Mitarbeitenden, die mit dem Betrieb des KI-Systems betraut sind,
- die Geschäftsführung, die verpasst hat, eine KI-Nutzungsrichtlinie einzuführen und Mitarbeitende zu schulen oder
- der Hersteller des KI-Systems?
Die KI selbst haftet jedenfalls nicht. Dafür fehlt es ihr an einer eigenen Rechtspersönlichkeit.
Risiken durch den Betrieb von KI-Systemen
Es sind regelmäßig Arbeitnehmende, die KI-Systeme bedienen und überwachen. Angesichts der vielfältigen Einsatzmöglichkeiten sind dabei unterschiedlichste Risiken denkbar, zum Beispiel:
- Verstöße gegen das Allgemeine Gleichbehandlungsgesetz (AGG), zum Beispiel durch versehentliches Aussortieren von Bewerbern aufgrund von Merkmalen wie ethnischer Zugehörigkeit, Geschlecht oder Alter,
- Verstöße gegen das Verbot automatisierter Entscheidungen (Art. 22 DSGVO), zum Beispiel bei der Vorauswahl von Bewerbern, Gehaltserhöhungen, Beförderungen oder Kündigungen,
- das Hochladen sensibler Dokumente in KI-Chatbots kann den Schutz von Geschäftsgeheimnissen, personenbezogenen Daten oder fremden Urheberrechten verletzen,
- durch Halluzinationen des KI-Systems können Fehler in ein Arbeitsprodukt eingebaut werden (zum Beispiel falsche Behauptungen, veraltete Informationen oder unzutreffende Quellenverweise).
Haftung des Unternehmens (Arbeitgeber)
Für Schäden infolge von KI-Fehlern haftet in erster Linie das Unternehmen als Arbeitgeber. Als Betreiber des KI-Systems trägt es das Unternehmerrisiko und ist für die Organisation des Betriebs sowie der eingesetzten Arbeitsmittel verantwortlich.
Haftung des Arbeitnehmers
Bei einer Pflichtverletzung des Arbeitnehmers greifen die "Grundsätze des innerbetrieblichen Schadensausgleichs". Danach haftet der Arbeitnehmer
- bei leichter Fahrlässigkeit nicht,
- bei mittlerer Fahrlässigkeit nur anteilig und
- bei grober Fahrlässigkeit oder Vorsatz voll – jeweils vorbehaltlich etwaiger Billigkeitskorrekturen.
Eine Besonderheit ergibt sich aus § 619a BGB: Bei Pflichtverletzungen im Arbeitsverhältnis wird ein Verschulden des Arbeitnehmers nicht automatisch vermutet. Die Beweislast liegt beim Arbeitgeber.
Haftung der Geschäftsführung
Organe juristischer Personen, zum Beispiel GmbH-Geschäftsführer oder der Vorstand einer AG, sind verpflichtet, die Einhaltung gesetzlicher Vorgaben im Betrieb sicherzustellen und hierfür alle notwendigen Maßnahmen zu ergreifen.
Verstößt ein Leitungsorgan schuldhaft gegen diese Pflichten und entsteht der Gesellschaft hierdurch ein Schaden, kann das zu einer Innenhaftung gegenüber der Gesellschaft führen.
Haftung des Herstellers
Eine Herstellerhaftung kommt in Betracht, wenn ein Produkt nicht die erwartete oder vorgeschriebene Sicherheit bietet. Mit der neuen Produkthaftungsrichtlinie, die bis Ende 2026 in nationales Recht überführt werden soll, wird die bisherige Produkthaftung modernisiert. Zentrale Änderungen sind:
- Unter den Produktbegriff soll nun ausdrücklich auch Software fallen – hierunter gehören auch KI-Systeme. Ein KI-Fehler könnte damit zum Beispiel bei algorithmischer Diskriminierung durch fehlerhafte Trainingsdaten vorliegen.
- Als neue Schadenskategorie wird auch der Datenverlust eingeführt.
Maßgeblich ist nicht das Verschulden des Herstellers, sondern allein die Tatsache, dass ein von ihm in Verkehr gebrachtes Produkt fehlerhaft war und dadurch einen Schaden verursacht hat.
Was können Unternehmen tun?
Der Einsatz von KI im Arbeitskontext kann für Arbeitgeber erhebliche Haftungsfragen aufwerfen. Unternehmen sind daher gut beraten, ihren Beschäftigten eine KI-Nutzungsrichtlinie vorzugeben, darin zu schulen und die erforderliche KI-Kompetenz zu vermitteln, soweit diese nicht in ausreichendem Maß vorhanden ist (Art. 4 AI Act). Regelmäßig durchgeführte Schulungen, die vermittelten Inhalte und daran Teilnehmende sollten unbedingt dokumentiert werden.
