Wenn eine KI die Grundlage für unternehmerische Entscheidungen liefert, haften die verantwortlichen Personen, nicht die Maschine. Das macht den Einsatz von künstlicher Intelligenz für Vorstände und Geschäftsführungen riskant. Gleichzeitig kann er manchmal unvermeidbar sein. Die zentrale Frage ist daher: Wie weit trägt die Business Judgement Rule, wenn die Informationen aus einer Blackbox stammen? Und können die Organe umgekehrt verpflichtet sein, KI zu nutzen?
Dieser Beitrag gibt Unternehmensleitungen Orientierung, was im Hinblick auf die Entscheidungsfindung mit KI zu beachten ist.
Die Business Judgement Rule des § 93 Abs. 1 S. 2 AktG, der „Safe Harbor“, schützt Vorstandsmitglieder und Geschäftsführer:innen vor persönlicher Haftung, wenn sie bei einer unternehmerischen Entscheidung vernünftigerweise annehmen durften, auf der Grundlage angemessener Information zum Wohle der Gesellschaft zu handeln.
Kann KI Expertenrat ersetzen?
Wenn das Unternehmen nicht über ausreichend eigene Fachexpertise verfügt oder die Thematik von zu großer Tragweite ist, müssen die Leitungsorgane Expertenrat hinzuziehen. Um sich als Geschäftsleitung auf eine Expertenempfehlung verlassen zu dürfen, müssen jedoch die folgenden rechtlichen Voraussetzungen erfüllt sein:
- Fachkunde des Experten bzw. der Expertin
- Keine Vorgaben an den Experten bzw. die Expertin hinsichtlich des gewünschten Ergebnisses
- Vollständige und transparente Offenlegung des relevanten Sachverhalts
- Überprüfung, ob alle notwendigen und relevanten Informationen berücksichtigt worden sind
- Widerspruchsfreie Beantwortung naheliegender Fragen fachfremder Dritter.
Sind die Voraussetzungen erfüllt, entlastet der Expertenrat die Organmitglieder. Befragt sie allerdings die KI statt eines Menschen, können die Anforderungen nur bedingt herangezogen werden. Zwar verfügen KI-Systeme über Analysefähigkeiten und eine umfangreiche Datenbasis, besonders bei spezifischen Fragestellungen und der Berücksichtigung von Besonderheiten. Ergebnisse der KI sind jedoch nicht immer fehlerfrei und es passiert, dass KI-Tools Daten verzerren, halluzinieren oder einfach unzuverlässige Quellen heranziehen. Mit menschlicher Fachkompetenz und Erfahrung kann die KI nicht gleichgesetzt werden. Daher reicht es nicht, wenn die oben genannten Voraussetzungen – sofern dies überhaupt möglich ist – erfüllt sind.
Ein fehlerhaftes KI-Ergebnis ist nicht mit einer fehlerhaften Einschätzung eines Fachexperten bzw. einer -expertin vergleichbar. Sie kann daher aktuell nicht ohne Weiteres einen Expertenrat ersetzen und würde ein Leitungsorgan daher nicht von seiner persönlichen Haftung entlasten können.
Inwieweit dürfen sich Geschäftsführer:innen und Vorstände auf KI-generierte Ergebnisse verlassen?
Geschäftsführer:innen und Vorstände müssen ihre Entscheidungen auf Basis einer fundierten Informationsgrundlage treffen. KI-Systeme können bei der Informationsaufbereitung unterstützen, aber nicht die menschliche Prüfung ersetzen.
Organmitglieder sollten daher sicherstellen, dass KI-generierte Ergebnisse nicht ungefiltert übernommen werden. Jedes Ergebnis muss vor allem im Hinblick auf den exakten Kontext und die Aktualität überprüft werden. Nicht selten nutzt die KI nur Bruchstücke aus Quellen, um eine Lösung auf die Frage zu finden und zieht auf diese Weise fehlerhafte Schlussfolgerungen. Die von der KI verwendeten Quellen sind daher detailliert zu sichten, zu hinterfragen und der Prozess zu dokumentieren, um den eigenen Pflichten Rechnung zu tragen.
KI kann eine erste Einschätzung liefern und damit ein hilfreiches Werkzeug bei der Entscheidungsfindung sein. Vollständig von ihrer Prüf- und Überwachungspflicht entbinden kann sie Geschäftsführer:innen und Vorstände jedoch nicht.
Verlassen sie sich auf ein KI-generiertes Ergebnis, ohne es zu überprüfen, kann die Geschäftsleitung persönlich für einen entstehenden Schaden haften.
Wie ist der Einsatz von KI zu dokumentieren?
Wichtig ist, dass im Nachgang nachvollziehbar ist, auf welcher Informationsgrundlage die Entscheidung der Geschäftsleitung basierte.
KI-Tools speichern die Ergebnisse oft nur für einen kurzen Zeitraum. Es ist daher empfehlenswert, den KI-Einsatz sowie die sorgsame Überprüfung der verwendeten Ergebnisse genau zu dokumentieren.
In der Dokumentation sollten sich unter anderem folgende Aspekte wiederfinden:
- Verantwortlichkeit des Nutzenden: Name, Datum, Einhaltung von internen Freigabeprozessen, Überprüfung der KI-generierten Ergebnisse hinsichtlich Kontext, Aktualität und Quellen
- KI-Tool: Name, Version, Datum
- Verwendete Prompts und zur Verfügung gestellte Dokumente
- Nutzungszweck sowie das gewünschte Endprodukt (Auswertung, Analyse, Gutachten, Brief).
Ferner sollten – sofern möglich – entsprechende PDF-Dateien von den Prompts und den Ergebnissen erstellt werden.
Hat die Geschäftsleitung die Entscheidungsgrundlage nicht hinreichend dokumentiert, kann sie im Zweifel nicht beweisen, dass sie sich angemessene Informationen eingeholt hat. Sie kann sich nicht auf die Business Judgement Rule berufen.
Verpflichtet die Business Judgement Rule zum Einsatz künstlicher Intelligenz?
Eine spannende Frage ist, inwiefern Geschäftsleitungen sogar verpflichtet sein können, KI einzusetzen. Der BGH hat im Jahr 2008 entschieden: Bei der Entscheidungsfindung müssen alle verfügbaren Informationsquellen tatsächlicher und rechtlicher Art ausgeschöpft werden. Auf dieser Grundlage müssen Geschäftsführer:innen und Vorstände die Vor- und Nachteile der bestehenden Handlungsoptionen sorgfältig abschätzen (BGH, Beschluss vom 14. 7. 2008 – II ZR 202/07).
Wohl niemand kann Informationsquellen schneller auswerten als künstliche Intelligenz. Hinzu kommt: Unternehmerische Entscheidungen sind oft kurzfristig zu treffen. Geschäftsführer:innen und Vorstände können mit KI gegebenenfalls Informationen berücksichtigen, deren Analyse andernfalls mehrere Wochen in Anspruch genommen hätte und daher nicht Grundlage für die Entscheidungsfindung hätte sein können.
Heißt dies somit für die Praxis, dass man sogar der Pflicht unterliegt, KI-Tools zu nutzen, um die Entscheidungsfindung auf einen größeren Umfang an Informationen bzw. ausgewerteten Daten zu stützen?
Es kann Fälle geben, in denen eine Geschäftsleitung auch die in ihrem Unternehmen integrierte KI einsetzen muss, um alle vorhandenen Informationen auszuschöpfen. Dies vor allem in den Fällen, in denen sie auch im täglichen Geschäftsbetrieb die KI für die Informationsgewinnung und Auswertung benutzt. Gibt es in so einem Fall keinen rechtlichen Grund gegen die Nutzung von KI, wie zum Beispiel Vertraulichkeit oder Datenschutz, wäre das Organmitglied wohl nicht nach der Business Judgement Rule geschützt, wenn es auf eine KI-Auswertung bewusst verzichtet und dann eine fehlerhafte Entscheidung trifft. Eine persönliche Haftung käme in Frage, da die Geschäftsleitung nicht alle zur Verfügung stehenden Informationsquellen genutzt hätte. Wichtig ist jedoch auch in diesem Zusammenhang, dass die KI-generierten Ergebnisse und Informationen auf Plausibilität geprüft werden.
Hören Sie zum Thema Haftung von Organmitgliedern auch unseren Podcast.
