Künstliche Intelligenz ist längst im Unternehmensalltag angekommen. Versicherungen lassen Schadensmeldungen vorprüfen, Banken nutzen KI bei Kreditvergabeentscheidungen, Pharmaunternehmen filtern Wirkstoffkandidaten mit Algorithmen vor, Immobilienunternehmen planen Sanierungen datenbasiert und HR-Abteilungen setzen KI-Tools bei der Vorauswahl von Bewerbern ein. Auch Geschäftsführer von Unternehmen setzen inzwischen vermehrt KI-Tools ein, um ihre eigenen Aufgaben zu erledigen.
Damit stellen sich zwei zentrale Fragen: Darf sich die Geschäftsleitung bei unternehmerischen Entscheidungen auf KI verlassen? Und wann haftet die Geschäftsleitung, wenn die Empfehlung der KI falsch war?
1. Grundsatz
Als Grundsatz gilt, dass KI durch die Geschäftsleitung eingesetzt werden darf. Hierdurch wird aber nicht die Verantwortung der Geschäftsleitung ersetzt.
Ausgangspunkt der gesellschaftsrechtlichen Beurteilung bleibt die allgemeine Pflicht von Vorständen und Geschäftsführern, sorgfältig und im Interesse des Unternehmens zu handeln. Bei Aktiengesellschaften ergibt sich dies aus § 93 AktG. Für Geschäftsführer einer GmbH gelten vergleichbare Maßstäbe. Entscheidend für die Einhaltung der Sorgfaltspflichten ist, dass Geschäftsleiter ihre Entscheidungen auf eine angemessene Informationsgrundlage stützen. Ist dies der Fall, schützt sie die sogenannte Business-Judgement-Rule. Nach dieser führt eine unternehmerische Entscheidung nicht schon deshalb zur Haftung, weil sie sich nachträglich als falsch erweist. Dies trägt dem Umstand Rechnung, dass unternehmerische Entscheidungen typischerweise mit Risiken und Unsicherheiten verbunden sind und Geschäftsleitern daher ein gewisser Ermessens- und Entscheidungsspielraum zusteht, um die Gesellschaft effektiv leiten zu können.
Dieser Grundsatz lässt sich auch dann anwenden, wenn die Geschäftsleitung KI in die Entscheidungsfindung einbezieht. Prognosen über Märkte, Kaufpreise, Investitionen oder Risiken waren schon immer mit Unsicherheiten verbunden. Der Einsatz von KI-Tools ändert daran zunächst nichts. KI-Tools können die Informationsbasis verbessern, sie nehmen der Geschäftsleitung die endgültige Entscheidung in den meisten Fällen aber nicht ab. Vielmehr liefern sie ähnlich wie externe Berater zusätzliche Analysen, Einschätzungen oder Handlungsempfehlungen.
2. Pflicht zum Einsatz von KI-Tools durch die Geschäftsleitung?
Vor dem Hintergrund der immer umfangreicheren Einsatzmöglichkeiten von KI stellt sich neben der Frage der Zulässigkeit des Einsatzes von KI durch die Geschäftsleitung zugleich die Frage, ob Geschäftsleiter inzwischen verpflichtet sein können, KI-Tools in ihre Entscheidungsfindung einzubeziehen. Eine allgemeine gesetzliche Pflicht zum Einsatz von KI besteht derzeit nicht.
Gleichwohl kann es Situationen geben, in denen Geschäftsleiter den Einsatz von KI zumindest prüfen müssen. Wenn ein KI-System für eine konkrete Entscheidung offensichtlich bessere, schnellere oder umfassendere Informationen liefern kann als die der Geschäftsleitung sonst zur Verfügung stehenden Mittel, darf die Geschäftsleitung diese Möglichkeit nicht ohne Weiteres außer Acht lassen. Eine Pflicht zur routinemäßigen Nutzung von KI besteht zwar nicht. Je nach Bedeutung der Entscheidung, verfügbarer Zeit, Kosten und erkennbarem Informationsnutzen kann es jedoch sorgfaltswidrig sein, naheliegende KI-gestützte Erkenntnisquellen überhaupt nicht in Betracht zu ziehen.
Gerade bei wichtigen Entscheidungen empfiehlt es sich, zu dokumentieren, ob KI eingesetzt wurde oder warum bewusst darauf verzichtet worden ist. Eine nachvollziehbare Begründung ist im Streitfall häufig der beste Schutz für die Geschäftsleitung.
3. Pflichten der Geschäftsleitung beim Einsatz von KI-Tools
Wer KI einsetzt, muss allerdings sicherstellen, dass das System für die konkrete Aufgabenstellung geeignet ist. Dabei gelten ähnliche Grundsätze wie bei der Einschaltung von Mitarbeitern oder externen Beratern. Die Geschäftsleitung darf Aufgaben delegieren, muss Auswahl, Einsatz und Kontrolle aber angemessen organisieren und überwachen.
In der Praxis bedeutet dies vor allem, dass das KI-System nach Funktionsweise, Datenbasis, Leistungsfähigkeit und Risikoprofil für den konkreten Einsatzbereich geeignet sein muss. Standardsoftware sollte vor ihrem Einsatz geprüft werden und bei selbst entwickelten Systemen müssen die Verantwortlichen darauf achten, wie das Modell trainiert wurde und welche Daten verwendet werden. Diese Daten müssen ausreichend, geeignet und rechtmäßig nutzbar sein. Datenschutz, Urheberrecht, Wettbewerbsrecht und Gleichbehandlungsgebote können dabei eine wichtige Rolle spielen.
Besondere Vorsicht ist geboten, wenn KI zu diskriminierenden Ergebnissen führen kann. Das kann auch unbeabsichtigt geschehen. So können scheinbar neutrale Merkmale wie Wohnort oder Postleitzahl Rückschlüsse auf geschützte Eigenschaften zulassen und dadurch bestimmte Gruppen benachteiligen.
Wichtig ist außerdem, das KI-System vor dem Einsatz ausreichend zu testen. Dies kann etwa anhand alter Fälle geschehen, die dem Unternehmen bereits bekannt sind, aber nicht für das Training verwendet wurden. So lässt sich prüfen, ob die KI zu plausiblen Ergebnissen kommt. Auch gezielte Änderungen einzelner Eingabewerte können helfen. Erhöht sich beispielsweise bei einem Kreditscoring die Verschuldung, sollte das KI-System darauf nachvollziehbar reagieren.
Nach der Einführung endet die Pflicht der Geschäftsleitung allerdings nicht. KI-Systeme müssen laufend überwacht werden. Zeigen sich auffällige oder unplausible Ergebnisse, muss eingegriffen werden.
Besonders anspruchsvoll ist die Frage, wie genau Geschäftsleiter einzelne KI-Empfehlungen prüfen müssen. Aus der Rechtsprechung ist bekannt, dass sich Geschäftsleiter auf externen Rechtsrat nur verlassen dürfen, wenn sie den Berater sorgfältig auswählen und den Rat zumindest auf Plausibilität prüfen. Bei KI-Systemen ist eine solche Prüfung wegen ihrer häufig intransparenten, auch als “Black Box“ bezeichneten Entscheidungsprozesse und der für Nutzer kaum nachvollziehbaren Herleitung der Ergebnisse besonders herausfordernd. Ob und in welchem Umfang diese Grundsätze auf KI-Empfehlungen übertragbar sind, ist bislang nicht abschließend geklärt. In bestimmten regulierten Bereichen, etwa beim algorithmischen Handel im Wertpapierbereich oder bei Informationspflichten im Zusammenhang mit Kreditvergaben, bestehen bereits Sonderregelungen, die strengere Anforderungen an die Sorgfaltspflicht begründen können. Diese sind nach herrschender Meinung jedoch nicht ohne Weiteres zu verallgemeinern. Außerhalb solcher Sonderregime gelten daher die allgemeinen Sorgfaltspflichten.
Eine schematische Gleichsetzung von KI-generierten Empfehlungen mit anwaltlichem Rat erscheint jedoch nicht überzeugend, da sie der bereits angesprochenen Black-Box-Problematik nicht hinreichend Rechnung trägt. Eine KI liefert häufig kein klassisches Gutachten mit nachvollziehbarer Begründung, sondern eine Wahrscheinlichkeitsaussage. Selbst wenn ein System eine Begründung formuliert, bedeutet dies nicht zwingend, dass diese Begründung die tatsächliche “Denkweise“ des Modells offenlegt. Von Geschäftsleitern kann daher nicht verlangt werden, jeden technischen Rechenschritt nachzuvollziehen.
Erforderlich ist aber, dass die Geschäftsleitung objektiv erklären kann, warum sie die KI-Empfehlung berücksichtigt hat. Dies kann durch vorherige Tests, Erfahrungswerte, den Abgleich mit anderen Informationsquellen oder eine zusätzliche menschliche Prüfung geschehen. Stimmen mehrere Quellen überein, spricht dies eher für die Vertretbarkeit der Entscheidung. Widersprechen sie sich, sollte genauer nachgeprüft werden.
Grenzen und rechtliche Risiken bestehen dort, wo rechtliche Pflichten verletzt werden. Die Nutzung von KI-Systemen durch die Geschäftsleitung darf nicht dazu führen, dass Verträge, Gesetze oder Rechte Dritter missachtet werden (Legalitätsprinzip). Daneben sind aus haftungsrechtlicher Sicht insbesondere solche Fälle für die Geschäftsleitung problematisch, in denen die KI die maßgebliche Entscheidung faktisch selbst trifft, ohne dass eine menschliche Bewertung und Letztentscheidung erfolgt, und hieraus ein Schaden entsteht, der bei ordnungsgemäßer Überprüfung durch die Geschäftsleitung vermeidbar gewesen wäre.
Außerdem sollten Geschäftsleiter die europäische KI-Verordnung (Verordnung (EU) 2024/1689 vom 13. Juni 2024) beachten, deren Regelungen nun nach und nach Anwendung finden. Je nach Einsatzbereich können KI-Systeme als Hochrisiko-Systeme einzustufen sein, etwa bei Kreditwürdigkeitsprüfungen natürlicher Personen oder bestimmten Anwendungen in der Lebens- und Krankenversicherung. In diesen Fällen gelten zusätzliche Anforderungen, unter anderem an Risikomanagement, Datenqualität, Dokumentation, Transparenz, menschliche Aufsicht und laufende Überwachung.
4. Zusammenfassung und Fazit
Für die Praxis lassen sich für den Einsatz von KI-Tools von Geschäftsleitern für unternehmerische Entscheidungen sechs Punkte festhalten.
- Den Einsatz bewusst entscheiden und dokumentieren. Es sollte nachvollziehbar sein, warum KI eingesetzt wurde oder warum bewusst darauf verzichtet worden ist.
- Das System sorgfältig auswählen. Die KI muss zur konkreten Aufgabe passen.
- Daten und Training prüfen. Die Daten müssen rechtmäßig, geeignet und diskriminierungsfrei nutzbar sein.
- Ergebnisse testen und überwachen. Das System sollte auch in der Praxis zuverlässig funktionieren.
- Gesetzliche und vertragliche Vorgaben beachten. Der Einsatz von KI-Systemen muss im Einklang mit allen einschlägigen gesetzlichen und vertraglichen Regelungen stehen (Legalitätsprinzip).
- Menschliche Kontrolle vorsehen. Besonders bei rechtlich sensiblen oder wichtigen Unternehmensentscheidungen sollte die Letztentscheidungskompetenz bei der Geschäftsleitung verbleiben.
KI-Systeme können Geschäftsleiter unterstützen und Entscheidungen verbessern. Sie verlagern aber nicht die Verantwortung. Wer KI nutzt, muss nicht jedes technische Detail verstehen. Die Geschäftsleitung muss aber nachvollziehbar begründen können, warum sie sich auf das System verlassen durfte. Zudem muss sie zumindest die grundlegende Funktionsweise des jeweiligen KI-Tools verstehen. KI kann die Entscheidungsfindung unterstützen; die Entscheidung und die Verantwortung bleiben jedoch bei der Geschäftsleitung. Nur so kann den Erfordernissen der Business-Judgement-Rule Rechnung getragen und eine Haftung des Geschäftsleiters im Nachgang vermieden werden.
