Die KI-Verordnung („KI-VO“) regelt (u.a.) die Anforderungen an KI-Systeme. Insbesondere sollen sie sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sein.
Was aber, wenn KI-Systeme gegen diese Anforderungen verstoßen und ein Schaden entsteht? Unrechtmäßiges Handeln kann bei KI-Systemen naturgemäß schwer zugeordnet werden („Blackbox“-Effekt). Hinzu kommt: Wenn kein menschliches Versagen (z.B. im Rahmen der Wahl, des „Anlernens“, der Überwachung oder der Verwendung des KI-Systems) festgestellt werden kann, sondern eine Sorgfaltspflichtverletzung „der KI selbst“ vorliegt (programmtechnisches Versagen), scheidet eine Zurechnung des KI-Fehlverhaltens nach überwiegender Ansicht aus.
Die bestehenden Unsicherheiten und Asymmetrien im Hinblick auf die Haftung beim Einsatz von KI-Systemen sollen durch zwei neue – die KI-VO flankierende – europäische Rechtsakte vermindert werden: Die KI-Haftungs-RL (Entwurf) und die Novelle der Produkthaftungs-RL (Entwurf). Veränderungen wird es danach künftig insbesondere im Deliktsrecht sowie im Produkthaftungsrecht geben.
Die KI-Haftungs-RL will Geschädigten insbesondere mit Beweiserleichterungen in Form einer Kausalitätsvermutung sowie Offenlegungsansprüchen helfen.
Geschädigte sollen bei der Geltendmachung von Schadensersatzansprüchen von Kausalitätsfragen entlastet werden. Unter bestimmten Voraussetzungen soll es künftig eine widerlegliche Vermutung dahingehend geben, dass ein ursächlicher Zusammenhang zwischen einem Verschulden bezüglich der Nichteinhaltung einer Pflicht nach der KI-VO und dem durch das KI-Ergebnis herbeigeführten Schaden besteht.
Steht ein bestimmtes Hochrisiko-KI-System im Verdacht, einen Schaden verursacht zu haben, soll der/die Geschädigte Zugang zu Beweismitteln über dieses KI-System erhalten. Soweit der Anspruchsgegner nicht vorgerichtlich kooperiert, soll dieser Offenlegungsanspruch gerichtlich durchgesetzt werden können.
Die Novelle der Produkthaftungs-RL erstreckt den Anwendungsbereich des Produkthaftungsrechts künftig ausdrücklich auch auf Software; zudem soll der Kreis potentieller Gegner von Produkthaftungsansprüchen erweitert werden.
Der Entwurf der Produkthaftungs-RL stellt nun ausdrücklich klar, dass es sich bei Software und digitalen Produktionsdateien um „Produkte“ handelt, die in den Anwendungsbereich der Produkthaftungsrichtlinie fallen. Die Diskussion, ob sich Software unter den Produktbegriff der „beweglichen Sache“ subsumieren lässt, muss somit zukünftig nicht mehr geführt werden.
Derzeit können nur Hersteller, sogenannte Quasi-Hersteller und EWR-Importeure verschuldensunabhängig für fehlerhafte Produkte auf Schadenersatz in Anspruch genommen werden. Der Entwurf der Produkthaftungs-RL erweitert den Kreis potenzieller Beklagter auf Bevollmächtigte des Herstellers, Fulfillment-Dienstleister (d.h. Lager-, Verpackungs- und Versanddienstleister) und – unter engen Voraussetzungen – sogar auf Einzelhändler und Betreiber von Online-Marktplätzen. Hierdurch soll sichergestellt werden, dass der geschädigten Person auch dann ein Beklagter zur Verfügung steht, wenn das schadensursächliche fehlerhafte Produkt direkt aus einem Nicht-EU-Land gekauft wurde, und es keinen (Quasi-) Hersteller oder Importeur mit Sitz in der EU gibt.
Außerdem sollen zukünftig auch Unternehmen, die ein Produkt außerhalb der Kontrolle des ursprünglichen Herstellers im Sinne des Produktsicherheitsrechts „wesentlich verändern“, gleich einem Hersteller verschuldensunabhängig haften, wenn das veränderte Produkt fehlerhaft ist und einen Schaden verursacht. In Anlehnung an das europäische Produktsicherheitsrecht wird somit die wesentliche Veränderung eines bereits in Betrieb genommenen Produkts dem Inverkehrbringen eines neuen Produkts gleichgestellt. Konsequenterweise soll auch eine neue Verjährungsfrist beginnen, nachdem das Produkt wesentlich verändert wurde.
Die Richtlinienentwürfe nehmen jedoch nur außervertragliche Schadensersatzansprüche in den Blick. Vertragliche Ansprüche unterliegen damit, soweit die nationalen Gesetzgeber keine „überschießenden“ Regelungen treffen, auch nach Umsetzung der Richtlinien den bisherigen (Beweis-)Regeln. Namentlich wird, wer einen vertraglichen Schadensersatzanspruch auf „KI-Fehler“ stützen möchte, weder durch gesetzliche Kausalitätsvermutungen noch durch einen erleichterten Zugang zu Beweismitteln unterstützt.
Notwendigkeit vertraglicher Regelungen?
Zwar bleiben die finalen EU-Richtlinien sowie die nationalen Umsetzungsgesetze abzuwarten. Auch wird sich zeigen müssen, wie Gerichte die dann neuen Regelungen anwenden. Wie wird ein Gericht beispielsweise damit umgehen, wenn ein Kläger seinen Anspruch (auch) auf (fernliegende aber angeblich) konkurrierende Ansprüche aus unerlaubter Handlung stützt, um über den „deliktischen“ Offenlegungsanspruch an für ihn relevante Beweise zu gelangen? Wird das Gericht prüfen, wie naheliegend deliktische Ansprüche im konkreten Fall sind und im Zweifel eine Offenlegungspflicht ablehnen? Oder wird das Gericht – z.B., indem es eine sekundäre Darlegungslast des Beklagten „sieht“ – für eine Art „Gleichlauf“ der Voraussetzungen für die Geltendmachung vertraglicher und deliktischer Ansprüche sorgen?
Wer die Beantwortung dieser Fragen – und damit die Durchsetzbarkeit eines etwaigen Haftungsanspruchs – nicht allein der (künftigen) Entscheidung von Gesetzgeber und Gerichten überlassen möchte, dem ist bereits heute zu raten, die Haftungsregelungen in seinen (Beschaffungs-)Verträgen auf „KI-Festigkeit“ zu überprüfen und ggf. anzupassen.
