Unsere KI-Rechtsanwältinnen und -Rechtsanwälte
Unsere Expertinnen und Experten stehen Ihnen zum Thema AI Act gern zur Verfügung. Kontaktieren Sie sie gerne direkt.
Unsere KI-Anwältinnen und -Anwälte stellen Ihnen hier alle notwendigen Informationen sowie den aktuellen Stand der KI-Verordnung der EU bereit. Darunter:
Wir beraten unsere Mandanten im IT-, Telekommunikations- und Datenschutzrecht und haben besondere Erfahrung in Rechtsfragen der Digitalisierung sowie der Künstlichen Intelligenz.
Da sich die KI-Verordnung der EU noch mitten im Gesetzgebungsprozess befindet und diese Seite laufend aktualisiert wird, möchten wir alle Besucherinnen und Besucher ermutigen, sich mit Ideen und Anregungen einzubringen. Nehmen Sie gern Kontakt zu uns auf!
Detaillierte Insights von unseren Expert:innen zur KI-Verordnung
Tracking the EU AI Act, an interview with tech journalist Luca Bertuzzi | Tech Me Up! Session #1
von mehreren Autoren
Wie viel Rechtsunsicherheit steckt in Europas KI-Verordnung?
von Fritz–Ulli Pieper, LL.M. und Alexander Schmalenberger, LL.B.
Evolving legal paradigms in AI and the Metaverse: An exposition on recent developments
Fünf Erkenntnisse zu general purpose AI aus dem geleakten AI Act
von Dr. Christian Frank, Licencié en droit (Paris II / Panthéon-Assas) und Dr. Julia Freifrau von Imhoff
Die Schnittstellen zwischen künstlicher Intelligenz und dem Data Act
von Dr. Carolin Monsees, CIPP/E und Stephanie Richter, LL.M. (Torino), CIPP/E
Die KI-Verordnung (KI-VO) wird als europäische Verordnung im Rahmen eines ordentlichen Gesetzgebungsverfahrens nach Art. 294 AEUV erlassen. Die von der Europäischen Kommission vorgeschlagene KI-VO muss vom Europäischen Parlament und vom Ministerrat (Rat der EU) gemeinsam angenommen werden. Bereits im Dezember 2022 hat der Rat seine Position zum Vorschlagsentwurf veröffentlicht. Auch das Europäische Parlament hat im Anschluss in seinen Ausschüssen eine Position ausgearbeitet. Im Falle der KI-VO sind der Binnenmarktausschuss (IMCO) und der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) federführend tätig. Daneben sind weitere Ausschüsse für einzelne Themen und Artikel innerhalb der KI-VO zuständig. Nach der Überarbeitung des Kommissionsentwurfs hat das Plenum über den Gesetzestext abgestimmt. Auf Grundlage des dann vorliegenden Parlamentsvorschlags haben Kommission, Rat und Parlament die finalen Verhandlungen (sog. „Trilog“) aufgenommen. Im Dezember 2023 haben sich die Beteiligten dann vorläufig auf einen abschließenden Entwurf geeinigt, welcher im Januar 2024 veröffentlicht wurde. Im Februar 2024 haben die Mitgliedstaaten und die Parlamentsausschüsse diesem Entwurf zugestimmt.
Voraussichtlich im April 2024 findet die dann finale Abstimmung im Europäischen Parlament statt. Kurze Zeit später wird die KI-VO im EU-Amtsblatt veröffentlicht und tritt am 20. Tag nach der Veröffentlichung in Kraft.
Nachfolgend finden Sie alle relevanten Dokumente in unserem Gesetzgebungs-Tracker, mit dem wir Sie immer auf den neuesten Stand des Gesetzgebungsverfahrens bringen.
Am 27. April 2023 einigte sich das Parlament auf einen Entwurf. Die leitenden Ausschüsse haben am 11. Mai 2023 über den Entwurf abgestimmt. Die finale Abstimmung im Plenum hat im Juni 2023 stattgefunden. Im Januar 2024 wurde die voraussichtlich finale Fassung als Ergebnis der Verhandlungen von Parlament und Rat veröffentlicht.
Datum |
Dokument |
Dokumententyp |
Link |
Beschreibung |
22. Januar 2024 | Abstimmungsfassung | Konsolidierte Fassung | EN | Fassung für die weitere Abstimmungen in den zuständigen Ausschüssen des Parlaments. Enthält den Text, auf den sich die Verhandlungsführer von Parlament und Rat geeinigt haben. |
16. August 2023 | Konsolidierte Fassung der KI-Verordnung (EP-Vorschlag) – mit Änderungen –, zusammengestellt von Taylor Wessing |
Konsolidierte Fassung mit Änderungen | DE | Konsolidierte Version der KI-Verordnung auf Basis der Vorschläge des Europäischen Parlaments und der Europäischen Kommission. Diese gibt einen kompakten Überblick über den aktuellen Stand der KI-Verordnung nach Vorstellung des Europäischen Parlaments. Vorliegend handelt es sich um die Variante mit sichtbaren Änderungen. Hier wurden sämtliche Änderungen rot hinterlegt. Vorliegend handelt es sich um die Variante ohne sichtbare Änderungen. Hier wurden sämtliche Änderungen des Europäischen Parlaments in den Text der Kommission integriert. |
16. August 2023 | Konsolidierte Fassung der KI-Verordnung (EP-Vorschlag) – ohne Änderungen –, zusammengestellt von Taylor Wessing |
Konsolidierte Fassung ohne Änderungen | DE | Konsolidierte Version der KI-Verordnung auf Basis der Vorschläge des Europäischen Parlaments und der Europäischen Kommission. Diese gibt einen kompakten Überblick über den aktuellen Stand der KI-Verordnung nach Vorstellung des Europäischen Parlaments. |
14. Juni 2023 | Parlamentsvorschlag | Abänderungen des Europäischen Parlaments zum Vorschlag der Kommission | DE | Abänderungen des Europäischen Parlaments vom 14. Juni 2023 zu dem Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD))“ |
11. Mai 2023 | Durch die federführenden Ausschüsse (IMCO und LIBE) angenommene Position | Position zum Legislativvorschlag |
EN | Auch das Parlament hat in seiner Position zum Legislativvorschlag Änderungsvorschläge gemacht. Insbesondere die hitzigen Diskussionen rund um General-Purpose und Generative AI – prominentestes Beispiel: ChatGPT – gaben Anlass für intensive Überarbeitungen. So wurde die KI-Definition in Einklang mit der Definition der OECD gebracht. Auch wurden weitere KI-Praktiken verboten: Biometrische Identifizierungs-Systeme sollen beispielsweise – anders als ursprünglich vorgeschlagen – vollständig verboten sein ohne etwa Ausnahmen für Fälle terroristischer Angriffe oder Entführungen vorzusehen. General-Purpose AI und Generative AI sollen nach einem gestuften Ansatz reguliert werden. Die Hauptverantwortlichkeit soll hiernach zunächst Wirtschaftsakteuren, die derartige KI in ihre Anwendungen integrieren, zukommen. Anbietern von General-Purpose AI soll lediglich eine unterstützende Rolle mit Transparenzpflichten zukommen. Bei Generative AI, wie z.B. ChatGPT, hingegen muss eine Zusammenfassung der urheberrechtlich geschützten Trainingsdaten bereitgestellt werden sowie offengelegt werden, dass der Text KI-generiert ist. Für die Klassifizierung als Hochrisiko-KI-System soll nun zusätzlich Voraussetzung sein, dass das System ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte von Menschen darstellt. |
Datum |
Dokument |
Dokumententyp |
Link |
Beschreibung |
22. Januar 2024 | Abstimmungsfassung | Vier-Spalten-Dokument | EN | Fassung für die Abstimmungen im Rat am 24. Januar 2024 und am 2. Februar 2024. Enthält die ursprüngliche Fassung des Vorschlags zur KI-Verordnung der Kommission, die Änderungswünsche gem. der Verhandlungspositionen von Rat und Parlament und den Text der Einigung der Verhandlungsführer. |
06. Dezember 2022 | Allgemeine Ausrichtung |
Finale Position zum Legislativvorschlag |
DE | Der Rat hat in seiner Position Änderungsvorschläge gegenüber dem ursprünglichen Kommissionsvorschlag gemacht. So beinhaltet die Position beispielweise eine eingeschränkte KI-Definition. Zudem sollen KI-Systeme, die militärischen Zwecken oder der nationalen Sicherheit dienen, sowie KI-Nutzungen durch Privatpersonen vom Anwendungsbereich ausgenommen werden. Social Scoring soll auch für Private – und nicht nur für Behörden – verboten sein. Aber auch die Liste der Hochrisiko-KI-Systeme wurde angepasst: So sollen z.B. KI-Systeme zur Aufdeckung von Deepfakes durch Strafverfolgungsbehörden sowie zur Kriminalanalyse und Auswertung großer Datensätze nicht mehr als hochriskant eingestuft werden. Als Hochrisiko-KI-Systeme ergänzt wurden hingegen KI-Systeme zur Risikobewertung bei Lebens- und Krankenversicherungen sowie zur Verwendung als Sicherheitskomponenten in kritischer digitaler Infrastruktur. |
25. November 2022 | Vermerk zu Allgemeiner Ausrichtung vom Ausschuss der Ständigen Vertreter an das Generalsekretariat des Rates | Position zum Verordnungsvorschlag | DE |
Datum |
Dokument |
Dokumententyp |
Link |
Beschreibung |
28. September 2022 | Entwurf KI-Haftungs-Richtlinie | Legislativvorschlag |
DE | Die vorgeschlagene Richtlinie soll die zivilrechtlichen Regeln gesetzlicher Haftung an das KI-Zeitalter anpassen. Hierzu sieht sie insbesondere Offenlegungspflichten für Beweismittel und widerlegbare Vermutungen vor. Diese sollen greifen, wenn Pflichten unter der KI-Verordnung verletzt werden und so die Erfolgsaussichten von Geschädigten auf Schadensersatz verbessern. Die KI-Haftungs-Richtlinie ist somit eng mit der KI-Verordnung verzahnt. |
21. April 2021 |
Entwurf KI-Verordnung |
Legislativvorschlag | DE |
Der Legislativvorschlag teilt nach seinem verfolgten risikobasierten Ansatz KI-Systeme in vier verschiedene Risiko-Kategorien ein. Darauf aufbauend beinhaltet der Vorschlag Regelungen zu Verboten, legt strenge Anforderungen und Pflichten für Hochrisiko-KI-Systeme fest und sieht entsprechend mildere Transparenzpflichten für andere KI-Systeme vor. So sollen Entwicklung, Inverkehrbringen und Nutzung von KI-Systemen in der Europäischen Union harmonisiert geregelt werden. |
21. April 2021 | Entwurf KI-Verordnung Anhang | Legislativvorschlag | DE | Die Anhänge beinhalten weitere Ausführungen, auf die in den Vorschriften der Verordnung Bezug genommen wird. So unter anderem: die für die KI-Verordnung relevanten Techniken und Konzepte der Künstlichen Intelligenz, eine Liste der Hochrisiko-Systeme oder Ausführungen zur Konformitätsbewertung. |
Datum |
Dokument |
Dokumententyp |
Link |
Beschreibung |
29. Dezember 2021 | Europäische Zentralbank I Europäische Zentralbank II |
Stellungnahme | DE DE |
|
02. Dezember 2021 | Europäischer Ausschuss der Regionen | Stellungnahme | DE |
|
22. September 2021 | Europäischer Wirtschafts- und Sozialausschuss (EESC) | Stellungnahme |
DE |
|
18. Juni 2021 | Europäischer Datenschutzausschuss (EDPB) und Europäischer Datenschutzbeauftragter (EDPS) | Stellungnahme | DE | |
21. April 2021 | Finale Folgenabschätzung (EU-Kommission) |
Folgenabschätzung | EN | |
23. Juli 2020 | Vorläufige Folgenabschätzung (EU-Kommission) |
Folgenabschätzung | EN |
|
19. Februar 2020 | Weißbuch (EU-Kommission) |
EN | ||
08. April 2019 | Europäische Kommission zu Leitlinien für vertrauenswürdige Künstliche Intelligenz | Leitlinien | DE | |
07. Dezember 2018 | Koordinierter Plan zu Künstlicher Intelligenz von der Europäischen Kommission Anhang zum koordinierten Plan |
Koordinierter Plan | DE DE |
|
25. April 2018 | KI-Strategie der Europäischen Kommission | Strategie | DE |
Datum |
Dokument |
Dokumententyp |
Link |
Beschreibung |
25. November 2022 | Erklärung Deutschlands zur Allgemeinen Ausrichtung des Rates der EU | Vermerk | DE | |
November 2022 | Intellera Consulting | Bericht | EN | Schätzung der Compliance Kosten für einen kleinen bis mittelgroßen KI-Anbieter |
November 2022 | Open Loop (unterstützt von Meta) |
Bericht | EN | Erprobung einiger Artikel des AI-Gesetzes mit Unternehmen, um zu bewerten, wie verständlich, durchführbar und wirksam sie sind |
05. Oktober 2022 | European Digital SME Alliance | Stellungnahme | EN | |
05. Oktober 2022 | Europäischer Kooperationsausschuss der Werkzeugmaschinenindustrie (CECIMO) | Stellungnahme | EN | |
26. September 2022 | Sachverständige im Bundestag | Stellungnahme | DE | |
19. September 2022 |
Deutsche Stellungnahme | Stellungnahme | EN | |
30. März 2022 | Gesamtverband der Deutschen Versicherungswirtschaft | Stellungnahme | DE | |
25. November 2021 | Deutscher Anwaltsverein | Stellungnahme | DE | |
10. August 2021 | Deutsche Kreditwirtschaft | Stellungnahme | DE | |
06. August 2021 | Deutscher Verband der Elektro- und Digitalindustrie | Stellungnahme | DE | |
06. August 2021 | Deutscher KI-Verband | Stellungnahme | EN | |
06. August 2021 | Bundesverband Digitale Wirtschaft (BVDM) | Stellungnahme | ||
04. August 2021 | Bundesverband für Medizintechnologie | Stellungnahme | DE | |
30. Juni 2021 | Deutscher Juristinnenbund | Stellungnahme |
KI-Verordnung (AI Act) – Übersichten
Laut KI-Verordnung ist ein KI-System definiert als „ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie arbeiten soll und nach der Einführung Anpassungsfähigkeit zeigen kann und explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, und Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können“.
Diese Definition entspricht der Definition der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD). Diese Verwendung einer international entwickelten und anerkannten Definition kann deren Akzeptanz und die Harmonisierung fördern.
Die KI-Verordnung ist eine Verordnung der Europäischen Union, die darauf abzielt, einen legalen Rahmen für die Entwicklung, den Einsatz und die Nutzung von KI-Systemen in der EU zu schaffen. Die Verordnung soll sicherstellen, dass die in der EU eingesetzten KI-Systeme transparent, zuverlässig und sicher sind und die Anbieter und Betreiber die Grundrechte und -werte respektieren.
Die KI-Verordnung deckt ein breites Spektrum von KI-Anwendungen ab, darunter unter anderem:
Die Verordnung regelt eine Vielzahl von Aspekten im Zusammenhang mit der Entwicklung, Bereitstellung und Nutzung von KI-Systemen, einschließlich:
Mit der KI-Verordnung wird auch ein Europäisches Büro für Künstliche Intelligenz („AI Office“) eingerichtet, das gemeinsam mit mitgliedstaatlichen Behörden für die Überwachung der Umsetzung und Durchsetzung der Verordnung in der gesamten EU zuständig sein wird.
Die KI-Verordnung wird ein breites Spektrum von Akteuren betreffen, die an der Entwicklung, dem Einsatz und der Nutzung von KI-Systemen in der EU beteiligt sind. Insbesondere wird die KI-Verordnung für die folgenden Akteure relevant:
Die KI-Verordnung zielt in erster Linie darauf ab, die Entwicklung, den Einsatz und die Nutzung von KI-Systemen in der EU zu regeln. Angesichts des globalen Charakters der KI-Branche und des Potenzials, dass KI-Systeme in mehreren Ländern eingesetzt werden können, werden die Auswirkungen der Verordnung jedoch wahrscheinlich über die Grenzen der EU hinaus spürbar sein.
Es gibt einige Gründe, warum die KI-Verordnung auch außerhalb der EU von Bedeutung sein kann:
Die KI-Verordnung ist noch nicht verabschiedet. Die Europäische Kommission schlug die Verordnung im April 2021 vor, und sie muss vom Europäischen Parlament und dem Rat der EU geprüft und genehmigt werden, bevor sie Gesetz werden kann.
Der Rat der EU hat am 6. Dezember 2022 seine allgemeine Ausrichtung zum Vorschlag der KI-Verordnung veröffentlicht. Während der letzten Abstimmungen im Parlament sorgten insbesondere hitzige Diskussionen über neue, disruptive KI-Anwendungen auf dem Markt – Stichwort: ChatGPT – für Verzögerungen im Prozess. Am 27. April 2023 einigte sich das Parlament auf einen Entwurf seiner Stellungnahme. Die leitenden Ausschüsse stimmten am 11. Mai 2023 über den Entwurf ab. Die finale Abstimmung im Plenum hat im Juni 2023 stattgefunden. Im Trilogverfahren haben sich die Beteiligten im Dezember 2023 inoffiziell auf einen finalen Entwurf geeinigt. Die Mitgliedstaaten und die Beteiligten Parlaments-Ausschüsse haben diesem Entwurf im Februar 2024 zugestimmt. Die finale Abstimmung im Europäischen Parlament wird voraussichtlich im April 2024 erfolgen. Kurze Zeit später wird die KI-VO im EU-Amtsblatt veröffentlicht und tritt dann am 20. Tag nach der Veröffentlichung in Kraft. Vollständige Geltung entfalten die Normen 24 Monate nach dem Inkrafttreten, wobei für einige KI-Systeme ein abgestuftes Verfahren vorgesehen ist, das einige Regelungen schon vorher anwendbar macht:
Mit Künstlicher Intelligenz zum Erfolg: Wie DeepL KI nutzt
Live-Mitschnitt | Tech & Law TV
Zum Live-MitschnittAI – are we getting the balance between regulation and innovation right?
Interface-Ausgabe vom 9. Mai 2023
Jetzt lesenNewsletter-Anmeldung
Wir informieren Sie gerne zu aktuellen rechtlichen und branchenbezogenen Themen.
Jetzt anmelden