Autoren

Mareike Christine Gehrmann

Partnerin

Read More

Fritz–Ulli Pieper, LL.M.

Salary Partner

Read More

Dr. Benedikt Kohn, CIPP/E

Senior Associate

Read More

Alexander Schmalenberger, LL.B.

Knowledge Lawyer

Read More
Autoren

Mareike Christine Gehrmann

Partnerin

Read More

Fritz–Ulli Pieper, LL.M.

Salary Partner

Read More

Dr. Benedikt Kohn, CIPP/E

Senior Associate

Read More

Alexander Schmalenberger, LL.B.

Knowledge Lawyer

Read More

11. Dezember 2023

Metaverse Dezember 2023 – 3 von 5 Insights

Analyse des Durchbruchs beim Trilog des AI Act

  • Briefing

Nach 36-stündigen intensiven Verhandlungen wurde am Abend des 8. Dezember 2023 ein Durchbruch in den Trilogverhandlungen zum EU AI Act erzielt. Diese Einigung markiert einen entscheidenden Moment in der Entwicklung und Regulierung von Künstlicher Intelligenz (KI) in der Europäischen Union. Der Kompromiss umfasst wesentliche Punkte wie die Definition von KI, Transparenzpflichten, Governance-Strukturen und den Umgang mit biometrischen Kategorisierungssystemen. Besonders hervorzuheben sind der Fokus auf freie und Open Source Software, die Regelungen zu Large Language Models wie ChatGPT und die Einführung von Umweltstandards.

Hauptstreitpunkt und die Einigung

  • Erfasste Systeme (laut Pressekonferenz): Nur fertige Systeme und Modelle sollen erfasst sein. Nicht Systeme, die sich noch in der Entwicklung befinden.
  • Definition von KI: Anlehnung an die OECD-Definition, was Konsistenz mit internationalen Standards sicherstellt.
  • Freie/Open-Source-Software: Genereller Ausschluss aus der Regulierung, jedoch mit Beachtung von Urheberrecht und Transparenz bei Trainingsdaten. Ebenfalls keine Befreiung bzgl. der Verbote und der Anforderungen bei Hochrisikosystemen und der Pflichten an KI-Modelle mit systemischen Risiken.
  • General Purpose AI Modelle (GPAI): Einführung eines abgestuften Ansatzes mit automatischer Klassifizierung für Modelle, und darauf basierender Systeme, die mit extrem hoher Rechenleistung trainiert wurden. Die Kommission erhält die Möglichkeiten, die Anforderungen gemäß des technischen Fortschritts zu justieren.
  • Transparenzpflichten: Verpflichtung zur Offenlegung von Trainingsdaten für alle General Purpose AI Modelle.
  • Verbindlichkeiten für Top-Tier-Modelle: Inklusive Modellbewertung, Bewertung systemischer Risiken und Cybersecurity.
  • Governance: Einrichtung eines KI-Büros innerhalb der Kommission.
  • Verbotene Praktiken: Liste verbotener Anwendungen, darunter manipulative Techniken.
  • Nationale Sicherheitsausnahme: Ausnahmen, aber mit Sicherheitsmechanismen gegen Missbrauch.
  • Anwendung auf bestehende Systeme: Ob die Regelungen für vor Inkrafttreten existierende KI-Systeme gelten, war umstritten. Wie die Einigung hier aussieht, ist unbekannt.
  • Territoriale Anwendung der Verbote: Wie die Diskussion über die Reichweite der Verbote ausgegangen ist, ist ebenfalls unbekannt.
  • Biometrische Kategorisierungssysteme: Debatte über das Verbot von Systemen, die auf sensiblen persönlichen Merkmalen basieren. Der genaue Ausgang der Diskussion ist hier ebenfalls unbekannt, offenbar sollen bestimmte Systeme erlaubt werden.
  • Predicitive Policing: Diskussion über das Verbot in bestimmten Kontexten. Offenbar hat man sich geeinigt, bestimmte Anwendungsfälle freigegeben.
  • Emotionserkennung: Uneinigkeit über das Verbot in bestimmten Bereichen. Offenbar hat man sich auch hier geeinigt, bestimmte Anwendungsfälle freigegeben.
  • Fernbiometrische Identifikation: Diese werden für bestimmte Katalogtaten und unter richterlicher Kontrolle erlaubt. Dies gilt für „real-time“ Anwendungen wie die nachträgliche Nutzung derartiger Systeme.

Auswirkungen und Implikationen

Das Abkommen stellt einen Wendepunkt in der Regulierung von KI dar. Es wird weitreichende Auswirkungen auf Entwickler, Unternehmen und Endnutzer haben. Die Definition von KI und die spezifischen Regelungen für Large Language Models wie ChatGPT werden die Entwicklung und den Einsatz von KI-Technologien maßgeblich beeinflussen. Die Ausnahmeregelungen für freie und Open-Source-Software und die Gegenausnahmen unterstreichen die Bedeutung von Forschung und Offenheit der neuen Technologie einerseits und die Notwendigkeit von Transparenz und Wahrung der Urheberrechte andererseits. Gerade in Bezug auf das Urheberrecht werden bereits Forderungen laut, das EU-Urheberrecht und das Datenschutzrecht in der nächsten Legislaturperiode (2024-2029) anzupassen.

Die Einführung von Transparenzpflichten und Umweltstandards setzt neue Maßstäbe für Verantwortlichkeit und Nachhaltigkeit in der KI-Entwicklung. Governance-Strukturen und verbotene Praktiken werden die ethischen Grenzen der KI-Nutzung definieren und möglicherweise kontroverse Debatten auslösen. Die Regulierung bestehender Systeme und die territoriale Anwendung zeigen die Komplexität der globalen KI-Landschaft. Die Diskussionen um biometrische Kategorisierungssysteme und Predicitve Policing verdeutlichen die sensiblen Aspekte von KI in den Bereichen Datenschutz und öffentliche Sicherheit.

Vergleichende Analyse früherer Versionen des Gesetzesentwurfs

Im Vergleich zu früheren Entwürfen des KI-Gesetzes und internationalen Standards zeigt dieser Kompromiss einen fortschrittlichen und detaillierten Ansatz zur Regulierung von KI. Die Übernahme der OECD-Definition von KI schafft eine Harmonisierung mit globalen Standards. Die differenzierte Behandlung von Open Source Software und die Einführung von Umweltstandards sind beispielhaft für eine moderne und verantwortungsvolle Technologiepolitik. Die Regelungen zu Large Language Models und Top-Tier-Modellen spiegeln das wachsende Bewusstsein für die Komplexität und das Potenzial von KI wider. Die Diskussion um biometrische Systeme und Predictive Policing zeigt aber auch, dass in einigen Bereichen noch Klärungsbedarf besteht und Konflikte zwischen Datenschutz und Sicherheitsinteressen entstehen können.

Zeitplan laut Pressekonferenz

Auf der Pressekonferenz wurde auch der Zeitplan diskutiert: Überraschenderweise soll das AI Office bereits jetzt eingerichtet werden. Die Verordnung soll im Frühjahr 2024 in Kraft treten, nach sechs Monaten sollen die Verbote greifen. Nach 12 Monaten gelten die Transparenz- und Governance-Regeln. Nach 24 Monaten sind die übrigen Rechtsregeln anwendbar.

Ausblick und Empfehlungen

Angesichts der dynamischen Entwicklung im Bereich der KI ist es wichtig, dass die EU ihre Regelungen kontinuierlich überprüft und anpasst. Die Einrichtung eines KI-Büros ist ein wichtiger Schritt zur effektiven Umsetzung und Überwachung der Regelungen. Die KI-Entwicklergemeinschaft sollte aktiv mitwirken, um die Codes of Practice zu entwickeln und zu befolgen. Es ist von entscheidender Bedeutung, dass künftige Entwicklungen im Bereich der KI ethischen, rechtlichen und sozialen Standards entsprechen und gleichzeitig Innovation und Fortschritt fördern. Die EU sollte sich weiterhin aktiv am globalen Dialog beteiligen, um die internationale Harmonisierung der KI-Regulierung zu fördern.

In dieser Serie

Informationstechnologie

Analyse des Durchbruchs beim Trilog des AI Act

11. December 2023

von mehreren Autoren

Technologie-, Medien & Kommunikationsrecht

Technology and media predictions 2024

Graham Hann looks at predictions for technology and media in 2024.

4. December 2023

von Graham Hann

Call To Action Arrow Image

Newsletter-Anmeldung

Wählen Sie aus unserem Angebot Ihre Interessen aus!

Jetzt abonnieren
Jetzt abonnieren

Related Insights

Informationstechnologie

EDPB betont Wichtigkeit freier Zustimmung bei „Pay or Okay” Modellen

18. April 2024
Briefing

von mehreren Autoren

Klicken Sie hier für Details
Machine Learning

AI Act in Gefahr? – die Regulierung von Basismodellen und Allzweck-KI

27. November 2023
In-depth analysis

von Dr. Benedikt Kohn, CIPP/E

Klicken Sie hier für Details
Daten & Cyber-Sicherheit

Cybersicherheitsvorfälle, fehlerhafte Produkte und Datenlecks - Anwendungsfälle für Masseklagen in der Technikbranche?

11. Oktober 2023
Briefing

von Alexander Schmalenberger, LL.B.

Klicken Sie hier für Details