Die KI-Verordnung (KI-VO) wird als europäische Verordnung im Rahmen eines ordentlichen Gesetzgebungsverfahrens nach Art. 294 AEUV erlassen. Die von der Europäischen Kommission vorgeschlagene KI-VO muss vom Europäischen Parlament und vom Ministerrat (Rat der EU) gemeinsam angenommen werden. Der Rat hat seinen Standpunkt bereits veröffentlicht. Im Parlament wird der vorgeschlagene Gesetzesentwurf in verschiedenen zuständigen Ausschüssen überarbeitet. Im Falle der KI-VO sind der Binnenmarktausschuss (IMCO) und der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) federführend tätig. Daneben sind weitere Ausschüsse für einzelne Themen und Artikel innerhalb der KI-VO zuständig. Nach der Überarbeitung des Kommissionsentwurfs stimmt dann das Plenum über den Gesetzestext ab. Sobald das Parlament seinen eigenen Standpunkt festgelegt hat, können Kommission, Rat und Parlament die finalen Verhandlungen (sog. „Trilog“) aufnehmen.

Nachfolgend finden Sie alle relevanten Dokumente in unserem Gesetzgebungs-Tracker, mit dem wir Sie immer auf den neuesten Stand des Gesetzgebungsverfahrens bringen.

Am 27. April 2023 einigte sich das Parlament auf einen Entwurf. Die leitenden Ausschüsse haben am 11. Mai 2023 über den Entwurf abgestimmt. Die finale Abstimmung im Plenum hat im Juni 2023 stattgefunden.

Laut KI-Verordnung ist KI definiert als „Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren“.

In Anhang I der KI-Verordnung sind die folgenden Techniken und Ansätze aufgeführt, die als Teil der KI betrachtet werden:

• Konzepte des maschinellen Lernens, mit beaufsichtigtem, unbeaufsichtigtem und bestärkendem Lernen unter Verwendung einer breiten Palette von Methoden, einschließlich des tiefen Lernens (Deep Learning)
• Logik- und wissensgestützte Konzepte, einschließlich Wissensrepräsentation, induktiver (logischer) Programmierung, Wissensgrundlagen, Inferenz- und Deduktionsmaschinen, (symbolischer) Schlussfolgerungs- und Expertensysteme
• Statistische Ansätze, Bayessche Schätz-, Such- und Optimierungsmethoden

Es ist erwähnenswert, dass sich die Definition in der KI-Verordnung auf die Ergebnisse und Ziele von KI konzentriert und nicht auf die zugrunde liegende Technologie oder Algorithmen. Die Verordnung zielt darauf ab, einen Rahmen für die ethische und vertrauenswürdige Entwicklung und Nutzung von KI-Systemen in der EU zu schaffen, wobei der Schwerpunkt darauf liegt, sicherzustellen, dass sie die Grundrechte respektieren und einer menschlichen Aufsicht unterworfen sind.

Die KI-Verordnung ist ein Verordnungsvorschlag der Europäischen Union, der darauf abzielt, einen legalen Rahmen für die Entwicklung, den Einsatz und die Nutzung von AI-Systemen in der EU zu schaffen. Die vorgeschlagene Verordnung soll sicherstellen, dass die in der EU eingesetzten KI-Systeme transparent, zuverlässig und sicher sind und die Grundrechte und -werte respektieren.

Die KI-Verordnung deckt ein breites Spektrum von KI-Anwendungen ab, darunter unter anderem:

• Biometrische Identifizierungs- und Klassifizierungssysteme
• Kritische Infrastrukturen, wie z.B. Verkehrs- und Energiesysteme
• Bildungs- und Berufsbildungssysteme
• Systeme zur Verwaltung von Beschäftigung, Arbeitnehmern und Humanressourcen
• Strafverfolgungs- und Justizsysteme
• Marketing- und Werbesysteme
• Systeme für Personalbeschaffung und Personalwesen
• Systeme zur sozialen Bewertung

Die Verordnung regelt eine Vielzahl von Aspekten im Zusammenhang mit der Entwicklung, Bereitstellung und Nutzung von KI-Systemen, einschließlich:

• Klassifizierung von KI-Systemen: Die Verordnung unterscheidet zwischen verschiedenen Arten von KI-Systemen, je nach dem Grad des Risikos, das sie darstellen. Hochrisiko-KI-Systeme, wie z.B. autonome Fahrzeuge oder Systeme zur Bewertung von Kreditwürdigkeit, unterliegen strengeren Anforderungen und Kontrollen als KI-Systeme mit geringerem Risiko, wie z.B. Chatbots.
• Anforderungen an KI-Systeme: Die Verordnung legt Mindestanforderungen fest, die KI-Systeme erfüllen müssen, um sicher, transparent, zuverlässig und verantwortungsbewusst zu sein. Dazu gehören Anforderungen an die Datenqualität, die menschliche Überwachung und Kontrolle, die Transparenz und Nachvollziehbarkeit von Entscheidungen sowie die Einhaltung ethischer Grundsätze.
• Konformitätsbewertung und Zertifizierung: Die Verordnung sieht vor, dass Hochrisiko-KI-Systeme einer Konformitätsbewertung und Zertifizierung unterzogen werden müssen, um sicherzustellen, dass sie den Anforderungen und Standards der Verordnung entsprechen.
• Verantwortung und Sanktionen: Die Verordnung legt fest, dass die Verantwortung für den Einsatz von KI-Systemen primär bei den Anbietern und Nutzern der Systeme liegt und sieht etwaige Sanktionen für Verstöße gegen die Verordnung vor.
• Überwachung und Aufsicht: Die Verordnung sieht vor, dass die Mitgliedstaaten der EU geeignete Überwachungs- und Aufsichtsbehörden einrichten, um sicherzustellen, dass die Anforderungen und Standards der Verordnung eingehalten werden.

Mit der KI-Verordnung wird auch ein Europäischer Ausschuss für Künstliche Intelligenz eingerichtet, der für die Überwachung der Umsetzung und Durchsetzung der Verordnung in der gesamten EU zuständig sein wird.

Die KI-Verordnung wird ein breites Spektrum von Akteuren betreffen, die an der Entwicklung, dem Einsatz und der Nutzung von KI-Systemen in der EU beteiligt sind. Insbesondere wird die KI-Verordnung für die folgenden Akteure relevant:

• KI-Entwickler und -Anbieter: Unternehmen und Organisationen, die KI-Systeme in der EU entwickeln oder anbieten, müssen die in der Verordnung festgelegten Anforderungen und Pflichten einhalten.
• Nutzer und Betreiber von KI-Systemen: Unternehmen und Organisationen, die KI-Systeme in der EU nutzen oder betreiben, müssen sicherstellen, dass sie die in der Verordnung festgelegten Anforderungen und Pflichten einhalten.
• Aufsichtsbehörden und weitere Behörden: Die nationalen Behörden in der EU werden für die Durchsetzung der Verordnung verantwortlich sein und sicherstellen, dass die in ihren jeweiligen Ländern eingesetzten KI-Systeme die in der Verordnung festgelegten Anforderungen und Pflichten erfüllen. Der Europäische Ausschuss für künstliche Intelligenz wird die nationalen Behörden in dieser Hinsicht anleiten und unterstützen.
• Verbraucher und Bürger: Die Verordnung zielt darauf ab, die Rechte und Interessen der Verbraucher und Bürger in der EU zu schützen, die mit KI-Systemen interagieren. Dazu gehört auch, dass KI-Systeme transparent sind und dass die Nutzer über den Einsatz von KI in ihrer Interaktion mit Unternehmen und Organisationen informiert werden.

Die KI-Verordnung zielt in erster Linie darauf ab, die Entwicklung, den Einsatz und die Nutzung von KI-Systemen in der EU zu regeln. Angesichts des globalen Charakters der KI-Branche und des Potenzials, dass KI-Systeme in mehreren Ländern eingesetzt werden können, werden die Auswirkungen der Verordnung jedoch wahrscheinlich über die Grenzen der EU hinaus spürbar sein.
Es gibt einige Gründe, warum die KI-Verordnung auch außerhalb der EU von Bedeutung sein kann:

• Die Einhaltung der KI-Verordnung kann für Unternehmen erforderlich sein, die in der EU tätig sind oder KI-Systeme für Kunden in der EU bereitstellen. Unternehmen mit Sitz außerhalb der EU, die KI-Systeme für Kunden in der EU anbieten, müssen sicherstellen, dass ihre Systeme die in der Verordnung festgelegten Anforderungen und Verpflichtungen erfüllen.
• Die KI-Verordnung kann die Entwicklung von KI-Vorschriften in anderen Rechtsordnungen beeinflussen. Andere Länder und Regionen könnten den Regulierungsansatz der EU als Vorbild für ihre eigenen KI-Vorschriften nehmen oder versuchen, ihre Vorschriften an die EU-Standards anzugleichen, um den grenzüberschreitenden Handel und die Zusammenarbeit zu erleichtern.
• Der Fokus der KI-Verordnung auf ethische und vertrauenswürdige KI könnte einen Präzedenzfall für die globale KI-Governance schaffen. Die Betonung der Verordnung, die sicherstellt, dass KI-Systeme grundlegende Rechte und Werte wie die Menschenwürde und die Privatsphäre respektieren, spiegelt einen wachsenden globalen Konsens über die Notwendigkeit einer ethischen und verantwortungsvollen KI wider.

Die KI-Verordnung ist noch nicht verabschiedet. Die Europäische Kommission schlug die Verordnung im April 2021 vor, und sie muss vom Europäischen Parlament und dem Rat der EU geprüft und genehmigt werden, bevor sie Gesetz werden kann.
Der Rat der EU hat am 6. Dezember 2022 seine allgemeine Ausrichtung zum Vorschlag der KI-Verordnung veröffentlicht. Während der letzten Abstimmungen im Parlament sorgten insbesondere hitzige Diskussionen über neue, disruptive KI-Anwendungen auf dem Markt – Stichwort: ChatGPT – für Verzögerungen im Prozess. Am 27. April 2023 einigte sich das Parlament auf einen Entwurf seiner Stellungnahme. Die leitenden Ausschüsse stimmten am 11. Mai 2023 über den Entwurf ab. Die finale Abstimmung im Plenum hat im Juni 2023 stattgefunden. Die finalen Verhandlungen, der sogenannte Trilog, ist aufgenommen worden.

Es ist somit möglich, dass die KI-Verordnung noch 2023 in Kraft treten wird. Die Mehrheit der Vorschriften wird dann weitere 24 Monate später gelten. In dieser Zeit müssen Unternehmen und Organisationen sicherstellen, dass ihre KI-Systeme den in der Verordnung festgelegten Anforderungen und Verpflichtungen entsprechen.