Am 14. Juni 2023 hat das Europäische Parlament („EU-Parlament“) seine finale Position zum „Artificial Intelligence Act“ („AI-Act“) veröffentlicht. Damit liegen nach dem initialen Entwurf der Europäischen Kommission („EU-Kommission“) und der Position des Rates der Europäischen Union („EU-Rat“) nun alle drei Entwürfe vor und der Weg für den Trilog ist frei. Dieser ist vor dem Hintergrund der 2024 stattfindenden Wahlen des EU-Parlaments zeitnah zu erwarten. Nachfolgend sollen die wichtigsten Änderungen zum Kommissionsentwurf beleuchtet werden.
Ausweitung des Anwendungsbereiches
Das EU-Parlament hat die Definition des Begriffs „System der Künstlichen Intelligenz („KI-System“)“ breiter gefasst und damit den Anwendungsbereich des AI-Acts ausgeweitet. KI wird nun definiert als ein maschinenbasiertes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie arbeitet und für explizite oder implizite Ziele Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen generieren kann, die die physische oder virtuelle Umgebung beeinflussen. Damit haben sich die Parlamentarier der Definition des OECD angeschlossen. Auch, wenn es sich bei dieser Definition um eine der wohl anerkanntesten handeln dürfte, steht sie in der Kritik: Sie sei deutlich zu weit gefasst, so dass auch technisch einfache Geräte – wie beispielsweise Smart-Home-Geräte oder „normale“ Software – unter den AI-Act fallen würden.
Mehr Verbote
Auch nach dem Parlamentsentwurf verboten bleiben Systeme für die nicht wahrnehmbare Manipulation menschlichen Verhaltens, Ausnutzung von Schwächen einer Person sowie Social Scoring. Dazu kommen allerdings eine Reihe weiterer KI-Systeme, darunter KI-Anwendungen für Predictive Policing und Risk Assessment Tools, biometrische Kategorisierungssysteme, Ge-sichtserkennungsdatenbanken durch Scraping von Social Media oder Überwachungskameras und Emotionserkennungssysteme in bestimmten Bereichen wie Strafverfolgung. Auch das Verbot der Biometrischen Identifizierungssysteme wurde ausgeweitet.
Änderungen im Bereich Hochrisiko-KI
Weniger stark gestiegen ist der Umfang der Hochrisiko-Systeme. Eine nennenswerte Ergänzung könnte allerdings große praktische Relevanz entfalten, denn zusätzlich als hochriskant eingestuft werden Empfehlungssysteme sehr großer Online-Plattformen (sogenannte VLOPs). Auch KI-Systeme zur Beeinflussung von Wahlen oder Wählerverhalten sollen als hochriskant eingestuft werden. Eine weitere wichtige Neuerung bei Hochrisiko-KI-Systemen ist zudem, dass eine zweite Klassifizierungs-Ebene eingezogen wurde: KI-Systeme sollen nur dann als Hochrisiko-Systeme gelten, wenn von ihnen ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte von natürlichen Personen ausgeht.
Generative AI
Wichtige Änderungen finden sich auch zum Thema „Generative AI“ – zu jenem Bereich von KI, um welchen sich seit der Veröffentlichung von ChatGPT Ende November letzten Jahres der Kern der jüngsten öffentlichen Diskussion dreht. Entsprechend wird Generative AI weder im initiativen Entwurf der EU-Kommission noch in den Änderungsvorschlägen des Rates vom Dezember 2022 gesondert geregelt. Das EU-Parlament legt verschiedene Anforderungen für Anbieter eines Grundlagenmodells fest. Darunter zählen die Einrichtung eines Risikomanagementsystems, die Verwendung geeigneter Datensätze, die Gewährleistung einer angemessenen Qualität (Leistung, Vorhersagbarkeit, Sicherheit usw.) durch geeignete Maßnahmen, die Einhaltung von Energieeffizienzstandards; die Erstellung einer angemessenen technischen Dokumentation und Gebrauchsanweisung, die Einrichtung eines Qualitätsmanagementsystems sowie die Registrierung des Grundlagenmodells. Für Anbieter von Generative AI werden zusätzliche Pflichten festgelegt. Sie müssen Transparenzpflichten erfüllen, angemessene Schutzmaßnahmen gegen die Erzeugung von Inhalten, die gegen EU-Recht verstoßen, nach dem Stand der Technik und ohne Beeinträchtigung von Grundrechten wie der Meinungsfreiheit gewährleisten und eine Zusammenfassung der Verwendung von urheberrechtlich geschützten Trainingsdaten öffentlich dokumentieren. Da Kommission und Rat ihre Positionen in Hinsicht von Generative AI (noch) nicht festgelegt haben, ist hier mit besonderer Spannung der Ausgang des Trilogs abzuwarten.
Geringere Bußgelder
Bemerkenswert sind auch die Anpassungen hinsichtlich der Bußgelder im Falle eines Verstoßes gegen die Vorschriften des AI-Act. Das EU-Parlament hat die Bußgelder deutlich gesenkt. Lediglich bei Verstößen gegen das Inverkehrbringen verbotener KI-Systeme wurde die Höchstbuße von bis zu 30 auf 40 Millionen Euro (oder 7% des weltweiten Jahresumsatzes) angehoben. Die Obergrenzen für KMUs wurde gestrichen, jedoch soll die Größe und wirtschaftliche Leistungsfähigkeit bei der Bemessung der Bußgelder berücksichtigt werden. Neu eingefügt wurde eine Bußgeldregel für Verstöße gegen Vorschriften zu Daten-Governance sowie Transparenz und Bereitstellung von Informationen. Hier sieht der Entwurf ein Bußgeld in Höhe von 20 Millionen Euro oder 4% des weltweiten Jahresumsatzes vor.