Die KI-Verordnung aus HR-Perspektive: Worauf müssen sich Personaler einstellen?

Künstliche Intelligenz“ (KI) gewinnt immer mehr an Bedeutung für die deutsche Wirtschaft. Sie wird vermehrt von Unternehmen eingesetzt, um Prozesse zu vereinfachen und zu beschleunigen. Insbesondere ihr Einsatz im HR-Bereich, etwa im Rahmen von Bewerbungsprozessen, hat deutlich zugenommen. Während die Technik stetig voranschritt, stolperte das „Recht“ bislang jedoch noch hinterher. Doch zuletzt hat sich einiges getan: In Deutschland wurde das Betriebsrätemodernisierungsgesetz verabschiedet, dass (unter anderem) die Beteiligungsrechte des Betriebsrates beim Einsatz von KI zum Gegentand hat. Dazu zählt aber insbesondere auch der Entwurf einer europäischen KI-Verordnung. Die Verordnung wird erhebliche Auswirkungen für Unternehmen haben, die KI in der Personalarbeit einsetzen möchten. Der nachfolgende Beitrag zeigt auf, auf was sich Unternehmen einstellen müssen.  

Einsatz von KI im Personalwesen

KI soll das HR-Management einfacher, schneller und objektiver machen. Auch im HR-Management ermöglicht die zunehmende Datafizierung den Einsatz von lernenden Algorithmen und ähnlichen KI-Anwendungen. Somit können immer mehr HR-Prozesse automatisiert werden, beispielsweise die Bearbeitung von Mitarbeiteranfragen, die Suche nach geeigneten Kandidaten oder die Koordinierung von Trainingsinhalten. Darüber hinaus lassen sich Wahrscheinlichkeitsvorhersagen generieren, die bei HR-Entscheidungen hilfreich sein können. In Zukunft soll die Technologie Unternehmen in die Lage versetzen, Vorhersagen über “Was wird passieren?“ zu treffen. Allerdings haben einige Fälle in der jüngsten Vergangenheit gezeigt, dass die eingesetzte KI durchaus auch Gefahren birgt. So können Algorithmen „voreingenommen“ und diskriminierend sein. Aufgrund einer fehlerhaften Datenbasis oder falscher Programmierung können Algorithmen zu einer mittelbaren Benachteiligung von Bewerbern führen, z. B. wegen ihres Geschlechts. Bekannt wurde insbesondere der Fall eines Online-Versandhändlers: Das von ihm genutzte Bewerbungstool filterte eher Bewerberinnen heraus, da der eingesetzte Algorithmus geschlussfolgert hatte, dass sich vor allem Männer für das Unternehmen begeistern und daher die geeigneteren Bewerber seien. Der von der Kommission nun vorgelegte Entwurf einer KI-Verordnung möchte den rechtskonformen (diskriminierungsfreien) Einsatz von KI regeln. Was bedeutet dies für im HR-Bereich eingesetzte KI-Systeme?  

Die Key-Takeaways der KI-Verordnung aus HR-Sicht

Welche HR-KI-Systeme werden von der KI-Verordnung erfasst?

Die Kommission hat die KI-System in vier Stufen eingeteilt – vom minimalem bis hin zum unannehmbaren Risiko. Nach der Verordnung werden KI-Systeme, die in den Bereichen Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit eingesetzt werden als hochriskant eingestuft, da diese Systeme die künftigen Karriereaussichten und die Lebensgrundlagen dieser Personen spürbar beeinflussen können. Vor dem Hintergrund der weiten KI-Definition in der Verordnung, die alle Arten algorithmischer Entscheidungs- und Empfehlungssysteme erfasst, dürfte eine große Anzahl von bereits heute verwendeten HR-Systemen unter den Anwendungsbereich der Verordnung fallen. Es dürfte kaum noch ein Unternehmen geben, dass nicht zumindest „einfache“ algorithmische Entscheidungssysteme im HR-Bereich einsetzt, wie etwa die die Optimierung von Stellenanzeigen oder die Analyse von Lebensläufen. Daher sind Anbieter und Nutzer gut beraten – sozusagen eine Lehre aus der DSGVO-Reform-, frühzeitig einen Compliance-Check bezüglich der eingesetzten HR-Systeme und deren Konformität mit der KI-Verordnung durchzuführen.  

Wen treffen die Pflichten aus der KI-Verordnung?

Die KI-Verordnung nimmt alle Teilnehmer entlang der KI-Wertschöpfungskette in die Pflicht, wobei für Anbieter (z. B. Entwickler eines Auswertungsprogramms für Lebensläufe) und Nutzer (z. B. eine Bank, die dieses Programm anschafft). die meisten Pflichten gelten. Zu beachten ist, dass die Verordnung nicht für eine rein private, nicht gewerbliche Verwendung gilt.

Welche Anforderungen müssen die HR-KI-Systeme erfüllen?

Bevor KI-Systeme, die mit hohem Risiko behaftet sind, in der EU in Verkehr gebracht oder anderweitig in Betrieb genommen werden dürfen, müssen sie einer Konformitätsprüfung unterzogen werden. Für Hochrisiko-KI sind während des gesamten Lebenszyklus des KI-Systems Risikomanagementsysteme einzurichten, anzuwenden, zu dokumentieren und aufrechtzuerhalten Die Anbieter müssen insofern strenge Vorgaben erfüllen, bevor sie KI-Systeme mit hohem Risiko auf den Markt bringen dürfen: Sind angemessene Risikobewertungs- und Risikominderungssysteme vorhanden? Wurde die KI-Software mit qualitativ hohen Datensätzen gespeist, um diskriminierende Ergebnisse zu vermeiden? Gibt es eine ausführliche Dokumentation zum KI-System und seinem Zweck für die Behörde sowie Informationen für die Nutzer? Werden die Vorgänge des Systems aufgezeichnet, um ungewöhnliche Ergebnisse rückverfolgen zu können? Gibt es eine menschliche Aufsicht, welche das System überwacht und notfalls ausschalten kann? Ist das System robust, genau und vor Cyberrisiken geschützt? Aber auch die Nutzer treffen Pflichten. Sie müssen insbesondere bei Verwendung von HR-KI-Systemen die Bedienungshinweise des Anbieters befolgen. Zudem ist sicherzustellen, dass die benutzten Daten für den Verwendungszweck relevant sind, soweit die Nutzer die Kontrolle über Eingabewerte haben. Auch sind die Informationen aus den Bedienungshinweisen zur Durchführung von Datenschutzfolgeabschätzungen gem. Art. 35 DS-GVO zu verwenden.   Trifft die KI-Verordnung Regelungen zur betrieblicher Mitbestimmung? Die Verordnung sieht – zurzeit – keine Mitwirkungs- und Mitbestimmungsmöglichkeiten des Betriebsrates für die betriebliche Anwendung von KI-Systemen vor. Dies heißt allerdings nicht, dass der Betriebsrat bei der Einführung und Anwendung von HR-KI-Systemen nicht zu beteiligen wären. Es finden selbstverständlich weiterhin die im Betriebsverfassungsrecht statuierten Mitbestimmungsrechte Anwendung. Insofern hat das Betriebsmodernisierungsgesetz noch einmal die Rechte der Betriebsräte gestärkt, indem es u.a. festgelegt hat, dass die Hinzuziehung eines Sachverständigen bei Einführung von KI-Systemen erforderlich ist.  

Fazit

Die KI-Verordnung, sollte sie in der jetzigen Form verabschiedet werden, stellt die HR-Abteilungen – auch wenn sie „nur“ Nutzer von KI-Systemen sind- vor große Herausforderungen. Unternehmen sollten sich daher frühzeitig einen Überblick zu verschaffen, welche Systeme zur Anwendung kommen und ob bzw. welchen Handlungsbedarf sich hieraus mit Blick auf die KI-Verordnung ergibt.