Die Leitlinien für Hochrisiko-KI-Systeme

Co-Autoren: Ramona Ahmadi, Julius Haas

Am 19. Mai 2026 hat die Europäische Kommission zudem einen Entwurf von Leitlinien für die Einstufung von Hochrisiko-KI-Systemen veröffentlicht.[1]

Mithilfe der Leitlinien sollen Unternehmen, Behörden und andere Verantwortliche leichter einschätzen können, ob ein KI-System als Hochrisikosystem gemäß Artikel 6 der KI-Verordnung gilt. Dadurch soll sichergestellt werden, dass die Regelung in der EU einheitlich angewendet und kontrolliert wird. Die Leitlinien selbst schaffen keine neuen Pflichten, aber sie präzisieren, wie die bestehenden Pflichten aus dem KI-Gesetz angewendet werden sollen.[2]

Wann ist KI in Maschinen/ Robotern „hochriskant“? Für KI in Maschinen und Roboter kommen vor allem zwei Fallgruppen in Betracht:

1. Sicherheitskomponente eines Produkts (Anhang I KI-Verordnung)

Eine KI ist hochriskant, wenn die KI:

• eine Sicherheitskomponente einer Maschine ist oder
• selbst ein „Produkt“ im Sinne der einschlägigen Harmonisierungsrechtsvorschriften (z. B. Maschinenverordnung) darstellt und

dieses Produkt einer Konformitätsbewertung durch eine Drittstelle unterliegt.[3]

2. Anwendungsfälle aus Anhang III der KI-Verordnung

KI-Systeme sind außerdem hochriskant, wenn sie in einen der dort genannten Anwendungsbereiche fallen, etwa:

• kritische Infrastrukturen,
• sicherheitsrelevante Steuerung von Anlagen,
• Zugang zu grundlegenden Diensten,
• Beschäftigung, Bildung etc.[4]

Ausblick

Die vorläufige Einigung muss nun vom Rat und vom Europäischen Parlament gebilligt und von den gesetzgebenden Organen förmlich angenommen werden. Die EU-Gesetzgeber wollen den Rechtsakt vor dem 2. August 2026 endgültig verabschieden.[5]

So soll sichergestellt werden, dass die neuen Regeln rechtzeitig feststehen, bevor die derzeitigen Vorschriften für Hochrisiko-KI-Systeme greifen. Unternehmen und Behörden erhalten damit planbarere Rahmenbedingungen, müssen sich aber zugleich frühzeitig auf die neuen Anforderungen einstellen.

Praxishinweis

Für Hersteller und Anbieter von KI in Maschinen empfiehlt es sich bereits jetzt,

• systematisch zu prüfen und zu dokumentieren, ob KI-Funktionalitäten als Sicherheitskomponente oder als eigenständiges Produkt einzustufen sind,
• Use-Cases gegen Anhang III KI-VO zu mappen, um Hochrisiko-Einstufungen frühzeitig zu identifizieren,
• bestehende Konformitätsbewertungsprozesse (Maschinenrecht) mit KI-Anforderungen zu verzahnen (dazu siehe auch unseren Newsletter zum Digital Omnibus / politische Einigung vom Mai 2026),
• sowie Risikobewertung und technische Dokumentation so aufzusetzen, dass sie sowohl produktsicherheitsrechtlichen als auch KI-rechtlichen Anforderungen standhalten.

Gerade in Grenzfällen (z. B. Assistenzfunktionen vs. sicherheitsrelevante Steuerung) ist die frühzeitige rechtliche Einordnung entscheidend für Marktzugang und die Reduzierung von Haftungsrisiken.