Fachkräftemangel begegnen: Chancen mittels Beschaffung von KI-Systemen

Öffentlicher Sektor am Scheideweg

Der öffentliche Sektor sieht sich mit einem gravierenden Fachkräftemangel konfrontiert – ein strukturelles Problem, das alle Verwaltungsebenen betrifft. Bereits heute sind laut Studien (dbb - Personalmangel im öffentlichen Dienst) über 500.000 Stellen unbesetzt, und Prognosen gehen davon aus, dass diese Zahl bis 2030 weiter steigen wird (PwC - Fachkräftemangel im öffentlichen Sektor). Der demografische Wandel verschärft die Situation, da erfahrene Mitarbeitende in den Ruhestand gehen, während es kaum gelingt, ausreichend junge Talente zu gewinnen.

Der Einsatz moderner Technologien wie vollautomatisierter Dienstleistungen und Künstlicher Intelligenz („KI“) bietet die Chance, effizientere und bürgerfreundlichere Verwaltungen zu schaffen – ein entscheidender Schritt für den deutschen öffentlichen Sektor, der ohne umfassende Reformen und gezielte Digitalisierung und Automatisierung dauerhaft an Leistungsfähigkeit verlieren könnte. Vielversprechende Anwendungsfelder reichen von digitalen Antragsverfahren und verbesserter Behördenkommunikation über internes Workflow-Management bis hin zu KI-gestützter Dokumentenanalyse, Entscheidungsunterstützung und dem Einsatz von Chatbots in Bürgerämtern, wie beispielsweise bei der Online-Anmeldung von Autos oder digitaler Wahl in Estland. Gleichzeitig stellen die damit verbundenen Herausforderungen, etwa der Bedarf an intensiver Schulung und Qualifikation der Mitarbeitenden sowie das Meistern zahlreicher rechtlicher Hürden, den öffentlichen Sektor vor große Aufgaben – genau deshalb ist jetzt der richtige Zeitpunkt, internationale Best Practices zu adaptieren und die Verwaltung zukunftssicher aufzustellen.

Beschaffung von KI-Systemen: Rechtliche und praktische Herausforderungen

Vergaberechtliche Aspekte

Bei der Beschaffung von KI-Systemen – wie auch anderen Waren oder Dienstleistungen – muss die öffentliche Hand ab dem Erreichen des EU-Schwellenwertes von derzeit EUR 221.000 das Kartellvergaberecht beachten. Die „allgemeine“ EU-Vergaberichtlinie (2014/24/EU) bestimmt maßgeblich die Beschaffung der öffentlichen Hand im Bereich (nicht militärischer) KI. Der deutsche Gesetzgeber hat die EU-Vergaberichtlinie vor allem im Gesetz gegen Wettbewerbsbeschränkungen (GWB) sowie der Vergabeverordnung (VgV) umgesetzt.

Das GWB und die VgV sehen bei der Beschaffung verschiedene Verfahrensarten vor. Das „Standardverfahren“, das offene Verfahren, ist ein stark formalisiertes Verfahren, bei dem der Auftraggeber öffentlich eine unbegrenzte Anzahl an Unternehmen zur Angebotsabgabe auffordert. Es darf nicht verhandelt werden. Diese Verfahrensart eignet sich im Bereich der IT-Beschaffung nur, wenn eine bereits marktverfügbare und klar definierbare Lösung beschafft werden soll. Dann ist das offene Verfahren schneller und rechtssicherer.

Im „dynamischen“ Bereich KI wird der Auftraggeber daher häufig auf andere Verfahrensarten zurückgreifen müssen, z.B. das Verhandlungsverfahren mit oder ohne Teilnahmewettbewerb, den wettbewerblichen Dialog oder die Innovationspartnerschaft. Diese Verfahrensarten haben gemein, dass sie Auftraggeber und Auftragnehmer die Verhandlung über den Leistungsgegenstand bzw. sogar die gemeinsame Entwicklung des Leistungsgegenstandes ermöglichen. Gleichwohl sind diese Verfahren komplexer in Vorbereitung und Durchführung.

Planung und Durchführung des Verfahrens

Herzstück des Vergabeverfahrens ist die Leistungsbeschreibung. Bei IT-Vergaben bietet sich, gerade bei der Beschaffung von noch nicht marktverfügbaren Lösungen wie KI, eine funktionale Leistungsbeschreibung an. Bei der funktionalen Leistungsbeschreibung gibt der Auftraggeber die Anforderungen der Leistung vor, überlässt die konkrete Ausgestaltung der Leistung aber dem Auftragnehmer. Im KI-Bereich kommt zudem eine agile Vorgehensweise in Betracht: Die Detaillierung der Leistungsbeschreibung kann – im vergaberechtlich zulässigen Rahmen – in die Projekt- oder Angebotsphase verlagert werden. So können die einzelnen Software-Komponenten im Wege eines iterativ abgestimmten, agilen Vorgehens an die Anforderungen des Auftraggebers angepasst und so miteinander verknüpft werden, dass ein gesamtheitliches und integratives Softwaresystem entsteht. Innerhalb der Leistungsbeschreibung ist es empfehlenswert, die Software-Komponenten in Kategorien wie „must have“, „should have“, „could have“ und „won’t have“ einzuteilen, um diese für die Leistungserbringung zu priorisieren. Dabei bilden die „must have“-Software-Komponenten ein „minimal viable product“, auf welches sich das Entwicklungsteam fokussieren und welches dem Auftraggeber frühestmöglich bereitgestellt werden kann. Damit kann der Auftraggeber testen, ob das Vorgehen bei der Leistungserbringung und die Leistungserbringung selbst seinen Erwartungen entspricht und ob das „minimal viable product“ von den Nutzern angenommen wird.

Zur rechtssicheren Auswahl der Bieter muss der Auftraggeber vorab Eignungs- und Zuschlagskriterien festlegen. Im IT-Bereich bietet sich hier insbesondere die Abfrage und Bewertung von Referenzprojekten an, um sicherzustellen, dass die potenziellen Bieter über einschlägige Erfahrung verfügen. Weiter spielt bei der Beschaffung von IT-Leistungen die Qualität der Leistungserbringung eine große Rolle. Vor diesem Hintergrund sollte die Leistungswertung hinreichend gewichtet werden. Priorisiert man Aspekte in der Leistungsbeschreibung, können „should have“ und „could have“ Kategorien als Wertungskriterien (sog. B-Kriterien) einbezogen werden. Die Bieter können daneben z.B. Umsetzungskonzepte einreichen.

Sonderfall: Alleinstellungsmerkmal

In streng geregelten Ausnahmefällen kann der Auftraggeber auf die Durchführung eines wettbewerblichen Verfahrens verzichten. Ist nur ein Unternehmen technisch in der Lage, die gewünschte Leistung zu erbringen, so darf der Auftraggeber mit diesem Unternehmen ggf. direkt verhandeln. Die Anwendung dieser Ausnahmevorschrift bedarf jedoch einer sorgfältigen Prüfung und Vorbereitung im Einzelfall. Tragfähige und rechtssichere „Verhandlungsverfahren ohne Teilnahmewettbewerb bei Ansprache nur eines Unternehmens“, wie es formaljuristisch heißt, sind nur nach eingehender Marktrecherche sowie vergaberechtlicher Prüfung durchführbar.

IT-Vertragsrechtliche Aspekte

Teil der Vergabeunterlagen sind stets die Vertragsbedingungen. Die Integration von KI-Systemen in die öffentliche Verwaltung erfordert eine deutliche Weiterentwicklung bestehender IT-Vertragsmodelle. Traditionelle EVB IT-Verträge bieten zwar eine solide Grundlage, müssen jedoch an die speziellen Anforderungen von KI-gestützten Lösungen angepasst werden. Öffentliche Auftraggeber sollten in ihren Verträgen insbesondere klare Regelungen zu folgenden Punkten festlegen:

• Updates und Trainingsdaten: Es muss vertraglich vereinbart werden, wie regelmäßige Updates der Algorithmen sowie die Qualität und Bereitstellung der KI-Trainingsdaten sichergestellt werden. Dies ist essenziell, um die langfristige Funktionsfähigkeit und Sicherheit der Systeme zu gewährleisten.
• Haftungsfragen bei Fehlentscheidungen: KI-Systeme können im operativen Einsatz Fehlentscheidungen treffen. Hier ist es unabdingbar, die Haftungszuweisungen klar zu regeln – insbesondere, wer im Schadensfall einzutreten hat. Eine präzise Haftungsverteilung schützt sowohl die öffentliche Hand als auch den Anbieter.
• Wartung und Pflege: Verträge müssen auch die kontinuierliche Wartung und Pflege der Systeme abdecken. Nur so kann gewährleistet werden, dass Sicherheitsupdates und technische Weiterentwicklungen zeitnah umgesetzt werden, um den Betrieb reibungslos fortzuführen.

Diese vertraglichen Anpassungen sind grundlegend, um den dynamischen Entwicklungen im Bereich KI gerecht zu werden und rechtliche Risiken bereits im Vorfeld zu minimieren. Besonderheiten – auch für die vertragliche Gestaltung – ergeben sich zukünftig aus der neuen KI-Verordnung der Union (VO (EU) 2024/1689 („KI-Verordnung“). Handelt es sich bei dem KI-System um ein Hochrisiko-KI-System im Sinne der KI-Verordnung, beispielsweise, weil es innerhalb der kritischen Infrastruktur verwendet wird, sind Anbieter und Betreiber besonders verpflichtet. Das kann auch (mittelbare) Auswirkungen auf die öffentliche Hand haben. Verträge sollten entsprechend der Vorgaben der KI-Verordnung – sei es etwa hinsichtlich der Daten und Daten-Governance mit Blick auf die Trainingsdaten (Art. 10 KI-Verordnung) oder der Frage, wer Kontrolle über Eingabedaten hat (Art. 26 Abs. 4 KI-Verordnung) - angepasst werden.

Datenschutz und Bürgerdienste

Der Datenschutz spielt in der öffentlichen Verwaltung eine zentrale Rolle – insbesondere, wenn es um den Einsatz von KI-Systemen geht, die häufig umfangreiche personenbezogene Daten verarbeiten. Die strikte Einhaltung der Datenschutz-Grundverordnung (DSGVO) muss dabei in jedem Beschaffungsprozess oberste Priorität haben:

• Privacy by Design und Privacy by Default: Bereits in der Planungsphase sollten Konzepte entwickelt werden, die den Datenschutz integrativ berücksichtigen. Systeme müssen von Anfang an so gestaltet sein, dass sie datenschutzfreundliche Voreinstellungen und Mechanismen implementieren.
• Transparenz und Einwilligungen: Bei KI-gestützten Bürgerdiensten ist es entscheidend, dass Bürger nachvollziehen können, wie ihre Daten verarbeitet werden. Klare Einwilligungsprozesse und transparente Informationsangebote schaffen das nötige Vertrauen in neue digitale Anwendungen. Hierbei müssen auch die KI-spezifischen Besonderheiten berücksichtigt werden. Es besteht ein erhöhter Aufwand, um KI-Systeme nachvollziehbar zu gestalten. Trifft die öffentliche Verwaltung mithilfe von KI-Systemen automatisierte Entscheidungen, die eine rechtliche Wirkung gegenüber dem Bürger entfalten, ist über die involvierte Logik zu informieren. Dies muss bereits bei der Beschaffung der Software zu berücksichtigen.

Durch eine enge Zusammenarbeit mit Datenschutzexperten können öffentliche Institutionen sicherstellen, dass alle datenschutzrechtlichen Vorgaben in die Systemarchitektur und in die vertraglichen Rahmenbedingungen integriert werden.

Regulatorische Anforderungen, Haftungsfragen und nachhaltige IT-Beschaffung

Neben den klassischen IT- und Datenschutzaspekten müssen öffentliche Auftraggeber auch spezifische Regulierungsanforderungen an KI-Systeme berücksichtigen:

• Risikoklassifizierung und Auditierung: Eine fundierte Risikoklassifizierung der eingesetzten KI-Systeme ist nach der KI-Verordnung unerlässlich – insbesondere für hochriskante Anwendungen. Hier sind zusätzliche Transparenz- und Auditierungspflichten zu beachten, um den sicheren Einsatz der Systeme zu gewährleisten. Die Zentralnorm ist Art. 6 KI-Verordnung.
• Haftungsregelungen: Neben der Haftung bei Fehlentscheidungen sollten vertragliche Mechanismen etabliert werden, die im Schadensfall klare Regelungen für Schadensersatzansprüche vorsehen. Dies minimiert rechtliche Unsicherheiten und stärkt das Vertrauen in den Einsatz von KI-Technologien.

Darüber hinaus spielen auch Aspekte wie Open-Source-Software und Interoperabilität eine wichtige Rolle:

• Open-Source-Software: Der Einsatz von Open-Source-Software kann für öffentliche Einrichtungen Vorteile wie Unabhängigkeit und Kosteneffizienz bieten. Allerdings müssen auch hier vertragliche Regelungen getroffen werden, um die Integration in bestehende Systeme zu sichern und potenzielle Sicherheitslücken zu vermeiden.
• Nachhaltigkeit: Bei der IT-Beschaffung sollte der Umweltaspekt nicht außer Acht gelassen werden. Öffentliche Auftraggeber sind gefordert, Kriterien wie Lebenszykluskosten, Reparierbarkeit und den Energieverbrauch von KI-Systemen sowie Rechenzentren in ihre Entscheidungsprozesse einzubeziehen. Eine nachhaltige Beschaffung trägt nicht nur zur ökologischen Verantwortung bei, sondern sichert langfristig auch die Wirtschaftlichkeit der Investitionen.

Empfehlung für die Praxis: Beschaffungstrategien und Rechtssicherheit

Eine strategische und frühzeitige Planung der Beschaffungsprozesse bildet die entscheidende Grundlage für den erfolgreichen und rechtssicheren Einsatz innovativer Technologien im öffentlichen Sektor. Durch eine umfassende Bedarfsanalyse, iterative Ausschreibungsansätze und agile Methoden können Auftraggeber flexibel auf dynamische Marktbedingungen reagieren und technologische Entwicklungen optimal berücksichtigen. Die enge Zusammenarbeit mit spezialisierten Vergaberechtlern und IT-Juristen sowie der Aufbau interdisziplinärer Teams stellen dabei sicher, dass alle relevanten rechtlichen und technischen Fragestellungen von Anfang an adressiert werden.

Gleichzeitig fördert die Einbindung sämtlicher Stakeholder – von Bürgern über Verwaltung bis hin zu politischen Entscheidungsträgern – das Verständnis und die Akzeptanz innovativer Projekte. Pilotprojekte mit klar definierten Erfolgskriterien ermöglichen praxisnahe Erfahrungen und schaffen wertvolle Erkenntnisse, die in den weiteren Roll-out einfließen können. Diese ganzheitliche Herangehensweise führt zu einer nachhaltigen Beschaffungsstrategie, die nicht nur die Effizienz und Modernisierung der Verwaltung vorantreibt, sondern auch das Vertrauen in den digitalen Wandel stärkt.