KI-Regulierung in Europa und der Welt

In der Europäischen Union schreitet das Gesetzgebungsverfahren zum „Artificial Intelligence Act“ („AI-Act“) nach der am 6. Dezember 2022 veröffentlichten Position des Rates weiter voran. Der anstehende Trilog wird mit Spannung erwartet - vorher muss sich aber noch das Europäische Parlament auf eine gemeinsame Position zu verständigen. Ein guter Zeitpunkt, einmal einen Blick über den Tellerrand zu werfen und sich damit zu beschäftigen, was andere Staaten in Sachen KI-Regulierung vorhaben.

Brasilien

In Brasilien wird an einem ersten Gesetz zur Regelung von KI gearbeitet. Am 1. Dezember 2022 legte eine nichtständige Juristenkommission des brasilianischen Senats einen Bericht mit Untersuchungen zur Regulierung von KI inklusive eines Entwurfs zur Regulierung von KI vor. Der Entwurf dient als Ausgangspunkt für die weitere Beratung des Senats über eine neue KI-Gesetzgebung. Laut der Berichterstatterin des Ausschuss beruhe die KI-Regulierung auf drei zentralen Säulen: der Gewährleistung der Rechte der von dem System betroffenen Personen, der Einstufung des Risikoniveaus und der Vorhersage von Governance-Maßnahmen für Unternehmen, die das KI-System bereitstellen oder betreiben.

• KI-Definition
  Der Entwurf zeigt deutliche Parallelen zur geplanten KI-Verordnung der EU: Bereits die Definition von KI-Systemen ist der Definition der KI-Verordnung durchaus ähnlich. KI ist danach „ein Computersystem mit unterschiedlichem Grad an Autonomie, das so konzipiert ist, dass es unter Verwendung von Ansätzen, die auf maschinellem Lernen und/oder Logik und Wissensrepräsentation beruhen, aus Eingabedaten von Maschinen oder Menschen ableitet, wie eine bestimmte Reihe von Zielen zu erreichen ist, mit dem Ziel, Vorhersagen, Empfehlungen oder Entscheidungen zu treffen, die die virtuelle oder reale Umgebung beeinflussen können“.
• Risikoklassifizierung
  Der Entwurf enthält ebenso wie die KI-Verordnung eine Unterteilung nach dem potentiellen Risiko der entsprechenden KI-Systeme. Unter eine Reihe von verbotenen KI-Systemen fallen etwa Systeme die Schwachstellen bestimmter Gruppen natürlicher Personen ausnutzen, wenn diese Techniken oder die Ausnutzung der Schwachstellen die Gesundheit oder Sicherheit des Endnutzers beeinträchtigen sollen oder beeinträchtigen. Auch Social Scoring ist öffentlichen Stellen verboten sowie die Verwendung biometrischer Identifizierungssysteme in öffentlich zugänglichen Räumen, es sei denn, es gibt ein spezielles Gesetz oder einen Gerichtsbeschluss, der die Verwendung solcher Systeme ausdrücklich erlaubt (z. B. zur Verfolgung von Straftaten).

  Wie die KI-Verordnung enthält der brasilianische Entwurf eine Aufzählung von Hochrisiko-Systemen, zu denen KI-Systeme gehören, die in verschiedenen grundrechtssensiblen Bereichen eingesetzt werden, etwa kritischer Infrastrukturen, Bildung und Berufsausbildung, Recruiting, Einsatz autonomer Fahrzeuge oder biometrische Identifizierung. Diese Aufzählung kann durch eine Behörde angepasst werden. Hochrisiko-Systeme sollen in eine öffentlich zugängliche Datenbank aufgenommen werden.

• Betroffenenrechte
  Der Entwurf räumt Betroffenen gegenüber Anbietern und Nutzern von KI-Systemen, unabhängig von der Risikoeinstufung des KI-Systems, Rechte ein. Darunter fallen das Recht auf Information über ihre Interaktionen mit einem KI-System vor dessen Nutzung, das Recht auf Erläuterung einer Entscheidung, welche von einem KI-System getroffen wurde, innerhalb von 15 Tagen nach der Anfrage, das Recht auf Anfechtung von Entscheidungen von KI-Systemen, die rechtliche Auswirkungen haben oder die Interessen der betroffenen Partei erheblich beeinträchtigen, das Recht auf menschliches Eingreifen in Entscheidungen, die ausschließlich von KI-Systemen getroffen werden, das Recht auf Nichtdiskriminierung und Korrektur diskriminierender Vorurteile sowie das Recht auf Privatsphäre und Schutz personenbezogener Daten.
• Governance, Haftung und Sanktionen
  Wie die KI-Verordnung regelt der Entwurf auch Governance-Maßnahmen: So müssen Anbieter und Nutzer von KI-Systemen beispielsweise Strukturen und interne Prozesse einrichten, welche die Sicherheit der KI-Systeme gewährleisten. Bei Hochrisiko-Systemen müssen verschärfte Maßnahmen ergriffen werden, etwa die Durchführung einer KI-Folgenabschätzung, die öffentlich zugänglich gemacht werden und gegebenenfalls in regelmäßigen Abständen wiederholt werden muss.

  Daneben enthält der Entwurf die Pflicht von Anbietern und Nutzern, die zuständige Behörde über schwerwiegende Sicherheitsvorfälle zu unterrichten sowie Regelungen zur zivilrechtlichen Haftung. Auch Sanktionsvorschriften sind enthalten: Je nach Verstoß sollen Bußgelder in Höhe von bis zu 50 Millionen Brasilianische Real (etwa 9 Millionen Euro) oder 2 % des Umsatzes eines Unternehmens verhängt werden können.

China

Der chinesische Staatsrat stellte zunächst 2017 den „Next Generation Artificial Intelligence Development Plan“ auf. 2021 wurden zudem ethische Leitlinien zum Umgang mit KI publiziert. Im Januar 2022 sodann veröffentlichte China erstmals zwei Gesetze, die sich jeweils aus spezielle KI-Anwendungen beziehen: Während die Bestimmungen über die Verwaltung von algorithmischen Empfehlungen von Internet-Informationsdiensten („Algorithm Provisions“) schon seit März gelten, befinden sich die Bestimmungen über die Verwaltung der Tiefensynthese von Internet-Informationsdiensten noch im Entwurfsstadium („Draft Deep Synthesis Provisions“).

• „Algorithm Provisions“
  Diese Regelungen richten sich gegen den Missbrauch von algorithmischen Empfehlungssystemen. Hierzu beinhalten sie Bestimmungen zu Content Management, Tagging und Labeling, Transparenz, Datenschutz und fairen Praktiken. Je nach Zielgruppe – zum Beispiel zugunsten Minderjähriger oder bei e-Commerce-Diensten – gelten noch ergänzende Artikel. Werden Verpflichtungen nicht eingehalten, drohen Geldbußen zwischen 10.000 und 100.000 RMB (entspricht etwa 1.570 bis 15.705 US-Dollar).
• „Draft Deep Synthesis Provisions“
  Diese Bestimmungen sollen sogenannte „Deep Synthesis“-Technologien regulieren, ins-besondere zur Bekämpfung von den besser bekannten „Deep Fakes“. Mit Ausnahme der Artikel zu fairen Praktiken deckt das Gesetz ebenfalls alle oben genannten Aspekte ab. Zusätzlich sind gewisse Verpflichtungen für Online-App-Store-Betreiber vorgesehen. Der Bußgeldrahmen ist wiederum identisch mit dem zuvor erwähnten.
  
  

Darüber hinaus schließt die chinesische Behörde für den Cyberspace (CAC) ihre Konsultation zum Entwurf der "Verwaltungsmaßnahmen für generative künstliche Intelligenzdienste" am 10. Mai 2023 ab. Der Verordnungsentwurf sieht vor, dass neue, in China entwickelte KI-Produkte einer "Sicherheitsbewertung" unterzogen werden müssen, bevor sie für die Öffentlichkeit freigegeben werden. Insbesondere schreibt die Verordnung vor, dass KI-generierte Inhalte wahrheitsgetreu und korrekt sein müssen, und verbietet Inhalte, die die Staatsmacht untergraben oder terroristische oder extremistische Propaganda, Gewalt, obszöne und pornografische Informationen, ethnischen Hass, Diskriminierung oder andere Inhalte enthalten, die die wirtschaftliche und soziale Ordnung stören könnten. In der Verordnung werden die Anbieter von KI-Diensten erneut aufgefordert, Maßnahmen zu ergreifen, um die Erstellung falscher Informationen zu verhindern und schädliche Inhalte zu vermeiden. Wenn unangemessene Inhalte generiert werden, müssen die Diensteanbieter ihre Technologie innerhalb von drei Monaten aktualisieren, um zu verhindern, dass ähnliche Inhalte erneut generiert werden. Gegen Anbieter, die sich nicht an die Verordnung halten, können Geldstrafen verhängt, ihre Dienste eingestellt oder strafrechtliche Ermittlungen eingeleitet werden.

Außerdem gibt es in China regionale Gesetzgebung zu KI. Am 6. September veröffentlichte die Shenzhen Regierung Chinas erste KI-Verordnung auf Stadtebene („Regulations on Promoting artificial Intelligence Industry in Shenzhen Special Economic Zone“). Shanghai veröffentlichte am 22. September ein Provinzgesetz zur KI-Entwicklung („Shanghai Regulations on Promoting the Development of the AI Industry”), das am 1. Oktober 2022 in Kraft trat.

Japan

Japan hat den zweitgrößten IT-Sektor aller OECD-Länder und verzeichnet große Investitionen im Bereich Forschung & Entwicklung (R&D). In Hinblick auf Künstliche Intelligenz sind die Strategien und Regulierungen stark mit der dem Großprojekt „Society 5.0“ verflochten. Dahinter steht die Ambition, gesellschaftlichen Problemen wie etwa der Gesellschaftsalterung mit Innovation zu begegnen. Neue Technologien sollen eine hocheffiziente, inklusive und führende Nation auf gesellschaftlicher und politischer Ebene ermöglichen.

Die vom Integrated Innovation Strategy Promotion Council verabschiedeten „Social Principles of Human-Centric AI“ wurden von der japanischen Regierung im März 2019 veröffentlicht und manifestieren die Grundprinzipien einer KI-fähigen Gesellschaft. Im ersten Teil finden sich sieben soziale Prinzipien, welche Gesellschaft und Staat im Umgang mit KI zu achten haben: (1) Menschenzentriertheit, (2) Bildung/Alphabetisierung, (3) Datenschutz, (4) Gewährleistung von Sicherheit, (5) Fairer Wettbewerb, (6) Fairness, Verantwortlichkeit und Transparenz und (7) Innovation.

Der zweite Teil „F&E und Nutzungsrichtlinien“ richtet sich an die KI-Entwickler und -Unternehmen. Er wurde in Form der AI Utilisation Guidelines vom 09. August 2019 genauer ausgearbeitet und soll als Apell und zugleich Referenz für die KI-Entwickler und -Unternehmen zur Ausarbeitung eigener Richtlinien dienen.

Darüber hinaus stellt Japan mit den „Governance Guidelines for Implementation of AI Principles“ (09. Juli 2021) Handlungsziele und hypothetische Umsetzungsbeispiele dar, die von den KI-Unternehmen zu berücksichtigen sind. Diese sollen durch den Verweis auf etliche nationale und internationale Richtlinien als umfassende Orientierung für Entwickler, Dienstleister und Unternehmen im Bereich Künstlicher Intelligenz dienen. In der Zwischenzeit hat das japanische Ministerium für Wirtschaft, Handel und Industrie nach einer öffentlichen Konsultation die zweite Fassung (Version 1.1) dieser Leitlinien veröffentlicht.

Keine der genannten Regulierungsmaßnahmen ist rechtlich bindend. Die aufeinander aufbauenden Dokumente umfassen den aktuellen politischen Konsens über Chancen und Risiken in Zusammenhang mit KI. Inhaltlich steht Japans KI-Ansatz für integratives Wachstum, nachhaltige Entwicklung und gesellschaftliches Wohlergehen im Einklang mit den OECD-KI-Prinzipien. Teilweise wird auf diese auch konkret verwiesen.

Kanada

Am 16. Juni 2022 legte die kanadische Bundesregierung den Gesetzentwurf C-27 vor, der auch als Digital Charter Implementation Act 2022 bekannt ist. Teil 3 des Gesetzespakets enthält den „Artificial Intelligence and Data Act“ („AIDA“), Kanadas erstes Gesetz zur KI. Ziel des Gesetzes ist es, den internationalen und interprovinziellen Handel mit KI-Systemen zu regulieren, indem bestimmte Personen verpflichtet werden, Maßnahmen zu ergreifen, um das Risiko von Schäden und verfälschten Ergebnissen im Zusammenhang mit hochleistungsfähigen KI-Systemen zu verringern. Das Gesetz sieht eine öffentliche Berichterstattung vor und ermächtigt den Minister, die Offenlegung von Aufzeichnungen im Zusammenhang mit KI-Systemen anzuordnen. Das Gesetz verbietet auch bestimmte Praktiken im Umgang mit Daten und KI-Systemen, die dem Einzelnen oder seinen Interessen ernsthaft schaden können. Derzeit (Stand März 2023) befindet sich das Gesetz in der zweiten Lesung im Unterhaus. Anschließend muss der Senat dem Gesetz noch zustimmen.

Indien

In Indien besteht derzeit kein spezifisches Regelwerk für KI-Systeme. Einige Arbeitspapiere der indischen Kommission NITI Aayog aus den Jahren 2020, 2021 und 2022 sind in diesem Zusammenhang jedoch nennenswert. Es handelt sich zwar noch um grobe Entwürfe, allerdings lassen diese die Absicht der Regierung erkennen, die KI-Regulierung voranzutreiben. Zentraler Vorschlag ist die Einführung einer Aufsichtsbehörde, welche unter anderem Prinzipien für verantwortungsvolle KI aufstellen und verwalten, Leitlinien und Standards vorgeben oder die Koordinierung von Behörden in verschiedensten KI-Sektoren übernehmen soll.

Vereinigte Staaten von Amerika

Am 4. Oktober 2022 veröffentlichte das White House Office of Science and Technology Policy einen Leitfaden für die Entwicklung, Nutzung und den Einsatz automatisierter Systeme („Blueprint for an AI Bill of Rights“). Der Blueprint ist – anders als der geplante AI-Act der EU – unverbindlich und nennt fünf Grundsätze, welche potentielle Schäden durch KI-Systeme minimieren sollen. Am 18. August 2022 hat das National Institute of Standards and Technology („NIST”) den zweiten Entwurf seines „AI Risk Management Framework“ für Stellungnahmen veröffentlicht. Die ursprüngliche Version stammt bereits aus März 2022 und basiert auf einem Konzeptpapier aus Dezember 2021. Das AI Risk Management Framework soll Unternehmen, welche KI-Systeme entwickeln oder einsetzen, bei der Bewertung und Bewältigung von Risiken im Zusammenhang mit diesen Technologien helfen. Es besteht aus freiwilligen Richtlinien und Empfehlungen, ist also ebenfalls unverbindlich, und explizit nicht als Vorschrift zu verstehen. Weitergehende Ausführungen hierzu finden sich im Beitrag KI-Regulierung in den USA – ein Blick über den großen Teich.

Schweiz

Anders als in der EU soll es in der Schweiz kein eigenes Gesetz für die Regulierung von KI geben, sondern es sollen bereits bestehende Gesetze hinsichtlich der Herausforderungen des Einsatzes von KI geprüft und gegebenenfalls punktuell angepasst werden. Darunter fällt etwa die Ergänzung des Datenschutzrechts um Regelungen zur Transparenz von KI-Systemen, die Anpassung des allgemeinen Gleichbehandlungsgesetzes, des bestehenden Wettbewerbsrechts, des Produkthaftungsrechts sowie des allgemeinen Zivilrechts um die nötige Regulierung für den Einsatz von KI-Systemen zu schaffen. Weitergehende Ausführungen hierzu finden sich im Beitrag „KI-Regulierung in der EU und Schweiz“.