Die neue EU-KI-Verordnung und ihre Auswirkungen auf den öffentlichen Sektor

Die Europäische Union hat einen bedeutenden Schritt in Richtung eines harmonisierten Regelungsrahmens für Künstliche Intelligenz (KI) unternommen. Am 14. Juni 2023 hat das Europäische Parlament die KI-Verordnung angenommen, die bereits im April 2021 von der EU-Kommission vorgeschlagen wurde. Diese Verordnung, die bis Ende des Jahres durch eine Einigung im EU-Rat finalisiert wird, soll einen umfassenden rechtlichen Rahmen für den Einsatz von KI-Systemen innerhalb der EU schaffen. Insbesondere im öffentlichen Sektor eröffnet die KI-Verordnung neue Möglichkeiten und Chancen. Dieser Blogbeitrag beleuchtet die Auswirkungen der Verordnung auf den öffentlichen Sektor und deren Potenzial für die Modernisierung.

Ein risikobasierter Ansatz

Die KI-Verordnung verfolgt einen risikobasierten Ansatz, der darauf abzielt, KI-Systeme je nach dem Risiko, das sie für die Nutzer darstellen, zu analysieren und einzustufen. Je nach Risikostufe unterliegen die KI-Systeme unterschiedlich strengen Regulierungen. Im öffentlichen Sektor bieten KI-Systeme enorme Chancen und Möglichkeiten, insbesondere im Rahmen von Smart Cities. Durch die Auswertung von Daten, die von vernetzten Systemen erhoben werden, können KI-Systeme Neues lernen, ihre Algorithmen optimieren und bessere Entscheidungen treffen. Angesichts des Risikopotenzials solcher intelligent vernetzter Regierungs- und Verwaltungshandlungen müssen sie wahrscheinlich nach den Bestimmungen der KI-Verordnung einer umfassenden Bewertung unterzogen werden. Es ist denkbar, dass eine rechtskonforme Gestaltung solcher Systeme eine starke Einschränkung der eigenständigen Entscheidungsbefugnis des KI-Systems erfordern würde. Es könnte beispielsweise nur Verbesserungs- und Lösungsvorschläge anbieten, die einer menschlichen Überprüfung und Validierung bedürfen. Ferner können KI-Systeme wie Chatbots und persönliche Sprachassistenten Verwaltungsvorgänge erheblich beschleunigen und verbessern. Gemäß dem Verordnungsvorschlag müssen solche KI-Systeme nur die Einhaltung von Transparenz- und Legalitätsanforderungen gewährleisten.

Schaffung eines rechtssicheren Experimentierraums

Die EU-Verordnung zielt darauf ab, KI-Systeme sicher, transparent, nachvollziehbar, nichtdiskriminierend, umweltfreundlich und von Menschen überwacht zu machen. Dies schafft einen rechtssicheren Experimentierraum, der das Vertrauen und die Akzeptanz von KI seitens der Bürgerinnen und Bürger sowie der Wirtschaft festigen soll. Insbesondere im nicht risikoaffinen öffentlichen Sektor ist dies von größerer Bedeutung. Allerdings erfordert die Umsetzbarkeit von KI auch eine sorgfältige Analyse des bestehenden Rechtsrahmens sowie der Gestaltungsspielräume. Dies bringt zentrale Herausforderungen mit sich, darunter die Bestimmung der rechtlichen Plattform-Governance, den Schutz der Daten und die Absicherung von Haftungsrisiken. Zudem müssen KI-basierte Eingriffe in das Gefahrenabwehrrecht integriert werden, unter Berücksichtigung des Grundrechtsschutzes und der Zuständigkeiten verschiedener Behörden. Bei Massenverfahren müssen rechtliche Voraussetzungen gewährleistet werden, um Datenschutz, Gleichheit und effiziente Verwaltungsverfahren sicherzustellen. Diese Herausforderungen zeigen, dass die Definition des Rechtsrahmens für KI im öffentlichen Sektor eine komplexe Aufgabe ist. Es erfordert eine sorgfältige Abwägung zwischen den Chancen und Risiken von KI sowie eine kontinuierliche Anpassung des Rechtsrahmens an die technologische Entwicklung.

Umsetzung auf nationaler Ebene

Der Erfolg der KI-Verordnung hängt wesentlich von ihrer Umsetzung auf nationaler Ebene ab. Die Mitgliedstaaten müssen Maßnahmen ergreifen, um beispielsweise eine kompetente Aufsichtsbehörde und ein nationales KI-Transparenzregister aufzubauen. Darüber hinaus sollten sie kontinuierlich an der Entwicklung von industriellen Standards und Normen arbeiten. Unter diesen Voraussetzungen bietet das vorgeschlagene Gesetz dem öffentlichen Sektor gute Chancen zur Modernisierung in einem legitimierten, aber flexiblen Rechtsrahmen.

Zusammenfassung

Die KI-Verordnung der Europäischen Union schafft einen harmonisierten Regelungsrahmen für den Einsatz von Künstlicher Intelligenz im öffentlichen Sektor. Sie basiert auf einem risikobasierten Ansatz, der verschiedene Regulierungen je nach Risikostufe vorsieht. Die Verordnung bietet Chancen für die Modernisierung des öffentlichen Sektors, erfordert jedoch eine sorgfältige Analyse des Rechtsrahmens und der Umsetzung auf nationaler Ebene. Eine erfolgreiche Umsetzung ermöglicht einen rechtssicheren Experimentierraum und stärkt das Vertrauen in KI.