Rechtlicher Rahmen für den Einsatz künstlicher Intelligenz in Kommunen

Am 2. Februar 2025 treten die ersten Verbotsnormen der EU-Verordnung über den Einsatz künstlicher Intelligenz (Verordnung (EU) 2024/1689) in Kraft. Der rechtsichere KI-Einsatz stellt dabei insbesondere auch Kommunen vor große Herausforderungen. Zugleich wollen Chancen auf Wertschöpfung durch den Einsatz von KI nicht ungenutzt bleiben, insbesondere im Bereich der Smart City. Dieses Spannungsfeld gilt es auszubalancieren – und die Uhr tickt!

Die EU-KI Verordnung

Die EU-KI Verordnung zielt darauf ab, einheitliche Regelungen für den Einsatz von KI innerhalb der Europäischen Union zu schaffen. Sie verfolgt das Ziel, die Sicherheit und die Grundrechte der Bürger zu schützen und gleichzeitig Innovationen zu fördern. Die Verordnung unterscheidet zwischen verschiedenen Risikokategorien von KI-Systemen:

1. Verbotene KI-Praktiken: Gewisse Anwendungen sind verboten, da sie ein unannehmbares Risiko darstellen, wie z. B. KI-Systeme, die subliminale Techniken zur Manipulation von Menschen einsetzen.
2. Hochrisiko-KI-Systeme: Diese Systeme unterliegen strengen Anforderungen und Kontrollen, da sie erhebliche Risiken für die Gesundheit, Sicherheit oder Grundrechte der Menschen bergen.
3. Geringes Risiko: Diese Systeme unterliegen weniger strengen Anforderungen, müssen aber dennoch bestimmte Transparenzpflichten erfüllen.

Betroffene kommunale KI-Projekte im Bereich Smart City

Für Kommunen stellt sich zunächst die Frage nach der Betroffenheit analog der KI-Verordnung. So gibt es im Bereich Smart City zahlreiche KI-Projekte, die von der EU-KI Verordnung erfasst sein könnten. Nachfolgend seien nur einige Beispiele genannt:

• Verkehrsmanagementsysteme: KI-basierte Systeme zur Verkehrssteuerung und ‑überwachung, die den Verkehrsfluss optimieren und Staus reduzieren sollen. Diese Systeme könnten als hochrisikoreich eingestuft werden, da sie direkte Auswirkungen auf die öffentliche Sicherheit haben können.
• Überwachungssysteme: KI-gestützte Videoüberwachung zur Erhöhung der öffentlichen Sicherheit. Diese Systeme könnten ebenfalls als hochrisikoreich eingestuft werden, insbesondere wenn sie Gesichtserkennungstechnologien verwenden.
• Energie-Management-Systeme: KI-Systeme zur Optimierung des Energieverbrauchs in städtischen Gebäuden und Infrastrukturen. Diese Systeme könnten als geringeres Risiko eingestuft werden, müssen aber dennoch Transparenzanforderungen erfüllen.

Handlungserfordernisse für Kommunen

Kommunen, die KI-Projekte im Bereich Smart City umsetzen möchten, müssen sich auf die neuen Anforderungen der EU-KI Verordnung einstellen. Hierbei bestehen insbesondere folgende Handlungserfordernisse:

1. Betroffenheitsprüfung und Risikobewertung: Kommunen müssen eine gründliche Risikobewertung ihrer KI-Systeme durchführen, um festzustellen, in welche Risikokategorie diese fallen.
2. Compliance: Für hochrisikoreiche KI-Systeme müssen Kommunen sicherstellen, dass sie alle Anforderungen der Verordnung erfüllen, einschließlich der Implementierung von Risikomanagementsystemen und der Durchführung von Konformitätsbewertungen.
3. Transparenz: Kommunen müssen sicherstellen, dass die Bürger über den Einsatz von KI-Systemen informiert werden und verstehen, welche Daten sie verwenden.
4. Grundrechtsfolgenabschätzung: Bei Hochrisiko-KI-Systemen kann eine komplexe Grundrechtsfolgenabschätzung erforderlich werden, weil der Einsatz von KI in besonders sensiblen Bereichen auch in Grundrechte der BürgerInnen eingreifen kann.
5. Schulung und Weiterbildung: Mitarbeiter der Kommunen sollten im Umgang mit KI-Systemen geschult werden, um sicherzustellen, dass sie die rechtlichen Anforderungen und die technischen Aspekte der Systeme verstehen.

Der rechtliche Rahmen für den Einsatz von KI in Kommunen ist komplex und erfordert sorgfältige Planung und Umsetzung. Durch die eine Weichenstellung für die genannten Maßnahmen können Kommunen jedoch sicherstellen, dass sie die Vorteile von KI nutzen und zugleich rechtssicher im Sinne der Vorgaben der EU-KI Verordnung agieren. In der Folge wird somit auch das Vertrauen und die Akzeptanz in die Technologie erhöht und Wertschöpfung ermöglicht.