Künstliche Intelligenz

Große Chancen, hohe Komplexität

Bedeutung von Künstlicher Intelligenz

Zu den zentralen disruptiven Technologien der Digitalisierung gehört die Künstliche Intelligenz (KI). Die technische Entwicklung von KI, allem voran bei den großen Sprachmodellen, ist ebenso rasant wie die Aufmerksamkeit, die die KI-Technologie in letzter Zeit in der Öffentlichkeit erhält. Dabei ist der Einsatz von KI nicht neu. Viele Branchen setzen KI schon lange ein, sei es in der Forschung, Finanzwirtschaft oder Logistik oder in der Spracherkennung und -steuerung.

Rechtlicher Rahmen

Die Europäische Union hat mit der KI-Verordnung (KI-VO) einen einheitlichen europäischen Rechtsrahmen für die Entwicklung und Nutzung von KI verabschiedet. Dabei wird – auf Grundlage eines risikobasierten Ansatzes – der gesamte Lebenszyklus eines KI-Systems betrachtet, einschließlich des Inverkehrbringens von KI-Systemen, der Marktüberwachung, Kontrolle, Governance und Durchsetzung. Der europäische Gesetzgeber flankiert die KI-VO mit der Überarbeitung der Produkthaftungsrichtlinie, mit welcher angesichts der geringen Transparenz der KI-Systeme Kausalitätsvermutungen und Offenlegungspflichten eingeführt werden sollen. Rechtsgebiete, die bei der KI-Nutzung beachten werden müssen, betreffen daneben vor allem das Urheberrecht, das Recht der Geschäftsgeheimnisse, das IT-Recht, Schuldrecht und Datenschutzrecht.

Was ist zu tun?

Für die KI-Nutzung ist ein Überblick über die eingesetzten KI-Systeme, Anwendungsfälle und Daten unerlässlich. Es sollte ein KI-Managementsystem über den gesamten Lebenszyklus aufgebaut und – zu Synergiezwecken – mit bestehenden Managementsystemen verknüpft werden, welches der Art und dem Umfang der KI-Nutzung entspricht. Zu den Handlungsfeldern gehören:

Betroffenheit: Bewertung des Anwendungsbereichs der KI-VO
Inventarisierung: Identifizierung und Klassifizierung der KI-Systeme, Anwendungsfälle und genutzten Daten
Risikoklassifizierung: Einordnung der identifizierten KI-Systeme nach Risikoklasse und Durchführung von KI-Folgenabschätzungen bei hohen Risiken
Datenbasis: Analyse der Datenquellen, Datenqualität und Urheber der Daten
Datenschutz: Überprüfung datenschutzrechtlicher Vorgaben wie der Bestimmung der Verantwortlichkeit, der geeigneten Rechtsgrundlagen und Löschanforderungen
Transparenz: Sicherstellung hinreichender Informationen zum KI-System
Qualitätsmanagement: Integration von KI-Systeme in das Qualitätsmanagement und ggf. die Corporate Social Responsibility Strategie
Vertragsmanagement: Bewertung des Anpassungsbedarf bei Musterverträgen und bestehenden Verträgen mit Dritten, die durch die KI betroffen sind
Protokollierung: Abgleich der Eingabedaten mit der Referenzdatenbank
EU-Datenbank: Prüfung der Registrierung von Hochrisiko-KI-Systemen in EU-Datenbank
Schulung: Befähigung der Mitarbeiter im Umgang mit KI-Systemen
Dokumentation: Erstellung einer technischen Dokumentation zum KI-System
Haftung: Bewertung der geänderten Haftungsrisiken im Risikomanagement

Unsere Services

Unsere Rechtsberatung im Rahmen der KI-Governance umfasst den gesamten Lebenszyklus eines KI-Systems:

KI & Datenschutz

Einbettung der KI-Compliance in das Datenschutzmanagement
Zulässigkeit der Verarbeitung personenbezogener Daten (Trainingsdaten & im Betrieb)
Insbesondere Profiling und automatisierter Entscheidungsfindung
Umsetzung Transparenz ggü Betroffenen