Europäische Kommission veröffentlicht Entwurf von Standardvertragsklauseln zur KI-Beschaffung – eine Erleichterung?

Kontext 

Das europäische Bestreben zur umfassenden Regulierung von KI schreitet voran. Die Europäische Kommission hat am 29. September 2023 Entwürfe für Standardvertragsklauseln zur Beschaffung von KI-Systemen veröffentlicht („AI SCC“) https://public-buyers-community.ec.europa.eu/communities/procurement-ai/resources/eu-model-contractual-ai-clauses-pilot-procurements-aiShow Footnote, die nun zur Diskussion gestellt sind. Diese Standardvertragsklauseln richten sich an öffentliche Organisationen, die KI-Systeme von einem externen Anbieter beziehen wollen und basieren auf den Anforderungen für KI-Systeme nach dem Vorschlag der Europäischen Kommission zur KI-Vorordnung („KI-VO“).Vorschlag der Europäischen Kommission zur Regulierung von Systemen Künstlicher Intelligenz (COM (2021) 206 final. Mit der Frage der Umsetzung der KI-Verordnung und KI-Haftungs-RL befasst sich das entsprechende Whitepaper, abrufbar unter folgendem Link: https://www.pwc.de/de/risk-regulatory/responsible-ai/ki-gekommen-um-zu-bleiben.htmlShow Footnote Die AI SCC sollen öffentlichen Einrichtungen eine Grundlage bieten, um mit Lieferanten zu verhandeln und zu vereinbaren, wie die Konformität mit den Anforderungen der KI-VO gewährleistet werden kann.

Inhalt

Anknüpfend an den sog. risikobasierten Regelungsansatz der KI-VO differenzieren auch die AI SCC danach, ob es sich bei der Beschaffung der KI-Systeme um solche der Kategorie „Hochrisiko-KI-System“ handelt oder nicht. Entsprechend existieren AI SCC für Hochrisiko-KI-Systeme (bspw. für den Bereich Personalwesen und Beschäftigung oder im Bereich der Bildung) und Nicht-Hochrisiko-KI-Systeme. Auch hinsichtlich der in den AI SCC geregelten Pflichten besteht eine Stringenz zu den Vorgaben der KI-VO. Interessant ist insoweit, dass der an vielen Stellen abstrakt gehaltene Pflichtenkatalog der KI-VO in den AI SCC jedenfalls teilweise konkretisiert wird. Dies dürfte über den Anwendungsfall der AI SCC zur Beschaffung von KI im öffentlichen Sektor hinaus für die Auslegung der KI-VO für sämtliche an der KI-Wertschöpfungskette Beteiligten von Relevanz sein.

Bewertung 

Die Annahme, die AI SCC böten künftig ein erfahrungsbasiertes und bewährtes Regelvertragswerk zur KI-Beschaffung, wäre jedoch weit verfehlt: Die AI SCC enthalten keinerlei vertragswesentlichen Regelungen, wie etwa zu geistigem Eigentum, Abnahme, Zahlung, Lieferzeiten oder der Haftung. Folglich sollten sie allenfalls als Anlage zu einem Haupt- oder Rahmenvertrag vereinbart werden. Ferner befassen sich die AI SCC nur mit Aspekten, die in den Anwendungsbereich der KI-VO fallen. Das bedeutet, dass sie keine anderen Verpflichtungen oder Anforderungen einschließen, die sich aus relevanten geltenden Rechtsvorschriften wie zum Beispiel der Datenschutz-Grundverordnung ergeben können oder die der Erfahrung und Rechtslage nach für öffentliche Einrichtungen nützlich und erforderlich sind.

Da derzeit weder eine endgültige Version der KI-VO noch der diese flankierende KI-Haftungsrichtlinie verfasst sind, sind auch die nun veröffentlichten AI SCC noch entsprechend zu aktualisieren, sobald die finalen Fassungen der KI-Regulierung auf EU-Ebene vorliegen. 

Gleichwohl sind die AI SCC ein sinnvoller Startpunkt für die Entwicklung von künftigen vertraglichen Regelungsansätzen und -mustern bei der KI-Beschaffung von Privatwirtschaft und öffentlicher Hand.