BDI-Stellungnahme zum Entwurf einer europäischen KI-Verordnung
Allgemeine Bestimmungen und Rechtssystematik In den Art. 1-7 VO-E werden der Gegenstand und Anwendungsbereich sowie zentrale Rechtsbegriffe der europäischen KI-Verordnung definiert. Von zentraler Bedeutung für die Industrie sind in diesem Zusammenhang die im Nachfolgenden näher betrachteten Definitionen von „KI-System“ und „Hochrisiko-KI-System“. An diesen Punkten besteht aus Sicht der deutschen Industrie noch erheblicher Nachbesserungsbedarf. In Bezug auf die weiteren Legaldefinitionen im Verordnungstext sollte darüber hinaus eine Einheitlichkeit mit den Definitionen in bereits existierenden Rechtsakten auf Basis des New Legislative Frameworks (NLF) sichergestellt werden. Aus rechtssystematischen Gründen sollte im weiteren Verlauf des Rechtsetzungsverfahrens zudem geprüft werden, ob – wie von der EU-Kommission vorgesehen – auch die „Nutzer“ von KI-Systemen von der Verordnung erfasst werden sollten, da das Rechtsinstrument nach Punkt 2.1. der Gesetzesbegründung als „Hauptziel“ das „reibungslose Funktionieren des Binnenmarktes“ verfolgt. Definition von “KI-System” und “Hochrisiko-KI-System“ Der dem Verordnungs-Entwurf zugrunde liegende KI-Begriff („artificial intelligence system“) wird in Art. 3 Ziff. (1) i.V.m. Anhang I VO-E definiert. Zwar ist es im Grunde begrüßenswert, dass sich die EUKommission an dieser Stelle an der OECD orientiert 1 und somit an eine bestehende Debatte zur Erarbeitung von Definitionskriterien für KI anknüpft. Die von der Kommission im VO-E gewählten Definitionskriterien, insbesondere die im Anhang I aufgeführten Techniken und Konzepte („statistische Ansätze“, „Such- und Optimierungsmethoden“), würden allerdings dazu führen, dass auch konventionelle Software in den Anwendungsbereich der Verordnung fallen würde. Um Rechtsunsicherheiten für Marktteilnehmer zu vermeiden und einen spezifischen sowie klar abgrenzbaren Anwendungsbereich der VO zu gewährleisten, muss die KI-Definition folglich deutlich enger gefasst werden. Zudem sollte im weiteren Verlauf des Rechtsetzungsverfahrens geprüft werden, ob die KI-Definition zur rechtssicheren Anwendung der Verordnung – analog zur Vorgehensweise der OECD – auf die Ebene des „Systems“ (einschließlich Hardware) abstellen sollte. Darüber hinaus sollten nach Inkrafttreten der Verordnung möglicherweise erforderliche Anpassungen der Legaldefinition nicht – wie in Art. 4 VO-E vorgesehen – über einen delegierten Rechtsakt erfolgen. Da es sich bei der KI-Definition um eine wesentliche Bestimmung der Verordnung handelt, sollten Anpassungen nur auf dem Wege eines ordentlichen Gesetzgebungsverfahrens erfolgen. Sehr kritisch ist aus Industriesicht zudem die in Art. 6 VO-E vorgenommene Definition des Begriffs der „Hochrisiko KI-Systeme“ zu bewerten. Die Kommission wählt an dieser Stelle ebenfalls eine sehr weite Definition, mit der KI, die in einer Vielzahl von Bereichen zum Einsatz kommt, der Hochrisiko-Kategorie zugeordnet wird. Diese Begriffsdefinition geht deutlich zu weit, da dadurch auch unkritische industrielle KI-Anwendungen als „Hochrisiko KI-Systeme“ betrachtet werden. Die Folge wären unverhältnismäßige regulatorische Anforderungen an Hersteller und Anwender industrieller KI, die letztlich innovationshemmend wirken würden. Das geltende nationale und europäische Produktsicherheitsrecht legt zudem bereits umfassende Sicherheitsanforderungen fest, mit denen auch Künstliche Intelligenz als Risikoursache abgedeckt wird. Vor diesem Hintergrund besteht an dieser Stelle die Gefahr einer Doppelregulierung. Es sollten daher nur solche Bereiche von der europäischen KI-Verordnung erfasst werden, für die eine Regulierungslücke nachgewiesen wurde. Industrielle KI-Systeme, die bereits durch bestehendes Recht reguliert werden, sollten hingegen vom Anwendungsbereich der Verordnung ausgenommen werden. In jenen Bereichen, in denen eine Regelungslücke besteht, sollten zusätzliche Kriterien für die Einstufung von KI-Systemen in die Hochrisiko-Kategorie herangezogen werden. Dazu
1
Vgl. Definition von „AI system“ unter https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
3
