Pflichten für Anbieter von Hochrisiko-KI-Systemen

Die in Art. 15 VO-E definierten Anforderungen an die Genauigkeit, Robustheit und Cybersicherheit sind generisch beschrieben, sodass Unternehmen grundsätzlich die erforderliche Flexibilität zur Umsetzung der Anforderungen erhalten. Statt auf den unbestimmten Rechtsbegriff des „angemessenen Niveaus“ an Genauigkeit, Robustheit und Cybersicherheit abzustellen, sollte eine Erfüllung der Anforderung an die Genauigkeit, Robustheit und Cybersicherheit von Hochrisiko-KI-Systemen jedoch an eine Umsetzung von – den jeweiligen Risiken angemessenen und im jeweiligen Marktsegment bzw. Anwendungsfeld der KI üblichen – Maßnahmen nach dem „Stand der Technik“ gebunden sein.

Pflichten für Anbieter von Hochrisiko-KI-Systemen

In Bezug auf die in den Art. 16ff. spezifizierten Anbieterpflichten ist zunächst unbedingt eine klare Rollenabgrenzung durch die Verordnung erforderlich. Insbesondere muss vor dem Hintergrund der Komplexität der Wertschöpfungsketten im Bereich der künstlichen Intelligenz (vgl. dazu auch EG 60) eindeutig geregelt sein, wann bzw. unter welchen Voraussetzungen ein Unternehmen als „Anbieter“ eines Hochrisiko-KI-Systems gilt.

In der vorliegenden Fassung deckt der Verordnungs-Entwurf Fallkonstellationen nicht adäquat ab, in denen ein Anbieter von „Hochrisiko-KI“ Technologie (z. B. pre-trained data models) von einem Zulieferer einkauft. In diesem Fall verfügt der Anbieter nicht automatisch über alle notwendigen Daten, um die Anforderungen der Verordnung (z. B. Art. 10) erfüllen zu können. Der Zugriff auf die erforderlichen Daten wäre allein abhängig von der jeweiligen Vertragsgestaltung der Geschäftspartner. Die Verordnung sollte daher auch für solche Fallkonstellationen eine faire Verantwortungsverteilung innerhalb der Lieferkette vorsehen.

Dabei sollte gleichzeitig vermieden werden, dass innerhalb einer Lieferkette mehrere Unternehmen als „Anbieter“ ein und desselben KI-Systems anzusehen sind, was zu einer unnötigen und kostenverursachenden Pflichtenverdopplung führen würde.

Aus Sicht der deutschen Industrie muss außerdem allgemein sichergestellt werden, dass die Pflichten aus Art. 16ff. VO-E für Anbieter in der Praxis tatsächlich erfüllbar sind. Während Art. 16 VO-E auf einzuhaltende Pflichten referenziert, die an anderer Stelle im VO-E festgelegt sind, enthält Art. 17 VOE die Vorgabe zur Umsetzung eines Qualitätsmanagementsystems zur Sicherstellung der Compliance der europäischen KI-Verordnung. Ausdrücklich begrüßt wird die Verhältnismäßigkeitsklausel in Art. 17 Abs. 2 VO-E, nach der die Umsetzung der Vorgaben des Art. 17 VO-E verhältnismäßig zur Größe des jeweiligen Unternehmens sein soll. Das unter Art. 9 VO-E geforderte Risikomanagementsystem stellt nach Art. 17 Abs. 1 lit. g) VO-E einen Bestandteil des Qualitätsmanagementsystems dar. Analog zu den Bestimmungen für Kreditinstitute sollte es auch in Bezug auf die Umsetzung von Art. 17 VO-E branchenübergreifend allen Unternehmen ermöglicht werden, die Umsetzung der geforderten Elemente durch eine Integration entsprechender Prozesse und Maßnahmen in bestehende Qualitätsmanagementsysteme abzudecken.

Art. 20 Abs. 1 VO-E spezifiziert die Aufbewahrungsfrist der nach Art. 12 VO-E zu erfassenden LogDaten für Anbieter von Hochrisiko-KI-Systemen. Die Aufbewahrung von Logdaten muss aus Sicht des BDI in einem angemessenen Verhältnis zum Einsatzzweck des betroffenen KI-Systems stehen, um unverhältnismäßige Aufwände auf Seiten der Unternehmen zu vermeiden. Art. 20 Abs. 1 VO-E sieht eine solche Angemessenheit zwar vor. Die Bestimmung muss allerdings dringend um das Kriterium der technischen Realisierbarkeit ergänzt werden, da in der Praxis technische Restriktionen einer Speicherung von Logdaten in dem vom VO-E geforderten Umfang und Zeitraum entgegenstehen können. Als Beispiel sei auf das Edge-Computing verwiesen, bei dem die Datenverarbeitung dezentral, d. h. auf der Ebene der einzelnen Komponenten eines Netzwerks (z. B. Endgeräte, Sensoren oder Mikrokontroller) erfolgt. Aus technischen Gründen, insbesondere aufgrund begrenzter Speicherkapazitäten,