Verantwortungsvoller Einsatz von Künstlicher Intelligenz als Compliance-Aufgabe? Die Warnung der Wettbewerbsbehörden vor Preisabsprachen mittels Künstlicher Intelligenz (KI) ist ein gutes Beispiel dafür, dass Compliance künftig verstärkt mit der Frage nach der Verantwortung der Designer und Betreiber für das ordnungsgemäße Funktionieren von KI-Anwendungen im geschäftlichen Alltag konfrontiert werden wird. Eine frühzeitige Auseinandersetzung mit den entsprechenden Rahmenwerken erleichtert den Einstieg in diese spezielle Form der Technical Compliance.
Der Einsatz von Künstlicher Intelligenz (KI) spielt mit voranschreitender Digitalisierung in sämtlichen Bereichen unseres gesellschaftlichen Lebens und Wirtschaftens eine immer wichtigere Rolle. Ein verantwortungsvoller und transparenter Umgang mit Daten und Algorithmen ist eine wichtige Voraussetzung, um das nötige Vertrauen in KI-Anwendungen zu fördern. Die Europäische Kommission, die OECD und der Berufsverband IEEE (Institute of Electrical and Electronics Engineers) haben jüngst Leitlinien zur Förderung eines vertrauenswürdigen Designs von KI-Anwendungen verabschiedet, die im
DER AUTOR Mag. Rudolf Schwab, MBA, ist Certified Compliance Professional und bei der A1 Telekom Austria Group in den Bereichen Compliance Prävention und Kapitalmarkt Compliance tätig.
Folgenden kurz vorgestellt werden sollen. Auch wenn es nicht Aufgabe des Compliance-Officers sein wird, ein wertebasiertes Design von KI-Anwendungen umzusetzen, so sollte er doch die Grundprinzipien kennen, um sein Unternehmen bei der Implementierung entsprechendender interner Richtlinien unterstützen zu können und als Sparringpartner für die „ethische Dimension von KI“ zur Verfügung zu stehen.
Leitlinien der EU-Kommission für vertrauenswürdige Künstliche Intelligenz Die Ethik-Leitlinien der hochrangigen Expertengruppe der EU-Kommission für
6
3/2019
Compliance_Praxis_03_2019_(2015)_v5.indd 6
eine vertrauenswürdige Künstliche Intelligenz enthalten sieben Anforderungen, die Vertrauen in Künstliche Intelligenz schaffen sollen. Sie betreffen die Fragen nach der Kontrolle, der Sicherheit, dem Datenschutz, der Nichtdiskriminierung, der Nachhaltigkeit, der Verantwortlichkeit und der Transparenz der Algorithmen. Konkret geht es um den Vorrang menschlichen Handelns und menschlicher Aufsicht: KI-Systeme sollten gerechten Gesellschaften dienen, indem sie das menschliche Handeln und die Wahrung der Grundrechte unterstützen‚ keinesfalls aber sollten sie die Autonomie der Menschen verringern, beschränken oder fehlleiten; die Robustheit und Sicherheit: Eine vertrauenswürdige KI setzt Algorithmen voraus, die sicher, verlässlich und robust genug sind, um Fehler oder Unstimmigkeiten in allen Phasen des Lebenszyklus des KI-Systems zu bewältigen; die Privatsphäre und das Datenqualitätsmanagement: Die Bürger sollten die volle Kontrolle über ihre eigenen Daten behalten und die sie betreffenden Daten sollten nicht dazu verwendet werden, sie zu schädigen oder zu diskriminieren; Transparenz: Die Rückverfolgbarkeit der KI-Systeme muss sichergestellt werden; Vielfalt, Nichtdiskriminierung und Fairness: KI-Systeme sollten dem gesamten Spektrum menschlicher Fähigkeiten, Fertigkeiten und Anforderungen Rechnung tragen und die Barrierefreiheit gewährleisten; ein gesellschaftliches und ökologisches Wohlergehen: KI-Systeme soll-
ten eingesetzt werden, um einen positiven sozialen Wandel sowie die Nachhaltigkeit und ökologische Verantwortlichkeit zu fördern; eine Rechenschaftspflicht: Es sollten Mechanismen geschaffen werden, die die Verantwortlichkeit und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse gewährleisten. Der Handlungsrahmen der EU-Kommission für KI zeichnet sich durch drei Komponenten aus, die während des gesamten Lebenszyklus des KI-Systems erfüllt sein sollten: KI sollte rechtmäßig sein und somit alle anwendbaren Gesetze und Bestimmungen einhalten; KI sollte ethisch sein und somit die Einhaltung ethischer Grundsätze und Werte garantieren; KI sollte robust sein, und zwar sowohl in technischer als auch sozialer Hinsicht, da KI-Systeme selbst bei guten Absichten unbeabsichtigten Schaden anrichten können. Die Europäische Kommission startet im Sommer 2019 im Rahmen der European AI Alliance1 eine Pilotphase, um breites Feedback zu den Ethik-Leitlinien für eine vertrauenswürdige Künstliche Intelligenz einzuholen. Nähere Informationen finden sich auf der Internetseite der Europäischen Kommission2, wo auch die Leitlinie abgerufen werden kann.
OECD-Prinzipien für Künstliche Intelligenz Die heuer auf dem G20-Gipfel in Japan vorgestellten OECD-Prinzipien für Künst-
www.compliance-praxis.at
8/26/2019 6:37:01 PM
