Präsentation Regulierung von KI für FinTech-Anwendungen

REGULIERUNG VON KÜNSTLICHER INTELLIGENZ FÜR FINTECH-ANWENDUNGEN

Cornelia Stengel, Gino Wirthensohn, Luca Stäuble 10. April 2022

INHALT 1.

Einleitung

2.

Rechtsrahmen Schweiz a) b) c) d) e) f) g)

Allgemeine Feststellungen Grundrechte Finanzmarktrecht Datenschutzgesetzgebung Produktehaftung Kartellrecht Arbeitsrecht

3.

Rechtsrahmen Ausland

4.

Fazit / Handlungsempfehlungen

Einleitung • Für den Begriff „künstliche Intelligenz“ („Artificial Intelligence“, auch abgekürzt „KI“ oder „AI“) existiert keine exakte, allgemein gültige und akzeptierte Definition.

• Der Begriff wird in der Regel vereinfachend zur Bezeichnung unterschiedlicher Systeme verwendet, welche sich wie folgt auszeichnen: •

Auswertung grosser Mengen von Daten in hoher Komplexität insbesondere durch selbständig lernende Algorithmen;

•

Erstellung von Vorhersagen als wesentliche Grundlage für Entscheidungen;

•

Simulation von Fähigkeiten der menschlicher Kognition;

•

Weitgehend autonomes Agieren.

•

Daneben wird auch häufig von «maschinellem Lernen» gesprochen.

Selbständig lernende Algorithmen sind die Methoden von künstlicher Intelligenz, um Muster in Datensätzen zu erkennen und darauf basierend Voraussagen zu machen.

•

Systeme, die auf maschinellem Lernen beruhen, fällen Entscheidungen nicht auf der Basis «wenn-dann-Schemata», sondern gestützt auf statistische Zusammenhänge.

#FinTank FHNW

3

Einsatzmöglichkeiten: KI in FinTech • Auf dem Finanzmarkt werden Methoden künstlicher Intelligenz schon länger eingesetzt.

• Die Anwendungsfälle nehmen weiter zu, da ihr Einsatz beispielsweise Kostensenkungen durch Automatisierungen oder Qualitätssteigerungen durch massgeschneiderte Lösungen für Kundinnen und Kunden verspricht.

• Beispielshafte Einsatzmöglichkeiten: •

Entscheidungsfindung bei der Kreditvergabe (Auswertung alternativer Datenquellen wie z.B. Verhalten in sozialen Netzwerken);

•

Anlageentscheidungen in der Vermögensverwaltung (Auswertung von grossen Datenmengen wie z.B. Satellitenbilder);

•

Kundeninteraktion via Chatbots;

•

RegTech (z.B. AML Transaktionsmonitoring);

•

Analysemethoden für die Versicherungsbranchen (z.B. automatisierte Schadenserkennung auf Bildern).

#FinTank FHNW

4

RegTech: Transaktionsmonitoring • Pflicht des Finanzintermediärs zur Abklärung der Hintergründe und des Zwecks einer ungewöhnlichen Transaktion nach Art. 6 Abs. 2 GwG. • Diese so genannte Transaktionsüberwachung ist gemäss Art. 20 Abs. 2 GWVFINMA mit einem informatikgestützten System zu betreiben.

• KI-Lösungen können verdächtige Transaktionen erkennen und insbesondere die Anzahl sogenannter False-Positives reduzieren, womit das Personal vermehrt für die Abklärungen von höheren Risikofällen einsetzbar ist.

• Ein Transaktionsmonitoring kann ebenfalls zur Identifikation von betrügerischen Zahlungen eingesetzt werden. Mittels Verwendung einer KI-Lösung konnte im Rahmen einer Studie die Betrugserkennungsrate von 85% auf 90% erhöht werden.

• Verantwortung/Haftung: Der Finanzintermediär bleibt für die Erfüllung der GwG-Pflichten verantwortlich (FINMA RS 2018/3, Rz. 23 / Art. 29 Abs. 1 GwVFINMA).

#FinTank FHNW

5

Rechtsrahmen Schweiz • Die Einsatzmöglichkeiten von Methoden künstlicher Intelligenz im Finanzmarkt zeigen das grosse Potential und die Chancen dieser Entwicklung auf, bergen aber immer auch Risiken, welchen gerade auf dem Finanzmarkt üblicherweise mit Regulierung begegnet wird.

• Bei den Risiken, die in Zusammenhang mit dem Einsatz künstlicher Intelligenz bisweilen identifiziert wurden, handelt es sich um Herausforderungen wie sie aus dem Bereich der Statistik bekannt sind, welche jedoch durch den Einsatz von Methoden der künstlichen Intelligenz verstärkt werden.

• So kann insbesondere die Nachvollziehbarkeit bzw. Erklärbarkeit bestimmter Vorhersagen bzw. Ergebnisse leiden oder auch die Qualität von Vorhersagen und Ergebnissen an sich, weil diese stark von der Qualität der (Trainings-)Daten und Algorithmen abhängt.

• Dabei handelt es sich in erster Linie um technische Herausforderungen. Je nach Anwendungsgebiet können insbesondere die fehlende Nachvollziehbarkeit bzw.

Erklärbarkeit von Ergebnissen sowie die autonome Handlungsfähigkeit von KISystemen aber auch rechtliche Herausforderungen mit sich bringen.

• Anders als in der EU ist in der Schweiz derzeit keine Einführung von KIspezifischen Regelungen vorgesehen, weil die technologie-neutral ausgestalteten Rechtsvorschriften auch KI-Sachverhalten erfassen.

#FinTank FHNW

6

Grundrechte • Würde des Menschen: Künstliche Intelligenz darf nicht dazu führen, dass der Mensch als Objekt behandelt wird. Dieses Risiko ist dem Einsatz künstlicher Intelligenz inhärent.

• Rechtliches Gehör: Wird beispielsweise ein Gerichtsurteil unter Einbezug von Methoden künstlicher Intelligenz gefällt, kann es allenfalls nur beschränkt nachvollziehbar begründet werden, wenn es den Methoden selbst an Transparenz und Nachvollziehbarkeit mangelt.

• Privatsphäre: Künstliche Intelligenz setzt definitionsgemäss eine umfangreiche automatisierte Verarbeitung von (Personen-)Daten voraus.

• Diskriminierungsverbot: Methoden künstlicher Intelligenz können zu erheblichen Diskriminierungen führen, wenn sie auf diskriminierenden Inhalten (z.B. Prüfung der Kreditfähigkeit einer Person durch lernende Algorithmen, die auf der Basis von Daten über Kreditgewährungen in der Vergangenheit trainiert wurden).

• Meinungsäusserungsfreiheit und Medienfreiheit.

#FinTank FHNW

7

Finanzmarktrecht • Mögliches Outsourcing wesentlicher Funktionen im Sinne des FINMA-RS 2018/3.

• Operationelle Risiken (insbesondere in Bezug auf die IT-Infrastruktur nach FINMA-RS 2008/21).

• Empfehlung zur Information von Kundinnen und Kunden bezüglich des Einsatzes von künstlicher Intelligenz nach Art. 8 Abs. 1 FIDLEG i.V.m. Art. 7 Abs. 1 lit. a FIDLEV. • Beim Einsatz von Methoden künstlicher Intelligenz im Rahmen der Anlageberatung und Vermögensverwaltung ist der Angemessenheits- und Eignungsprüfung gemäss Art. 11 f. FIDLEG besondere Beachtung zu schenken.

• Im Bereich GWG-Compliance (z.B. Transaktionsüberwachung) sich insbesondere Grundrechte (z.B. Diskriminierungsverbot) zu beachten.

• Im Versicherungsbereich künstliche Intelligenz in Kombination mit Big Data als Risiko von unbeabsichtigter oder intransparenter Diskriminierung und Missbrauch (FINMA-Risikomonitor 2020).

#FinTank FHNW

8

Datenschutzgesetzgebung • Methoden künstlicher Intelligenz und Datenbearbeitung sind untrennbar miteinander verbunden.

• Künstliche Intelligenz wird mit Daten trainiert, verarbeitet Daten bei ihrer Anwendung und generiert selbst wiederum neue Daten. Sobald dabei Personendaten bearbeitet werden, ist der Anwendungsbereich des Schweizer Datenschutzgesetzes (DSG) grundsätzlich eröffnet.

• Insbesondere bei Online-Kreditanträgen ist eine vollständig automatisierte Bearbeitung und damit ein automatisierter Ermessensentscheid möglich. Das revidierte Datenschutzgesetz enthält neu die Pflicht des Verantwortlichen, die betroffene Person über eine Entscheidung, die ausschliesslich auf einer automatisierte Datenbearbeitung beruht, unter gewissen Voraussetzungen zu informieren und ihr die Möglichkeit zur Stellungnahme sowie einen Anspruch „menschliches Gehör“ einzuräumen.

• Der Einsatz von Methoden künstlicher Intelligenz kann weiter eine Datenschutzfolgenabschätzung erforderlich machen.

#FinTank FHNW

9

Produktehaftung • Ein KI-System selbst (zumindest heute) kann nicht Haftungssubjekt sein, da es nicht rechtsfähig ist. Die viel diskutierte E-Persönlichkeit bleibt bis heute nur eine Idee der Wissenschaft.

• Es ist nicht restlos geklärt, ob eine Software als Produkt im Sinne des Produktehaftpflichtgesetzes (PrHG) zu qualifizieren ist.

• Zentral ist die Unterscheidung, ob ein Schaden aus einem eigentlichen Produktfehler herrührt oder auf dem gewollten selbständigen Entscheidungsbereich der künstlichen Intelligenz beruht (Silvio Hänsenberger, Die Haftung für Produkte mit lernfähigen Algorithmen, Wann haften Hersteller für Schäden durch Produkte mit lernfähigen Algorithmen?, Jusletter 26. November 2018).

• Im Finanzmarktrecht werden diese Fragen indes von untergeordneter Bedeutung bleiben, weil es sich bei den Schäden, welche durch den Einsatz von KI entstehen, in aller Regel um (reine) Vermögensschäden handeln dürfte, welche vom PrHG a priori nicht erfasst sind. In diesem Zusammenhang ist vielmehr auf die vertraglichen (Art. 398 OR für Dienstleistungen; Art. 197 OR für Produkte) und ausservertraglichen Haftungsbestimmungen (Art. 41 OR) abzustellen.

#FinTank FHNW

10

Kartellrecht • Der Einsatz von Methoden künstlicher Intelligenz wie insbesondere Algorithmen kann kartellrechtlich relevant sein, wenn dabei wettbewerbsrelevante Parameter wie bspw. Preise betroffen sind, da Preisalgorithmen gezielt so programmiert werden können, dass bspw. zwischen Mitbewerbern abgesprochene Preise bei Online-Angeboten nicht unterschritten werden.

• Preisalgorithmen fördern den Wettbewerb aber auch aufgrund der Erhöhung der Markttransparenz und der Möglichkeit, häufiger und rascher auf Preisanpassungen zu reagieren.

• Preisalgorithmen können nicht nur mit Blick auf Abrede-Sachverhalte, sondern auch im Zusammenhang mit einer marktbeherrschenden Stellung relevant sein.

• Wird bspw. ein Preisalgorithmus eingesetzt, um unangemessene Preise oder Geschäftsbedingungen zu erzwingen, so wäre dies gemäss Art. 7 Abs. 2 lit. c KG als missbräuchlich zu qualifizieren, sofern dadurch andere Unternehmen in der Aufnahme oder Ausübung des Wettbewerbs behindert oder die Marktgegenseite benachteiligt werden und das betreffende Unternehmen keine Rechtfertigungsgründe geltend machen kann.

#FinTank FHNW

11

Arbeitsrecht • Methoden künstlicher Intelligenz können beim Bewerbungsprozess, während des laufenden Arbeitsverhältnisses (Überwachung) und darüber hinaus (Aufbewahrung von Personendaten) eingesetzt werden.

• Art. 328b OR beschränkt die zulässige Datenbearbeitung in gegenständlicher Hinsicht auf Daten zur Eignung des Arbeitnehmers für das Arbeitsverhältnis und zu dessen Durchführung.

• Führt ein Roboter das Bewerbungsgespräch (sog. «Chatbot») gelten aufgrund der Technologieneutralität des Gesetzes dieselben Regeln wie bei einem Bewerbungsgespräch mit einem Menschen.

• Im Vordergrund steht während des Arbeitsverhältnisses die Installation einer Videoüberwachungsanlage am Arbeitsplatz. Neben dem Datenschutzgesetz hat der Arbeitgeber in diesem Zuammenhang auch das Arbeitsrecht zu beachten, wonach nur Daten über den Arbeitnehmer bearbeitet werden dürfen, welche die Eignung für das Arbeitsverhältnis betreffen oder zur Durchführung des Arbeitsvertrages erforderlich sind.

#FinTank FHNW

12

Rechtsrahmen Ausland • Verschiedene Finanzmarktaufsichtsbehörden aus anderen Jurisdiktionen haben Regelungen zur Verwendung bzw. den Einsatz von Methoden künstlicher Intelligenz durch beaufsichtigte Institute erstellt..

• Insbesondere Deutschland, Singapur, Hong Kong, Frankreich, die Niederlande sowie das Vereinigte Königreich haben Rahmenwerke erlassen.

• Die existierenden Regelungen sind grundsätzlich prinzipienbasiert und adressieren fünf gemeinsame Grundsätze: •

Zuverlässigkeit/Solidität,

•

Rechenschaftspflicht,

•

Transparenz,

•

Fairness,

•

Ethik.

#FinTank FHNW

13

Fazit • Derzeit keine Notwendigkeit für eine eigene Regulierung (wie z.B. in der EU).

• Eine Anpassung einzelner Gesetze wie z.B. des Produktehaftpflichtgesetzes würde Unklarheiten beseitigen.

• Bestehende gesetzliche Grundlagen sind technologieneutral anzuwenden.

• Allenfalls Schaffung/Anpassung von Auslegungs- und Orientierungshilfen.

• Laufende Neubeurteilung von allfälligem Revisionsbedarf unabdingbar.

Handlungsempfehlungen • Die Verwendung von KI sollte von der Geschäftsleitung beschlossen werden (FINMA RS 2017/1, Rz. 50) und einer Risikoanalyse unterliegen (FINMA RS 2008/21, Rz. 135 ff.). Abhängig vom Setup können auch die Outsourcing Anforderungen anwendbar sein (FINMA RS 2018/3).

• Gewisse Entscheide (z.B. Aufnahme von Geschäftsbeziehungen mit erhöhten Risiken können nicht von einer KI gefällt werden (Art. 19 Abs. 1 GWV-FINMA).

• Regelungen von Finanzmarktaufsichtsbehörden aus dem Ausland weisen unterschiedliche Detailierungsstufen auf und können als Leithilfe dienen.

#FinTank FHNW

14

Weiterführende Informationen in der SZW Heft 4/2021 «Regulierung von künstlicher Intelligenz für FinTech-Anwendungen – Stand der Diskussion in der Schweiz und im Ausland» Von: Cornelia Stengel, Gino Wirthensohn, Luca Stäuble «New methods of artificial intelligence represent one of the greatest promises and most prospective developments of digitalisation. Artificial intelligence has already enabled numerous innovative applications in the areas of image recognition, medicine, language and mobility, and it is also increasingly being used in the financial market, on which this article focuses. In addition to great opportunities, new methods always entail risks, which are usually countered with regulation, especially in the financial market. This article presents - without claiming to be exhaustive - various possible applications for artificial intelligence in connection with financial services and highlights the question of necessity as well as the status of the discussions surrounding its regulation in Switzerland and abroad.»

https://www.fhnw.ch/de/die-fhnw/hochschulen/hsw/iff/fintank/media/01_szw_04_2021_stengel_wirthensohn.pdf

#FinTank FHNW

15

Cornelia Stengel Prof. Dr. iur.

Rechtsanwältin Top ranked for FinTech in Chambers and Legal500

Cornelia Stengel ist Rechtsanwältin für Finanzmarkt- und Datenschutzrecht und Partnerin bei Kellerhals Carrard. Sie berät Innovationsprojekte in Zusammenhang mit Digitalisierung, FinTech, Blockchain/DLT oder Datenpolitik.

Dabei verbindet sie rechtliche Expertise mit unternehmerischer Erfahrung, die sie in einem Konzernrechtsdienst und als Verwaltungsratssekretärin eines Finanzdienstleisters sowie als Mitglied der Geschäftsleitung von Swiss FinTech Innovations und Geschäftsführerin des Schweizerischen Leasingverbands erworben hat und weiterentwickelt.

Ihr Know-how teilt sie als Gastprofessorin und Leiterin des interdisziplinären #FinTank an der FHNW sowie Dozentin an verschiedenen Hochschulen, aber auch als Expertin der Bundesverwaltung und als ständiger Gast der Fachkommission Digitalisierung der Schweizerischen Bankiervereinigung. https://www.linkedin.com/in/cornelia-stengel

Gino Wirthensohn MLaw

Gino Wirthensohn ist Chief Legal, Compliance & RegTech Officer einer Bank für digitale Vermögenswerte. Er verfügt über 10 Jahre Erfahrung im Finanzsektor, welche er in Banken, als Berater sowie in Technologie-Start-ups an der Schnittstelle von Regulierung und Technologie in unterschiedlichen Positionen in Legal, Compliance und Risk Management gesammelt hat.

Davor war Gino Wirthensohn während 5 Jahren auf zwei Notariaten, Grundbuch- und Konkursämtern in Zürich tätig, davon 2 Jahre als Urkundsperson. Gino Wirthensohn hat einen Master of Law von der Universität Luzern und verschiedene Zertifizierungen im Datenschutz-Bereich sowie im Produkte- und Projektmanagement erlangt. https://www.linkedin.com/in/ginowirthensohn/ https://twitter.com/ginowirthensohn

Luca Stäuble MLaw Rechtsanwalt

Luca Stäuble ist Rechtsanwalt für Datenschutzrecht und Senior Associate bei Kellerhals Carrard. Er unterstützt in- und ausländische Unternehmen in sämtlichen datenschutzrechtlichen Anliegen sowohl unter Schweizer als auch europäischer Datenschutzgesetzgebung (DSG/EU-DSGVO). Insbesondere berät und vertritt Luca Stäuble seine Klienten bei der Konzeption und Umsetzung von (digitalen) Geschäftsmodellen sowie bei der Verhandlung und Redaktion von datenschutzrelevanten Verträgen und Dokumenten wie bspw. Kooperationsverträgen, Dienstleistungsverträgen (inkl. ADV), Datenschutzerklärungen, Bearbeitungsverzeichnissen, internen Richtlinien usw.

Seine weiteren Tätigkeitsschwerpunkte umfassen insbesondere die Bereiche des Wettbewerbs- und Kartellrechtrechts.

https://www.linkedin.com/in/luca-staeuble