VwGH lässt AMS-Algorithmus erneut prüfen
Im Gespräch. Die zuletzt ergangene Entscheidung des Verwaltungsgerichtshofs im Zusammenhang mit dem umstrittenen AMS-Algorithmus löste eine intensive Diskussion über den Einsatz von Künstlicher Intelligenz (KI) im öffentlichen Sektor aus. Monika Sturm, Partnerin bei Fellner Wratzfeld & Partner Rechtsanwälte (fwp), erläutert im Interview die bisher ergangenen gerichtlichen Entscheidungen.
Kürzlich hat der Verwaltungsgerichtshof mit einer Entscheidung im Zusammenhang mit dem umstrittenen AMS-Algorithmus „AMAS“ aufhorchen lassen. Worum geht es genau?
Monika Sturm: Um die Berater des Arbeitsmarktservice („AMS“) bei derEinschätzungderArbeitsmarktchancen der Arbeitssuchenden zu unterstützen,hatdasAMSeindigitales Tool, das Arbeitsmarktchancen-Assistenzsystem – kurz „AMAS“ – entwickelt. Dieses Tool errechnet automatisiert mittels eines Algorithmus den Grad der Wahrscheinlichkeit für Arbeitssuchende, innerhalb eines bestimmten künftigen Zeitraums eine bestimmte Anzahl von Tagen beschäftigtzusein.DasSystemlegt der Berechnung dabei verschiedene Daten wie etwa Alter, Geschlecht,Ausbildung,gesundheitliche Beeinträchtigungen, Betreuungspflichten, Arbeitserfahrung, regionales Arbeitsmarktgeschehen oder die Dauer des Geschäftsfalles beim AMS zugrunde. Mit der Hilfe von Künstlicher Intelligenz(„KI“)teiltdasSystemdieArbeitssuchenden in drei verschiedeneStufenmithohen,mittlerenund niedrigen Arbeitsmarktchancen ein.DieErgebnissedesToolssollen schließlichimBeratungsprozessals Ausgangspunkt genutzt werden, um eine Einschätzung des jeweiligen Potenzials und gegebenenfalls der Hindernisse bei der Arbeitsmarktintegration festzustellen. Fördermaßnahmen, beispielsweise, ob ein Arbeitssuchender eine kostenintensive Facharbeiterausbildung genehmigt bekommt oder nicht, sollen damit unter anderem künftig effizienter vergeben werden. Das Ziel dieser Priorisierung vonArbeitssuchendenisteinerseits der schnellere Rückgang der Arbeitslosigkeit insgesamt, andererseits aber auch der effiziente Einsatz der Förderungen für Arbeitssuchende.
Seitens des AMS war geplant, das AMAS ab Jänner 2021 flächendeckend in Österreich einzusetzen. Allerdings hat die Datenschutzbehörde(„DSB“)imAugust2020nach EinleitungeinesamtswegigenPrüfverfahrens die Datenverarbeitung im Zusammenhang mit der ErmittlungvonArbeitsmarktchancenvon Arbeitssuchenden unter der ZuhilfenahmedesKI-basiertesToolsuntersagt.BegründendführtedieDSB im Wesentlichen an, dass für diese Art der Verarbeitung der (teils sensiblen) personenbezogenen Daten keineausreichendeRechtsgrundlage im Sinne der DatenschutzGrundverordnung („DSGVO“) bestehe. Es handle sich um eine verbotene automatisierte Einzelfallentscheidung,sodieDSB. ZudemseiderPflichtzurDurchführung einer Datenschutz-Folgenabschätzung nicht entsprochen. Gegen diesen Bescheid hat das AMS Beschwerde an das Bundesverwaltungsgericht („BVwG“) erhoben, welches den Bescheid in weiterer Folge aufgehoben hat. Das BVwG begründet diese Entscheidung mit einer ausreichenden gesetzlichen Grundlage für die Verarbeitung der personenbezogenen Daten durch das Arbeitsmarktservicegesetz („AMSG“). Zudem ändere die automatisierte Berechnung der Arbeits-
marktchancen der Arbeitssuchenden nichts daran, dass die LetztentscheidungüberdieEinstufung der konkreten arbeitssuchenden Person bei den Beratern des AMSliegt,weshalbkeineverbotene automatisierte Einzelfallentscheidung vorliege. Dieses Erkenntnis des BVwG hat die DSB in der Folge beim Verwaltungsgerichtshof („VwGH“) bekämpft, der nun nach knapp drei Jahren Ende 2023 darüber entschieden hat.
Welche Aussagen hat der VwGH in seiner Entscheidung getroffen?
DerVwGHhatzunächstdaraufhingewiesen, dass eine Verarbeitung personenbezogenerDatenimSinne der DSGVO u.a. dann rechtmäßig ist,wennsiefürdieWahrnehmung einer Aufgabe erforderlich ist, die im öffentlichen Interesse liegt und diese Aufgabe im Recht hinreichend klar und bestimmt beschrieben wird. Die Verarbeitung sensiblerDatensetztsogareinerhebliches öffentliches Interesse an der Verarbeitung von sensiblen Daten voraus. Der VwGH hat in seiner Entscheidung betreffend den AMS-Algorithmus das Vorliegen eines erheblichen öffentlichen InteressesandenBeratungendurchdas AMS anerkannt und erblickt dieses im Funktionieren des Arbeitsmarkts. Das AMSG beschreibe zudem die Aufgabe (Arbeitsvermittlung) bzw. den Zweck der Datenverarbeitung hinreichend klar und bestimmt.
In Bezug auf die Beurteilung, ob es sichbeiderBeratungaufGrundlage der vom AMAS errechneten Arbeitsmarktchancen um eine verbotene automatisierte Einzelfallentscheidung handelt, sprach der VwGHaus,dassgrundsätzlichnach der DSGVO Einzelfallentscheidungen gegenüber Personen verboten
sind, die ausschließlich auf einer automatisiertenVerarbeitungberuhenundgegenüberderbetroffenen PersoneinerechtlicheWirkungentfalten oder sie in ähnlicher Weise erheblich beeinträchtigten, es sei denn,esgibtdafüreinegesetzliche Grundlage.
Bei der Errechnung der Arbeitsmarktchancen durch das AMAS handle es sich zweifellos um „Profiling“, wodurch diese Art der Datenverarbeitung eine automatisierte Einzelfallentscheidung darstellen kann, die ohne eine gesetzlicheGrundlageverbotenwäre. Entscheidendhierfürseijedoch,ob die Entscheidung der Berater des AMS über die Zuordnung der Arbeitssuchenden maßgeblich von den automatisiert errechneten Arbeitsmarktchancenbestimmtwird.
In diesem Zusammenhang verwies der VwGH auf eine Entscheidung desEuGH,wonachdasErgebniseines Profilings eine verbotene automatisierte Einzelfallentscheidung darstellt, wenn auf Grundlage des automatisch errechneten Wertes dasHandelneinesDrittenmaßgeblichbeeinflusstwird.Einederartige automatisierte Einzelfallentscheidungdürfeabernurerfolgen,wenn es eine gesetzliche Rechtfertigung für die Anwendung gibt. Konkret geht es im vorliegenden Fall somit umdieFrage,obdieErgebnissedes AMAS wesentlichen Einfluss auf dieEntscheidungenderBeraterdes AMS nehmen würden und ob eine gesetzliche Rechtfertigung für die Anwendung der automatisierten Entscheidungsfindung besteht. Sowohl die Frage der Maßgeblichkeit der automatisch errechneten Arbeitsmarktchancen für das Vorgehen der Berater beim AMS als auchdieFragedesVorliegenseiner gesetzlichenRechtfertigunghatdas BVwG jedoch nicht geprüft. Inso-
fern sieht der VwGH hier weiteren Klärungsbedarfundhatdasvonder DSB angefochtene Erkenntnis des BVwG aufgehoben. Es ist damit weiterhin offen, ob, in welcher Form und wann die automatisierte BerechnungderArbeitsmarktchancen durch das AMAS zur Anwendung gelangen wird.
Wann ist mit einer endgültigen Entscheidung über die Zulässigkeit des AMS-Algorithmus zu rechnen?
Die offenen Fragen sind nun im fortgesetztenVerfahrenvomBVwG zu klären, das unter Berücksichtigung dieser Fragen eine neuerliche Entscheidung treffen muss. Diese Entscheidungkönnteanschließend neuerlich bekämpft werden. Eine endgültige Entscheidung über die Zulässigkeit des AMS-Algorithmus wird daher wohl noch länger dauern.
Doch auch abseits der datenschutzrechtlichen Aspekte sorgt das Tool für Aufsehen. Warum?
Das AMAS ist grundsätzlich ein Tool,dasentwickeltwurde,umArbeitsuchende bei der Suche nach passenden Beschäftigungsmöglichkeitenzuunterstützen.Sokann die verwendete Automatisierung helfen, den Arbeitsvermittlungsprozess zu beschleunigen und personalisierte Stellen zu finden, die denFähigkeitenundInteressender Arbeitssuchenden entsprechen. TrotzseinerbeabsichtigtenZwecke und möglicher Potenziale ist das AMASjedochaufgrundseinerautomatisierten Algorithmus-gesteuerten Funktionalitäten auch Gegenstand erheblicher Kritik. Einige befürchten, dass die Algorithmen möglicherweise voreingenommen sein oder bestimmte Gruppen von Arbeitsuchenden benachteiligen könnten. Es wird im Zuge dessen
bemängelt, dass das AMAS nicht immerinderLageist,dieindividuellen Fähigkeiten, Interessen und Präferenzen der Arbeitsuchenden bzw. die persönliche Situation angemessen zu berücksichtigen. So berücksichtigt das AMAS nämlich etwa nicht Kriterien wie Motivation, Selbsthilfepotential, Sucht, Schulden, Wohnungssituation etc. Dies kann in weiterer Folge dazu führen, dass Arbeitsuchende Vorschläge für Arbeitsstellen erhalten, dienichtzuihrenUmständen,Qualifikationen oder Karrierezielen passen und das System so Arbeitssuchende in unqualifizierte oder schlecht bezahlte Arbeitsstellen vermitteln könnte, was langfristig zu einer Verschlechterung der Arbeitsbedingungen führen könnte. Einige Kritiker argumentieren zudem, dass das System nicht ausreichend offenlege, welche Kriterien bei der Generierung von Arbeitsvorschlägen tatsächlich in welcher Form berücksichtigt werden. Dies könnte zu einer ungewollten IntransparenzbeiderJobvermittlung führen.
Was glauben Sie, wie wird die Entscheidung des BVwG ausfallen? Darüber lässt sich zum jetzigen Zeitpunkt noch keine Aussage treffen. Dies wird wesentlich von den Ermittlungsergebnissen der zu klärenden Fragen abhängen. Generell kann aber festgehalten werden, dass der Algorithmus auf Basis der derzeitigenRechtslageeherkritisch zu sehen ist.