EU's kommende AI-regulering et menneskeretligt perspektiv

Rikke Frank Jørgensen Seniorforsker ved Institut for Menneskerettigheder

2021 fremsatte EU-Kommissionen et forslag til et regelsæt, der skal regulere brugen af kunstig intelligens (den såkaldte AI-forordning) i EU's medlemslande.

Hvad siger reglerne?

Forordningen stiller krav til både private virksomheder og offentlige myndigheder, der udbyder og anvender kunstig intelligens. Sigtet er at understøtte et indre marked for udvikling af kunstig intelligens, der tager højde for borgernes grundlæggende rettigheder. Den endelige AI-forordning vil således blive en grundsten i borgernes beskyttelse mod de menneskeretlige risici, som kunstig intelligens rejser.

Reglerne er baseret på en kategorisering af AI-systemer i risikokategorierne 'uacceptabel', 'høj', 'begrænset' og 'lav' risiko. 'Uacceptabel risiko' gælder for AI-systemer, der er uforenelige med EU's værdier og udgør en klar trussel mod borgernes rettigheder. Disse er ikke tilladte. 'Højrisiko'-systemer udgør væsentlige risici for borgernes rettigheder og skal derfor opfylde en række krav i forordningen. Det gælder for eksempel krav om risikostyring, datakvalitet, transparens og menneskelig kontrol. For systemer med 'begrænset risiko' er der alene krav om, at borgerne informeres, mens 'lavrisiko'-systemer er tilladte uden begrænsninger.

Der er tre centrale punkter: For det første stiller forslaget til forordning ikke krav om menneskeretlig