Page 22

DOSSIER

RECHT &

ETHIEK

EERLIJKHEIDSPRINCIPE De eerlijkheid17 van algoritmes en van de bedenkers is een substantieel principe over het belang van de gebruiker (individueel of collectief). Een eerlijk algoritme mag niet tot gevolg hebben dat een dusdanige discriminatie wordt opgewekt, gereproduceerd of versterkt en dat zowel bewust als onbewust, dat wil zeggen zonder verwijzing naar commerciële, concurrentiële bekommernissen door oneerlijke praktijken die ertoe bestemd zijn om een voordeel te verwerven door het algoritme te manipuleren.18

22

WAAKZAAMHEIDSPRINCIPE Deze waakzaamheid bestaat uit een verplichting tot oplettendheid en reflexiviteit. Ten eerste omwille van het evolutief en onvoorzienbaar karakter van algoritmes in het tijdperk van het automatisch leerproces met een risico op exponentiële impact. Ten tweede omwille van het gecompartimenteerd karakter van algoritmische ketens, die leiden tot een fragmentatie van de vordering, een ongevoeligheid voor de impact veroorzaakt door het algoritmisch systeem en dus

een verwatering van de verantwoordelijkheden. En ten derde omwille van het risico van een buitensporig vertrouwen in de machine die beschouwd wordt als een onfeilbare technologie die vrij is van vooroordelen (gekend onder de naam van het black box effect ) 19.

DE PRINCIPES VAN ENGINEERING …die ten eerste vertaald worden door transparantie en verstaanbaarheid. Het idee van transparantie van algoritmes is niet volstrekt bevredigend. Een eenvoudige publicatie van een broncode zegt de immense meerderheid van het publiek niets en creëert bovendien een spanning met het intellectueel eigendomsrecht (een industrieel geheim waarvan de bekendmaking een economisch model in gevaar zou kunnen brengen). Het is daarom dat de voorkeur wordt gegeven aan de vereiste van verstaanbaarheid (verklaarbaarheid) van de algoritmes. In plaats van toegang te hebben tot de broncode, zou de hoofdzaak zijn om zelf de algemene logica te kunnen begrijpen van de werking van het algoritme20. Ten tweede, door het recht op een menselijke tussenkomst,

EEN FRANSE REVOLUTIE? De CNIL in Frankrijk heeft in haar verslag over de ethische inzet van algoritmes en kunstmatige intelligentie30 een reeks aanbevelingen naar voren geschoven die als kader kunnen dienen om een ethische stap te zetten voor alle legal techs: de gehele algoritmische keten inzake ethiek ontwikkelen (onderzoekers, bedenkers, gebruikers, burgers en openbare besturen), algoritmische systemen begrijpelijk maken (transparantie en verstaanbaarheid), het algoritmisch design uitwerken (om resultaten te tonen waarbij de beperkingen in perspectief worden geplaatst om de autonomie en reflexiviteit te versterken), algoritmische systemen auditeren (Discrimination Impact Assement), technische oplossingen vinden van algoritmische systemen om de processen te begrijpen die gebruikt worden bij machine learning, versterken van de ethische functie binnen ondernemingen (ethisch comité,

werd dat principe weerhouden in de Europese en nationale wetgeving betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens21. Ten derde, door het recht op bereikbaarheid, heeft het probleem van de ondoorzichtigheid van de algoritmes eveneens betrekking op het feit dat de verantwoordelijken van ondernemingen zelden bereikbaar zijn om informatie en uitleg te geven. Dat roept de kwestie in over de efficiëntie van het principe van de verklaarbaarheid22. Ten vierde, door het concept van verantwoording, gaat het om de organisatie van de verantwoordelijkheid als antwoord op het fenomeen van de verwatering hiervan door een expliciete toewijzing van de verantwoordelijkheden die betrokken zijn bij de werking van diverse algoritmische systemen.23 Men moet het bestaan melden van talrijke instrumenten zoals ethische codes24, eden25, kwaliteitscertificaties26, tools27 en audits28 evenals diverse projecten29 om de diverse risico’s op vooroordelen, discriminatie en ethische ontsporingen van allerlei aard te vermijden.

ethisch charter, de functie van de Chief Algorithm Officer). Ik voel tot slot de spanningen tussen enerzijds de neutraliteit van de algoritmes, het gebrek aan gebruik van variabelen die potentieel discriminerend kunnen zijn en anderzijds de risico’s op vooroordelen, discriminatie en uitsluiting … tussen enerzijds black boxen, intellectuele rechten en concurrentiële voordelen en anderzijds principes van eerlijkheid, transparantie, verstaanbaarheid en verklaarbaarheid… Vandaar dat de ethische ontwikkeling in beweging is … Ethics by design31. En mijn oproep: algoritmes moeten zoveel mogelijk tot de ‘commons’ behoren.

Ad Rem_december 2018  

Driemaandelijks ledenblad van de Orde van Vlaamse Balies over de advocatuur.

Ad Rem_december 2018  

Driemaandelijks ledenblad van de Orde van Vlaamse Balies over de advocatuur.