Page 23

WORKSHOP E

AFSCHRIJVEN OF HERWAARDEREN?

ETHIEK

ZAL HET RECHT VERDWIJNEN MET DE INTREDE VAN DE ALGORITMES?

K

DANIÈLE BOURCIER (FR) IS ONDERZOEKSDIRECTEUR-EMERITUS BIJ CERSA, LID VAN DE COMMISSION DE REFLEXION SUR L’ÉTHIQUE DU NUMÉRIQUE EN WETENSCHAPPELIJK VERANTWOORDELIJKE VAN HET PROJECT CREATIVE COMMONS FRANCE. ZIJ HEEFT GEWERKT ROND DE ETHIEK VAN AI EN OVER HET DELEN VAN GEGEVENS BINNEN DE ETHISCHE WETENSCHAPSCOMMISSIE VAN DE CNRS.

an men toelaten dat een machine een medemens beoordeelt? En zal men klacht kunnen indienen tegen een algoritme? Heeft men nog juristen nodig om hierop te antwoorden, indien de sector van de artificiële intelligentie probeert om niet alleen software maar eveneens oplossingen bij te brengen? De eerste golf van geautomatiseerde toepassingen is niet helemaal nieuw. Vandaag, nu alle gegevens big data geworden zijn, wordt AI gebruikt om oplossingen te vinden en op te leggen die gevolgen kunnen hebben op grotere schaal. De toepassingen lijken plots de juridische instellingen, principes en regels te bedreigen. Moet men een nieuw recht uitvinden? Wat kan of moet het recht doen? Laat ons terugkeren naar de kern van de zaak: het recht heeft werkingsen procedureregels en moet geen software maar rechtsregels toepassen. De vragen die gesteld worden in het tijdperk van de legal tech zijn heus geen nieuwe vragen en de oplossingen zullen niet opduiken buiten de immense kennis die het recht vormt en die niet beperkt kan worden tot gegevens. Nee, een algoritme zal een mens niet beoordelen. Nee, men kan geen klacht indienen tegen een algoritme. Rechtspraak zal nog steeds gebeuren met alle menselijke gebreken en elke rechtzoekende zal verhaal kunnen instellen tegen een beslissing, al dan niet genomen op basis van een algoritme. De ethische uitdaging die juridische professionals, theoretici én practici vandaag te wachten staat, is dat men collectief het normatief antwoord moet herzien door in vraag te stellen wat dat antwoord moet zijn en door oplossingen uit te werken, in functie van de cognitieve technieken van het recht.

“DE WERELD VAN HET RECHT MOET ERIN SLAGEN HAAR EIGEN ANTWOORDEN TE VINDEN BINNEN DE GRONDSLAGEN VAN HET RECHT. SLAGEN WE DAAR NIET IN, DAN ALLEEN ZAL HET RECHT IN DE ALGORITMES VERDWIJNEN.”

ETHIEK EN DE EERLIJKHEID VAN ALGORITMES PHILIPPE DAMBLY (BE) IS PRODUCT & INNOVATION MANAGER BIJ LAR/AXA BELGIUM EN WETENSCHAPPELIJK MEDEWERKER AAN DE U LIÈGE. HIJ IS GESPECIALISEERD IN JURIDISCHE INNOVATIE OP HET VLAK VAN TECHNOLOGIE (ARTIFICIËLE INTELLIGENTIE, ODR) EN DE MAATSCHAPPIJ (ADR, BEMIDDELING).

A

lgoritmes en data zijn respectievelijk de motor en de brandstof van de digitale revolutie van het recht, die nieuwe actoren ziet verschijnen, namelijk de legal tech start-ups. In de toekomst zult u, ongeacht of u advocaat, magistraat, notaris of bedrijfsjurist bent, algoritmes en artificiële intelligentie gebruiken als een interne, sectorale of private oplossing. Nemen we echter het risico om tools die tegelijk ‘black boxes’ zijn – want tenslotte blijven de algoritmes vaak ontransparant – te gebruiken zonder enig begrip over de werking ervan en de relevantie van de resultaten? Zo is er de casus van de COMPAS-software (Correctional Offender Profile for Alternative Sanction) van de venootschap Nothpointe. Die werd ervan beschuldigd algoritmes te gebruiken op basis van raciale vooroordelen omdat de score op recidive hoger was indien de veroordeelde van Afro-Amerikaanse oorsprong was. Aanvaardt de advocaat dus een voorspellende of opgelegde justitie zonder enige garantie dat de resultaten onbevooroordeeld zijn? We moeten alle verschillende standpunten in kaart brengen, en daarbij ethiek centraal stellen, willen we de nieuwe technologie efficiënt en verantwoordelijk gebruiken.

“DE JURIDISCHE BEROEPEN DIE DE RECHTSSTAAT WAARBORGEN, MOETEN ZICH ETHISCHE VRAGEN STELLEN OVER HET GEBRUIK VAN ALGORITMES EN AI GELET OP DE RISICO’S OP VOOROORDELEN, DISCRIMINATIE EN UITSLUITING.”

23

AdRem _ oktober 2018  

Driemaandelijks ledenblad van de Orde van Vlaamse Balies over de advocatuur.

AdRem _ oktober 2018  

Driemaandelijks ledenblad van de Orde van Vlaamse Balies over de advocatuur.