ELM Herfst

Page 1

ELSA Leiden Magazine

HET ACCEPTEREN VAN COOKIES

COVID-19 DWINGT TOT

en de gevolgen daarvan voor jouw privacy

digitale rechtspraak van het Strafrecht

HERFST 2020

Digitalisering van het Recht

AANSPRAKELIJKHEID VAN ROBOTS EN ALGORITMEN


inhoudsopgave 01 Fundamental rights and a digitalizing government: from a shaky to a fair balance. 03 Is het normaal, het nieuwe normaal? 06 COVID-19 dwingt tot digitale rechtspraak van het strafrecht 08 Digitalisering binnen de advocatuur 10 Het accepteren van cookies en de gevolgen daarvan voor jouw privacy 12 Online proctoring als het nieuwe normaal 14 EĂŠn klik op de knop: contracteren in 2020 16 Aansprakelijkheid van robots en algoritmen


ARON KNIJNENBERG

Using these technologies can lead to a better society and more confidence in the government because

Fundamental rights and a digitalizing government: from a shaky to a fair balance

they are an effective way to reduce crime. However,

Important judgement about art. 8 ECHR and the digitalizing government

be a good way for the Police to deploy their

On the fifth of February 2020, the District Court of The Hague ruled that the Dutch system for risk indication ‘SyRI’, which is designed to discover fraud among Dutch citizens, is in violation of article 8 of the European Convention on Human Rights (ECHR). This article protects the right to respect for private and family life. SyRI uses smart algorithms to collect people’s personal data from different government agencies and links the data together to identify possible tax and benefits fraudsters. Various Dutch public authorities used the system, including the Tax and Customs Administration. The Court ruled that the advantages of using the technology do not outweigh the disadvantages of infringing the right to respect for people’s private lives. A ‘fair balance’ between the aforementioned advantages and disadvantages is crucial for answering the question if modern technologies like this one can be used by the government, as follows from the second paragraph of

if these modern technologies are not handled the right way and lead to discrimination and privacy violations, they have an opposite effect. The judgment about the SyRI-legislation is not the only example of the government struggling to use new technologies the right way. The Police uses predictive algorithms for the so-called ‘predictive policing’. These algorithms predict the risk of a crime being committed by a certain individual or in a certain neighbourhood. Again, a system like this can resources in an efficient and effective way. Nevertheless, if the data that is being used by the algorithms is outdated or obtained illegally (for example through ethnic profiling, which has been a problem for years) the results of the data-analysis are influenced in a bad way and will keep disadvantaging certain individuals. Earlier this year, the Dutch Data Protection Authority (DPA) concluded that the Benefits Office of the Dutch Tax and Customs Administration acted unlawfully by using people’s second nationality as a risk indicator in the automated processes of determining which benefits applications should be investigated. In 2014, the data about second nationalities should have been deleted, but the Tax and Customs Administration retained and used the data. Aleid Wolfsen, chairman of the Data Protection Authority, said that the whole system was set up and used in a discriminatory way. Wolfsen went on to say that the DPA was thwarted by the Tax and Customs Administration

article 8 of the ECHR.

during the investigation. At first, the Tax and

Struggle with proper use of new technologies

kept information about double nationalities. The

Systems like SyRI that use predictive algorithms can be very useful for the government to combat fraud and other crimes.

Customs Administration even denied they DPA was forced to threaten with imposing a fine multiple times. State Secretary for Finance Alexandra van Huffelen admitted there is a problem within the Tax and Customs Administration concerning providing information to people from the outside.

ELM | 01


The need for transparency

With the appropriate legal frameworks and proper

A lack of transparency does not only apply to the Tax and Customs Administration. Government agencies are often hesitant to provide insight into which personal data are being used for what purposes. An investigation by the DPA, like the investigation into the Dutch Tax and Customs Administration, can reveal abuse of personal data. However, for the people who were affected, an investigation like this comes too late. Apart from the obvious disadvantages for people who are affected by the wrong use of personal data and predictive algorithms by the government, the lack of transparency can lead to a growing distrust in the government. Using smart technologies for crime prevention is a great opportunity. At the same time, it is essential that there is a fair balance between the advantages of using these technologies on the one hand, and the interference they make on the right to respect for private life (as laid down in article 8 of the ECHR) on the other hand. If there is no such balance and citizens do not have any (good) insight into how their personal data is being used, not only do we violate our responsibility under the ECHR and our constitution, but we also fail to protect the people against their own government and the threats of digitalization. In order to create a fairer system, government agencies should be required to be more transparent about the kinds of personal data they use. People need to be able to find out what information about them is being used and if that data is correct and relevant for the purposes for which it is being used. In addition, government agencies need to cooperate properly in investigations of supervisors like the DPA.

functioning supervision of the state, we can use

The Digital Revolution: Let it work for us instead of against us If there are enough guarantees for legal protection, the current digitalization trend is a very valuable development for the improved functioning of our rechtsstaat.

ELM | 02

data-analysis for a better society. It is a task for the government, jurists and all of us to ensure that the Digital Revolution works for instead of against us.


SAME-ELLEN VAN DER PLOEG

Is het normaal, het nieuwe normaal?

In eerdere gevallen werd er betwist of de overheid zodanige maatregelen mocht opleggen door middel van noodverordeningen, en of deze niet te veel inbreuk maakten op onze rechten. Denk hier bijvoorbeeld aan rechten als vrijheid van vergadering en betoging, bewegingsvrijheid, godsdienstvrijheid, het recht op privĂŠleven en toegang tot de rechter, het recht op onderwijs. En dit zijn er nog

We ontkomen er niet aan. Zien we het niet op het

maar een paar. De coronamaatregelen treffen ons

nieuws, dan kunnen we het wel vinden met een

veel dichter bij huis en op heel andere vlakken dan

simpele blik op Facebook. Ik heb het hier natuurlijk

we op het eerste gezicht misschien denken. Het zijn

over de zowat onuitputbare woede die de

soms de gevolgen van de maatregelen die met zich

coronamaatregelen met zich meebrengen. Waar komt

meebrengen dat ze inbreuk maken op een of meer

deze woede toch vandaan? Er wordt steeds gesproken

van deze fundamentele rechten. Denk bijvoorbeeld

over inbreuken op onze rechten, en dat deze

aan bedrijven die hun bedrijf moeten sluiten

ontoelaatbaar zijn. Is dat wel zo, en hoe ver mag de

vanwege gezondheidsrisico’s. Iedereen heeft recht

overheid hier eigenlijk in gaan? Zijn de maatregelen

op een behoorlijke levensstandaard en bescherming

nog proportioneel, of leveren we te veel in vanwege

tegen armoede en sociale uitsluiting. Het sluiten van

enkele individuen? Hoe kunnen wij zelf opkomen voor

iemands bedrijf kan er dus voor zorgen dat deze

onze rechten, en hebben deze stappen dan eigenlijk

rechten in het geding raken.

wel effect? En hoe zit het met de CoronaMelder-app? Kortom, wat zijn nou echt onze rechten ten tijde van

De Wet Tijdelijke Maatregelen COVID-19 dient als

een pandemie?

een vervanger van de noodverordening en vormt daarnaast een wettelijke basis om inbreuken op onze

Een paar dagen geleden is met het wetsvoorstel Wet

rechten te rechtvaardigen. Naast het feit dat een

Tijdelijke Maatregelen COVID-19 ingestemd

inbreuk op een recht tijdelijk dient te zijn, moet het

door de Tweede Kamer. Hieraan is wel het een en

zoals gezegd ook een wettelijke basis hebben. Dit

ander veranderd voordat de Kamer ermee akkoord

staat in de Grondwet en het is natuurlijk niet de

ging. Onder andere is de geldigheidstermijn van zes

bedoeling daarvan af te wijken. De Grondwet is

maanden gereduceerd naar drie maanden. Dit houdt in

immers een van de belangrijkste steunpilaren van de

dat deze wet voor drie maanden van kracht zal zijn, na

Nederlandse democratische rechtstaat. Er is dus

verloop waarvan deze al dan niet wordt verlengd.

voldaan aan het vereiste dat er een wettelijke basis

Deze wettelijke basis is nodig om vergaande

aanwezig moet zijn en aan het beginsel dat de

maatregelen door te kunnen voeren. Anders zouden

maatregelen tijdelijk van aard moeten zijn. Betekent

deze in strijd zijn met de Grondwet. In de nieuwe wet

dit dan dat er geen grenzen meer aan de op te leggen

staat verder dat ministers de bevoegdheid krijgen om

maatregelen zitten, en kunnen wij hier niets tegen

maatregelen op te leggen, maar dan moeten deze wel

inbrengen?

binnen een week daarna worden bekrachtigd door de Tweede Kamer. Als een maatregel niet wordt

Het korte antwoord is nee, het lange antwoord is net

bekrachtigd, vervalt deze weer.

iets complexer.

ELM | 03


Wanneer men van mening is dat zijn rechten in te

Deze zou persoonlijke data en gegevens slurpen en

grove mate worden geschonden dan kan men

zonder pardon aan derden kunnen doorspelen. In

altijd naar de rechter stappen, ook in tijden van een

tijden waar bijna alles wordt gedigitaliseerd, steekt

pandemie. Ondanks dat vele zittingen zijn afgelast,

ook steeds meer misbruik de kop op. Gelukkig kan de

blijft het recht op een eerlijk proces een recht

overheid ons geruststellen. Er worden allereerst

waar niet van af mag worden geweken. Een belangrijk

geen persoonsgegevens via Bluetooth opgeslagen

element daarbij is dat er sprake moet zijn van

door de app. De gebruiker krijgt alleen een melding

onafhankelijke rechters. Sommige zittingen zijn via de

dat hij in de buurt is geweest van een besmette

telefoon, andere via videobellen of worden nog wat

persoon. Niet wie het was, niet wanneer het was en

verder uitgesteld. Dit betekent niet dat van het

ook niet waar het was. Enkel en alleen dat je in

beginsel mag worden afgeweken. Er moet nog steeds

contact bent geweest met een besmette persoon.

sprake zijn van een eerlijk proces met onafhankelijke

Om de veiligheid van de app te garanderen hebben

rechters, waarbij de openbaarheid van rechtszittingen

veel tech-bedrijven meegekeken bij de ontwikkeling

en rechterlijke uitspraken niet compleet verloren mag

van de app door het ministerie. Daarnaast was er

gaan. Men kan een maatregel dus altijd door de

sprake van een open ontwikkelingsproces, wat

rechter later toetsen, maar tot dusver hebben de

betekent dat iedereen kon meekijken. Zo ook u en ik.

rechters terughoudend getoetst aan de

Daarnaast blijft het gebruik van de app een advies

proportionaliteit van de maatregelen. Dus je mag iets

vanuit de overheid. Het is een optie, maar niemand is

tegen de maatregelen inbrengen, maar of het nut zal

verplicht tot het downloaden van de app.

hebben is een tweede. Concluderend kan dus worden gezegd dat de Over de grenzen valt ook nog iets te zeggen. Zeker

overheid tijdelijk bevoegd is om inbreuk te maken op

zijn de inbreuken niet onbegrensd. De wettelijke basis

onze rechten, maar deze moeten gerechtvaardigd

vergemakkelijkt de rechtvaardiging ervan, maar dat

worden door een wettelijke basis die daaraan ten

betekent niet dat alles geaccepteerd moet worden. Er

grondslag ligt en zij moeten getoetst worden aan de

moet nog steeds getoetst worden aan de

vereisten van proportionaliteit, subsidiariteit en

proportionaliteit, de subsidiariteit en de

doeltreffendheid. Daarnaast kan men altijd opkomen

doeltreffendheid van een maatregel. Proportionaliteit

voor zijn of haar recht. Het kan zijn dat deze toetsing

houdt in dat de inbreuk in verhouding moet staan

net iets anders verloopt dan gewoonlijk, maar de

met het belang. Subsidiariteit gaat over de vraag of

fundamentele elementen van de rechtspraak moeten

deze maatregel de beste optie is, of dat er nog andere

te allen tijde in stand blijven. Daarnaast hoeft men

(minder vergaande) oplossingen zijn. En

niet bang te zijn voor persoonsgegevens die worden

doeltreffendheid zet vraagtekens bij de effectiviteit

gelekt en/of in handen komen van derden door de

van de inbreuk door de maatregel. Zoals

app. De Wet Tijdelijke Maatregelen COVID-19 is

het hier staat, ziet het er natuurlijk erg mooi uit, alleen

slechts van kracht gedurende de komende drie

het is erg lastig om aan de hand van deze vereisten te

maanden, waarna verder wordt gekeken of deze

toetsen en vaak kan dit pas achteraf

nog nodig is. De angst van mensen ziet dus niet

gedaan worden.

zozeer op het heden. Het gevaar zit hem juist in de toekomst. Of deze ingrijpende maatregelen een basis

Verder was er ook nog enige ophef rondom de nieuwe

gaan vormen voor andere wetten of misschien wel

app, de CoronaMelder.

compleet worden vastgelegd in de nieuwe wetgeving.

ELM | 04


Met andere woorden, gaat het ‘nieuwe normaal’ het normaal worden?

ELM | 05


TESSA WINKENIUS

COVID-19 dwingt tot digitale rechtspraak van het strafrecht

Vanwege COVID-19 zijn er plots snellere en grotere besluiten genomen, er was simpelweg geen andere mogelijkheid. De keuze om alle procedures uit te stellen was irrealistisch. Dit zou afdoen aan de rechtszekerheid van de verdachten, het geduld van de slachtoffers en het zou strafrecht-technisch onverantwoord zijn. Er zijn immers strikte regels in het strafrecht voor de termijnen van voorarrest en

Zeven maanden geleden begon de uitbraak van

termijnen die bepalen binnen hoeveel tijd de

COVID-19 in Nederland. De pandemie ontplooide zich

verdachte moet zijn voorgeleid aan een rechter. Zo

tot een globale crisis op meerdere fronten. Een

regelt het Europees Verdrag voor de Rechten van de

positief vooruitzicht op een mogelijk vaccin is er zeker,

Mens (EVRM) dat een verdachte binnen vier dagen

maar of alles weer snel wordt als voorheen, is

aan een rechter-commissaris moet zijn voorgeleid,

twijfelachtig. Niet alleen op economisch en sociaal

Nederlandse wetgeving geeft hier invulling aan in art.

gebied zijn de tijden veranderd, ook de Nederlandse

59a lid 1 Wetboek van Strafvordering door te stellen

rechtspraak is gedwongen geĂŤvolueerd. De nieuwe

dat een dergelijke voorgeleiding aan de rechter-

trend van deze tijd is het digitaal procederen, het

commissaris binnen drie dagen en achttien uur (vanaf

telehoren, de

aanhouding) moet geschieden. Er is dus een

skypezittingen en de videoverbinding. Na de

gedwongen sprong gemaakt om zoveel mogelijk

chaotische tijd in maart is er inmiddels op het gebied

digitaal te werk te gaan, om de onrust en problemen

van strafrecht duidelijke regelgeving omtrent de vraag

van het uitstellen uit de weg te gaan.

bij welke zaken welke vorm van digitale rechtspraak gepast is. Toch leent het strafrecht zich moeilijker voor

Persoonlijke dimensie

deze digitale wereld, maar waarom? In hoeverre

De impact van de eerste keer dat een verdachte,

verschilt het strafrecht van andere rechtsgebieden,

slachtoffer of betrokkene de rechtbank betreedt mag

waardoor er meer vragen gesteld moet worden

niet onderschat worden. Zoals Taru Spronken,

omtrent de toenemende digitalisering van de

advocaat-generaal bij de Hoge Raad, in het artikel

rechtspraak?

van Trema (nummer drie, najaar 2020) stelde is het directe contact ontzettend belangrijk. Spronken stelt

De geschiedenis van digitalisering van het strafrecht

daarnaast terecht dat voor de (straf)rechters de

Al langere tijd is de digitalisering van het strafrecht

belangrijke rol speelt bij het vormen van een oordeel.

zich aan het ontwikkelen. Om procedures sneller en

Ivo Dinkelaar, gedetacheerd bij het team familie- en

toegankelijker te laten zijn is digitalisering van zowel

jeugdrecht als juridisch medewerker, benoemt in

de interactie tussen de rechtspraak en partijen als de

ditzelfde artikel de positieve zijdes van het digitaal

werkzaamheden nodig. Binnen het strafrecht kent

procederen binnen zijn rechtsgebied: efficiĂŤntie,

men al vanaf 2014 de mogelijkheid tot verstrekking

flexibiliteit en productiviteit. Deze voordelen voor de

van digitale strafdossier in politierechter-, kinder- en

digitalisering zijn eveneens aan de orde bij

kantonzaken. Sinds 2017 is de digitale behandeling

strafrechtprocedures.

van meervoudige kamerzaken verwezenlijkt.

ELM | 06

indruk die de verdachte op zitting maakt een


het strafrecht. Dit speelt echter niet alleen bij het

Balans tussen veiligheid en de persoonlijke aard van het strafrecht: hybride zittingen

strafrecht een grote rol. Bij personen- en familierecht

Desalniettemin vragen zware tijden om zware

moeten besluiten worden genomen waarbij het leven

maatregelen met drastische gevolgen. Ondanks dat

van kinderen (en ouders) drastisch veranderen. Op het

het strafrecht zich in beginsel niet volledig leent voor

gebied van arbeidsrecht kunnen partijen hun

de digitale rechtspraak – dit geldt niettemin ook voor

(vaste) baan en daarmee hun inkomstenbron verliezen.

de andere rechtsgebieden – is het vanwege COVID-

Het vreemdelingenrecht moet keuzes maken over de

19 onmogelijk te vermijden. Inmiddels heeft ook het

rechten en plichten van mensen die geen Nederlander

strafrecht toe moeten geven aan de noodgedwongen

zijn, maar zich al wel in Nederland bevinden of in

digitalisering. Vast staat dat de voordelen omtrent

Nederland willen komen werken. Dit heeft allemaal

digitalisering (efficiëntie, flexibiliteit en productiviteit)

invloed op de levens van mensen. Aan de hand van

wel degelijk een voordeel zijn voor het strafrecht,

deze voorbeelden kan gesteld worden dat de

maar eigenlijk vormen de voordelen in zekere mate

emotionele belasting en angst voor een onzekere

ook juist het nadeel voor de tenuitvoerbrenging van

toekomst die bij onder andere deze rechtsgebieden

het strafrecht.

Een persoonlijke dimensie blijkt, gezien de terechte bevindingen van Spronken, onmisbaar binnen

aan de orde zijn, net als bij het strafrecht, ongekend zijn.

Het is begrijpelijk dat om deze redenen het strafrecht de digitale wereld nog niet volledig heeft omarmd.

Het strafrecht is om twee redenen echter bijzonder op

Het is altijd gewenst kritisch te blijven kijken naar de

dit gebied. Allereerst kunnen middels strafrecht

ontwikkelingen van de digitalisering. Er moet

vrijheidsbenemende straffen worden opgelegd. De

namelijk een evenwicht zijn tussen de noodzakelijke

vrijheid van de verdachte kan niet enkel door middel

digitalisering vanwege COVID-19 en de eerbiediging

van een straf worden ingeperkt, ook voorafgaand aan

van de persoonlijke aard van het strafrecht. Een

de zitting en het vonnis kan zijn vrijheid in zekere mate

balans ontstaat wellicht door het gebruik van

worden beperkt. Dit zijn drastische middelen die

‘combinatie zittingen’/’hybride zittingen’ (digitaal

weloverwogen moeten zijn. Ten tweede dient het

inbellen bij fysieke zittingen). Momenteel gebruikt

strafrecht als ultimum remedium. Alleen als er geen

het strafrecht ook dergelijke zittingen voor zaken

een enkel ander middel geschikt is, dient te worden

waarbij dit nodig wordt geacht. Op deze wijze wordt

gekozen voor de inzet van het strafrecht. Wederom

er gezien COVID-19 veiliger geprocedeerd (namelijk

moet de inzet van het strafrecht, net als de

gedeeltelijk digitaal), maar blijft de

mogelijkheid tot vrijheidsbeneming, weloverwogen

persoonlijke dimensie geëerbiedigd.

zijn. Het gaat tegen de natuur van de mens in om een dergelijke weloverwogen beslissing te nemen door middel van een korte en snelle afwikkeling online. In deze zin werken de voordelen van digitalisering eigenlijk nadelig voor het strafrecht.

ELM | 07


SEBASTIAN CORNIELJE

Het vergt dus meer dan enkel het introduceren van

Digitalisering binnen de advocatuur

daadwerkelijke te implementeren. Niet alleen moet

Sinds 2010 is de zogenoemde Legal Tech industrie in

voornamelijk een zorg die met twee punten van

Nederland van start gegaan, en sindsdien

aandacht samen te vatten zijn: het voorkomen van

niet gestopt met groeien. De sector strekt van DIY

een rechterlijke macht, toch een fundament van onze

(Do It Yourself) applicaties voor juridische documenten

beschaving, die gecontroleerd wordt door

tot litigation analytics, geen gebrek aan anglicismen

computers, alsmede de mogelijke vermindering in

tenminste, en blijft jaarlijks innoveren. Ook aan

vraag naar juristen als deze software toch

automatisering van proceshandelingen en de

efficiënter blijkt te zijn voor veel van de basale taken,

cliënten intake binnen de juridische sector wordt

de zogenoemde backoffice workflow automation.

momenteel hard gewerkt. Er zijn zelfs al notaris- en

Deze angsten zullen niet verholpen worden door de

advocatenkantoren die hun gehele praktijk online

efficiëntie van de software overtuigend over te

hebben staan. Toch groeit de sector sneller dan de

brengen op juristen. Sterker nog, dit zou het taboe

meeste hadden verwacht in 2016. Of dit komt door de

alleen maar kunnen versterken. Evenwel lijkt het er

technologie of de juridische dienstverleners, blijkt

op dat grote kantoren toch wel degelijk interesse

een punt van discussie. Zal de sector de komende

hebben in het implementeren van slimme software

jaren langzaam verdwijnen in de vergetelheid, of

die zaken kunnen analyseren en vergelijken met

kunnen we toch de groeispurt verwachten die de

eerder gedane uitspraken, om zo patronen en trends

experts bij aanvang anticipeerden?

te kunnen ontdekken.

Veelal komt de tamelijk trage implementatie door het

Wat nodig is om deze interesse te versterken,

gebrek aan verandering binnen het management van

kunnen we in het buitenland vinden, waar een

advocatenkantoren, zo ook de meeste advocaten, die

startup zijn algoritme de competitie is aangegaan

blijken een ietwat oubollige instelling te hebben wat

tegen tientallen topadvocaten uit New York in het

betreft hun werkwijze. Het introduceren van een legal

schatten van de uitkomst van zaken. Het resultaat?

tech applicatie binnen een kantoor is helaas niet

Het algoritme had gemiddeld ongeveer 25% meer

afdoende voor menig jurist om zijn of haar werkwijze

antwoorden goed dan de advocaten. Na deze

aan te passen: de meerwaarde wordt meestal niet juist

competitie is de startup vrij snel geacquireerd door

ingeschat, zodat men de oude methoden blijft

een grote onderneming, en hebben tal van de

gebruiken. Neem bijvoorbeeld applicaties die

grootste advocatenkantoren in New York licenties

standaardcontracten genereren door middel van een

gekocht van het bedrijf. In Nederland heeft zo’n

vragenlijst. Hoewel de software eenvoudig te

competitie helaas nog niet plaats gevonden. Wel is er

bedienen is en relatief hetzelfde resultaat biedt, blijft

in 2017 een soortgelijk onderzoek gedaan voor het

menig jurist toch het conceptcontract uit een Word-

inschatten van zaken van het EHRM, maar helaas

bestand gebruiken.

waren de resultaten teleurstellend.

ELM | 08

de software binnen een kantoor om het ook de goedkeuring van management verkregen worden, maar ook van de advocaten zelf, desnoods met het toeziend oog van managers. Er is tevens een taboe binnen de juridische wereld en de rechtspraak over implementatie van artificiële intelligentie. Het is


Kortom ontbreekt het te veel aan juristen die ervan overtuigd zijn dat applicaties wel degelijk beter zijn dan hun voorgaande methoden, om de legal tech sector echt verweven te laten raken met de juridische wereld. Management binnen kantoren moet met hardere hand toezicht houden op het gebruik van de software, en er zouden meer seminars en instructiecursussen gegeven moeten worden om de applicaties zo toegankelijk mogelijk te maken voor juristen. Verandering is nooit makkelijk gebleken in de juridische wereld, noch is dat anders altijd gelijk aan vooruitgang, maar afwachten is meestal niet de meest lucratieve tactiek gebleken.

ELM | 09


QUIRINE GERRITS

Functionele en analytische cookies zijn voorbeelden van deze toestemmingsvrije cookies. Met behulp van

Het accepteren van cookies en de gevolgen daarvan voor jouw privacy

analytische cookies kan een website bijhouden wat

De afgelopen jaren is het gebruik van smartphones, en

Voor tracking cookies is wel toestemming vereist. Als

daarmee het internet, explosief toegenomen.

bezoeker word je middels deze cookies gevolgd

Gedurende deze periode zijn apps en websites

tijdens je bezoek aan de webpagina en eventueel

veranderd. Met deze veranderingen, is ook het

daarna. Dit maakt inbreuk op onze privacy. De

functioneren van het internet aangepast. Eén van deze

cookies houden namelijk individueel surfgedrag bij

ingrijpende veranderingen is het cookiegebruik.

en maken profielen aan op basis waarvan websites

Tegenwoordig verschijnt op bijna elke webpagina die

gepersonaliseerde advertenties onder de aandacht

je bezoekt een venster met cookievoorkeuren. In de

brengen van de gebruiker. Zo worden interesses

haast en verblind door het feit dat je die webpagina

afgeleid en persoonsgegevens verwerkt. Dit lijkt

graag wil of moet bezoeken, klik je dan op

onschuldig en niet schadelijk, maar er kan op deze

“accepteren” zonder je bewust te zijn van de

manier veel van onze persoonlijke gegevens worden

consequenties. Waar ga je dan eigenlijk mee akkoord

bewaard en een profiel van de gebruiker worden

en wat zijn de gevolgen van het accepteren van de

gecreëerd.

de bezoekersaantallen zijn. Functionele cookies zijn noodzakelijk voor het functioneren van een website. Zowel functionele cookies als analytische cookies maken weinig of geen inbreuk op privacy en om die reden mag een website dan ook ongevraagd deze cookies plaatsen.

cookies voor jouw privacy?

Wetgeving en privacy Verschillende soorten cookies

Aanvankelijk was het gebruik van cookies bedoeld

De term cookies is een verzamelnaam voor een aantal

om het surfen op het internet makkelijker te maken.

kleine bestanden die de aanbieder van een website op

Inloggegevens worden bijvoorbeeld bewaard,

de apparatuur van een bezoeker plaatst. Door middel

waardoor je niet steeds opnieuw moet inloggen. De

van deze cookies kan informatie over de bezoeker

dreiging voor inbreuk op onze privacy is echter

worden verzameld en opgeslagen. Er zijn verschillende

ontstaan nu wij gevolgd kunnen worden en profielen

cookies werkzaam op het internet. Het is relevant daar

van onze interesses en zoektermen worden gemaakt.

een onderscheid tussen te maken, want niet elke

Het grootste deel van de cookies wordt enkel

cookie maakt inbreuk op privacy. Daarnaast verschilt

gebruikt om de website te optimaliseren. Echter kan

de looptijd van cookies aanzienlijk.

door middel van tracking cookies en de zoekgeschiedenis een persoonsprofiel worden

De cookies zijn onder te verdelen in een

aangemaakt welke is gebaseerd op het surfgedrag.

categorie waarvoor toestemming vereist is en een

Zo kunnen persoonlijke zaken zoals seksuele

categorie waarvoor geen toestemming vereist is. Voor

geaardheid of medische problemen achterhaald

cookies die weinig of geen inbreuk maken op privacy,

worden.

is geen expliciete toestemming van de bezoeker nodig.

ELM | 10


Het feit dat door cookies zoekgedrag aan bezoekers wordt gekoppeld, zorgde in het verleden voor vragen en onrust bij de bezoekers omtrent hun privacy. Met de komst van de Algemene Verordening Gegevensbescherming (AVG) zijn de privacyrechten van burgers uitgebreid en meer beschermd. De AVG is sinds 25 mei 2018 in de gehele Europese Unie en daarmee ook in Nederland van toepassing. Het doel van de AVG is om de bescherming van persoonsgegevens te standaardiseren en garanderen. Vooral op de tracking cookies is de AVG van toepassing. Naast de AVG is ook de Telecommunicatiewet van toepassing. De Cookiewet is een wijziging van de Telecommunicatiewet. De Cookiewet heeft als doel om de bezoeker te informeren en controle te geven over de cookies die de aanbieder op zijn of haar apparatuur plaatst. De Telecommunicatiewet en de AVG vullen elkaar aan, zodat de privacy zo goed als mogelijk wordt gewaarborgd en je bij het klikken op “accepteren” weet waar je mee instemt. Heden ten dage is het verplicht de gebruiker te informeren over de cookies en deze moeten dan ook geaccepteerd worden voordat toegang tot de website kan worden verleend.

Conclusie Alles overziend zijn cookies nuttig tot op zekere hoogte. Cookies waarvoor toestemming vereist is, maken ongetwijfeld inbreuk op privacy. Echter moet er volgens de AVG en de Telecommunicatiewet wel toestemming worden verleend en moet de gebruiker goed geïnformeerd zijn alvorens de website bezocht wordt. Het probleem is daarom niet de technologie, maar eerder het menselijke handelen van de bezoeker en de aanbieder.

ELM | 11


BIBIANNE DE BATS

Online proctoring als het nieuwe normaal

Onlangs (afgelopen juni) heeft de rechtbank Amsterdam uitspraak gedaan in een zaak die ging over online proctoring tijdens tentamens. De Centrale Studentenraad en de Facultaire Studentenraad spanden samen een kort geding aan tegen de Universiteit van Amsterdam (UvA) om online proctoring te voorkomen. Uiteindelijk

Het afgelopen half jaar hebben de meeste studenten

oordeelde de rechtbank dat online proctoring

hun vertrouwde plek in de tentamenzaal verlaten

rechtmatig is. Als eerste stelde de rechtbank

voor een plek op hun kleine studentenkamer met

dat studentenraden geen instemmingsrecht hebben

onbetrouwbare wifi. Dit allemaal vanwege een

als het zaken betreft die te maken hebben met het

pandemie die door de wereld heen raast. In tijden van

afnemen van tentamens. Ook was er geen inbreuk

corona is het voor de meeste studies niet mogelijk om

op de privacy van studenten. De UvA heeft immers

tentamens af te nemen in zulke grote zalen. Vandaar

een publieke taak, namelijk het geven van onderwijs

dat de meeste universiteiten gebruik maken van online

en tentamens die tot een diploma zullen leiden. Dit

tentamens. Hoewel bij de rechtenfaculteit in Leiden

betekent dat de UvA ruimte dient te krijgen om

het programma nog niet toegepast wordt, moeten veel

persoonsgegevens te verwerken als uitoefening van

studenten van andere universiteiten hun tentamens

deze taak, zeker gezien de coronamaatregelen.

maken via een speciaal programma. Dit wordt ook wel ‘online proctoring’ genoemd, maar dit kan niet zonder

In dit arrest is ook art. 8 EVRM naar voren

dat er een paar haken en ogen aankleven.

gekomen, die gaat over het recht op bescherming van de persoonlijke levenssfeer. De Nederlandse

Een studie afronden zonder enige vorm van toetsing is

rechter hanteert dit artikel vaak als maatstaf om

natuurlijk geen optie en daarom proberen

te toetsen of een inbreuk op privacy rechtmatig is.

universiteiten allerlei manieren te bedenken om toch

Hierbij dient als eerste gekeken te worden of er

een tentamen te bewerkstelligen. Het uitgangspunt

sprake is van een inbreuk op privacy. Vervolgens

hierbij is dat online tentamens hetzelfde zouden

moet het principe fair balance getoetst worden. Dit

moeten zijn als offline. Hierbij dient online proctoring

gaat over de vraag naar noodzakelijkheid in een

als een oplossing, immers bij een normaal tentamen

democratische samenleving, de inbreuk moet dus

wordt ook gesurveilleerd. Maar iedere medaille heeft

proportioneel zijn. De UvA had het voorkomen van

een keerzijde, zo ook bij online proctoring. Veel

studievertraging als basis. Tevens werd het online

tegenstanders kunnen zich niet vinden in het

proctoring alleen ingezet als er geen andere uitweg

uitgangspunt. Er worden namelijk op deze manier veel

mogelijk was. Hierbij is wel van belang dat er een

gegevens opgeslagen van een student tijdens het

nauwkeurige afweging gemaakt dient te worden over

maken van een online tentamen. Zo kan met het

de noodzakelijke controle en hoe deze plaats hoort

programma webcam, microfoon, internetverkeer en

te vinden. Volgens de UvA werd er pas een signaal

gebruik van muis en toetsenbord door een computer

gegeven aan een surveillant als er sprake was van

worden bij gehouden. Dit gaat volgens veel studenten

afwijkend gedrag van een student. Ook werden de

een grote stap te ver, aangezien dit een inbreuk zou

gegevens die via het online proctoring werden

maken op hun privacy.

verkregen maximaal 4 weken bewaard.

ELM | 12


Deze zienswijze zorgde ervoor dat de rechtbank concludeerde dat er geen schending was van art. 8 EVRM. Online proctoring brengt dus veel ophef met zich mee waarbij er twee kampen zijn. Hoe dan ook speelt art. 8 EVRM een belangrijke rol in dit debat. Hier zullen de universiteiten en studenten zich aan moeten houden. Of het fenomeen online proctoring onder het nieuwe normaal valt zal de toekomst snel uitwijzen.

ELM | 13


SENNA ASBAI

In lid 2 van art. 3:15a BW komt het wettelijke bewijsvermoeden voor de betrouwbaarheid van een

Eén klik op de knop: contracteren in 2020

elektronische handtekening tot uiting.

De technologie en daarbij horende digitalisering

1) De gewone elektronische handtekening; veelal

hebben zich in de afgelopen jaren razendsnel

een gescand document van een op papier gezette

ontwikkeld. Binnen enkele seconden hebben wij

handtekening.

toegang tot onze mailbox, kunnen wij geld

2) De geavanceerde elektronische handtekening; een

overschrijven via een online bankieren app en checken

handtekening die voldoet aan de eisen gesteld in art.

wij snel nog even het laatste nieuws.

3:15a lid 2 sub a t/m d BW.

Hieruit volgt dat er drie typen elektronische handtekeningen juridisch te onderscheiden zijn:

3) De gekwalificeerde elektronische handtekening: De coronamaatregelen hebben meer dan ooit tevoren

een handtekening die voldoet aan de eisen gesteld in

voor een verschuiving van 'offline’ naar ‘online’

art. 3:15a lid 2 sub a t/m f BW.

gezorgd. Zo is het mogelijk om digitaal te contracteren, waarbij een overeenkomst wordt

Dit onderscheid is van belang. Gekwalificeerde

gesloten zonder dat daar fysieke aanwezigheid van de

elektronische handtekeningen, die gebaseerd zijn op

partijen voor is vereist. Een ondertekening daarvan

een gekwalificeerd certificaat en gegenereerd zijn

door middel van een elektronische handtekening is

door een veilig middel voor het aanmaken van

een belangrijke vorm van digitalisering. Of zij

daarvan als bedoeld in art. 1.1, onderdeel ss/vv van

bewijskracht hebben als een schriftelijke handtekening

de Telecommunicatiewet, worden geacht voldoende

is echter maar de vraag.

betrouwbaar te zijn. De wederpartij zou hier nog tegen in kunnen gaan, maar de kans van slagen is erg

Overeenkomsten die in beginsel schriftelijk gesloten

klein nu hij hierbij een bewijsachterstand heeft.

moeten worden kunnen op basis van art. 6:227a

Voldoende betrouwbaarheid levert hetzelfde

BW veelal ook langs elektronisch weg worden

rechtsgevolg als een handgeschreven handtekening

aangegaan. De elektronische handtekening is geregeld

op, namelijk dwingende bewijskracht. Hieruit vloeit

in art. 3:15a BW en in Europees wetgeving in de

voort dat de rechter verplicht is de inhoud van de

zogeheten eIDAS-verordening. Indien de rechter

akte voor waar aan te nemen ex art. 151 lid 1 Rv.

oordeelt dat de elektronische handtekening voldoende betrouwbaar is, brengt dat dezelfde rechtsgevolgen,

Art. 25 lid 1 eIDAS benoemt dat ‘het rechtsgevolg

en dus dezelfde bewijskracht, als een schriftelijke

van een elektronische handtekening en de

handtekening met zich mee.

toelaatbaarheid ervan als bewijsmiddel in gerechtelijke procedures niet ontkend mogen

De vraag wanneer zo een handtekening voldoende

worden louter op grond van het feit dat de

betrouwbaar is, is afhankelijk van het doel

handtekening elektronisch is of niet aan de eisen

waarvoor de elektronische gegevens worden gebruikt

voor gekwalificeerde elektronische handtekeningen

en alle overige omstandigheden van het geval.

voldoet.’

ELM | 14


Hieruit volgt dat er ook gebruik gemaakt mag worden van de gewone en geavanceerde elektronische handtekening, die hetzelfde rechtsgevolg zouden kunnen hebben. Dit is dus niet bij voorbaat al gegeven. Het is hierbij vereist om te toetsen of deze methode van ondertekening, gelet op het doel, voldoende betrouwbaar is. In het algemeen geldt hierbij dat hoe complexer de inhoud van de ondertekende gegevens zijn, en hoe groter het bewijsbelang van de overeenkomst hierbij is, hoe meer betrouwbaarheid er van de handtekening wordt geÍist. Op deze manier – en in de huidige tijd belangrijker dan ooit tevoren – blijft het toch mogelijk om digitaal te contracteren.

ELM | 15


VYASHTI RAMLAKHAN

Aansprakelijkheid van robots en algoritmen Robotica en aansprakelijkheid

‘Elektronische persoonlijkheid’? Op Europees niveau wordt door het Europese Parlement onderzocht wat de mogelijkheden zijn voor aansprakelijkheid voor robots. Een van de voorstellen is om robots daarvoor een juridische status te geven als ‘elektronische personen’, vergelijkbaar met rechtspersoonlijkheid. Of dit

Robots hebben een opmars gemaakt gedurende de

daadwerkelijk wenselijk is, is echter nog maar de

afgelopen decennia. De ontwikkelingen op dit gebied

vraag. Ook speelt de vraag of dit wel op Europees

zijn nog altijd constant en volgen elkaar in rap tempo

niveau geregeld moet worden. Door een

op. Robots, en daarmee het gebruik van algoritmen,

gemeenschappelijk juridisch kader op te stellen,

worden ervaren als efficiënt en worden dus ook als

wordt standaardisatie binnen de EU beter mogelijk.

ondersteuning in vele sectoren gebruikt.

Dit is ook van belang voor de veiligheid en gegevensbescherming, omdat robots niet kunnen

Zo ook in de rechtspraak. Er wordt al lange tijd meer

functioneren zonder gegevens uit te wisselen. Aan

richting digitalisering geschoven. Dat zou kunnen

de andere kant kunnen op nationaal niveau veel

helpen met snellere en effectievere oplossingen en

specifiekere regels gemaakt worden, die beter

daardoor vermindering van de werkdruk. Het gaat

aansluiten op het betreffende land.

daarbij niet alleen om programma’s die uitspraken analyseprogramma’s. Dat klinkt misschien alsof de

Aansprakelijkheid onder het huidige Nederlandse BW

jurist straks vervangen gaat worden, maar dat is een

Ook in Nederland wordt over deze aansprakelijkheid

stap te ver. Voorlopig blijven mensen nodig met

nagedacht. Prof. Tjong Tjin Tai (Universiteit

creativiteit en empathie om de concrete gevallen te

Tilburg) heeft onder andere een compact stuk

beargumenteren en te beoordelen.

geschreven over de aansprakelijkheid voor robots en

doen, maar ook om intelligente databases en

algoritmen onder het huidige BW. Hij maakt Hoewel wel efficient zijn algoritmen vaak niet

daarvoor onderscheid tussen robots als roerende

transparant. Vooral zelflerende algoritmen, zoals hier

zaken en algoritmen als onstoffelijk. Kanttekening

vaak gebruik van wordt gemaakt, zijn moeilijk te

hierbij is dat robots eigenlijk niets meer zijn dan een

doorgronden. Daarmee ontstaat een ‘black box’, en

algoritmen in een fysieke omhulling. Algoritmen

dus ondoorzichtigheid, omtrent de beslissing die

worden geschreven door mensen, maar ondertussen

genomen is. Die is dan wel rationeel, maar lang niet

kunnen algoritmen ook zelf leren. Dit zijn de

altijd rechtvaardig of bevredigend. Algoritmen kunnen

algoritmen die de ‘black boxes’

zelf namelijk geen morele afwegingen maken. Omdat

hebben, waar beslissingen uitkomen zonder dat

die achtergrond ontbreekt, is de vraag naar

transparant is op welke wijze die is genomen. Het

verantwoordelijkheid voor een handeling van een

Nederlandse BW kent geen specifieke bepalingen

algoritme een die moeilijk te beantwoorden is. Wie is

voor robots of algoritmen, maar deze zijn weldegelijk

aansprakelijk als een beslissing of handeling onjuist is

in te passen in het systeem.

en schade tot gevolg heeft? Deze vraag speelt op zowel nationaal als Europees niveau.

Algoritmen Als eerste is er de algemene aansprakelijkheid op

ELM | 16

grond van onrechtmatige daad ex art. 6:162 BW.


Menselijk handelen kan schade tot gevolg hebben, en

Dat laatste houdt in hetgeen verwacht mag worden

nu kan handelen door een algoritme dat ook. Het

op grond van voorkomende schade aan derden. Voor

handelen van het algoritme is echter het gevolg van

de robot betekent dit dat het handelen gemeten

het programma dat door een mens is geschreven.

moet worden aan dat van een redelijk handelend

Daarmee is de programmeur nog altijd de

mens in dezelfde situatie. Is het handelen van de

verantwoordelijke. Bij schade veroorzaakt door een

robot (te) anders en veroorzaakt het een bijzonder

algoritme wordt de verbinding tussen de mens en het

gevaar, dan is het gebrekkig en is de mens achter de

gevolg indirect, maar blijft de mogelijkheid van

machine aansprakelijk.

risicoaansprakelijkheid voor de mens staan.

Conclusie Aansprakelijkheid op grond van art. 6:162 BW kan

Bij elkaar genomen is de aansprakelijkheid voor

onder andere worden aangenomen op grond van

robots ex art. 6:173 BW strenger dan de

schending van een zorgplicht, waaronder

zorgvuldigheidsnorm ex art. 6:162 BW. Dit terwijl

gevaarzetting. Er moeten dus toereikende

een robot eigenlijk ook gewoon een algoritme is,

voorzorgsmaatregelen genomen worden om schade

maar dan met een fysiek omhulsel. Daarnaast is dit

door het algoritme te voorkomen. Die moeten

apart als je bedenkt dat een algoritme hetgeen is dat

genomen worden door de mens achter het algoritme.

de daadwerkelijke beslissing neemt, zonder altijd

Als de mens dus niet of niet voldoende

transparant te zijn. Toch gelden hier minder

voorzorgsmaatregelen treft, en er concreet kan

strenge aansprakelijkheidsregels voor. Er zijn

worden aangetoond dat het algoritme anders heeft

verschillende voorstellen om dit te veranderen, maar

gehandeld dan verwacht kon en mocht worden, is zij

daar tegenover staat onder andere de wens om

nog steeds aansprakelijk. Het algoritme zal met de

verdere innovatie niet te belemmeren met strengere

voorzorgsmaatregelen namelijk (grotendeels) handelen

aansprakelijkheidsregels voor algoritmen.

zoals een redelijk handelend mens zou doen in dezelfde situatie. Daarmee wordt de afstand tussen

Kort en goed biedt het huidige BW dus aardig wat

de schadeveroorzakende code en de menselijke actor

mogelijkheden voor de aansprakelijkheid van

weer kleiner.

robots en algoritmen, ondanks de snelle ontwikkeling ervan. De toekomst zal echter moeten uitwijzen of

Robots Voor robots geldt een andere regeling volgens Prof. Tjong Tjin Tai. Deze gaat ook uit schuldaansprakelijkheid, namelijk tekortschieten in toezicht houden op het object: de bezitter is aansprakelijk voor schade veroorzaakt door de zaak. De bepaling van aansprakelijkheid voor roerende zaken (art. 6:173 BW) is van belang voor robots, vanwege hun fysieke omhulling. Voor de invulling van deze aansprakelijkheid gaat het om de eisen die men in het concrete gevaar aan de zaak mag stellen en het bijzondere gevaar op schade.

ELM | 17

dit voldoende is.


Aron Knijnenberg Same-Ellen van der Ploeg Tessa Winkenius Sebastian Cornielje Quirine Gerrits Bibianne de Bats Senna Asbai Vyashti Ramlakhan Layout: Cato Molkenboer VP Marketing

ELM | 18

HERFST EDITIE

Deze editie van het ELM is gemaakt door: