ELSA Leiden Magazine
HET ACCEPTEREN VAN COOKIES
COVID-19 DWINGT TOT
en de gevolgen daarvan voor jouw privacy
digitale rechtspraak van het Strafrecht
HERFST 2020
Digitalisering van het Recht
AANSPRAKELIJKHEID VAN ROBOTS EN ALGORITMEN
inhoudsopgave 01 Fundamental rights and a digitalizing government: from a shaky to a fair balance. 03 Is het normaal, het nieuwe normaal? 06 COVID-19 dwingt tot digitale rechtspraak van het strafrecht 08 Digitalisering binnen de advocatuur 10 Het accepteren van cookies en de gevolgen daarvan voor jouw privacy 12 Online proctoring als het nieuwe normaal 14 EĂŠn klik op de knop: contracteren in 2020 16 Aansprakelijkheid van robots en algoritmen
ARON KNIJNENBERG
Using these technologies can lead to a better society and more confidence in the government because
Fundamental rights and a digitalizing government: from a shaky to a fair balance
they are an effective way to reduce crime. However,
Important judgement about art. 8 ECHR and the digitalizing government
be a good way for the Police to deploy their
On the fifth of February 2020, the District Court of The Hague ruled that the Dutch system for risk indication ‘SyRI’, which is designed to discover fraud among Dutch citizens, is in violation of article 8 of the European Convention on Human Rights (ECHR). This article protects the right to respect for private and family life. SyRI uses smart algorithms to collect people’s personal data from different government agencies and links the data together to identify possible tax and benefits fraudsters. Various Dutch public authorities used the system, including the Tax and Customs Administration. The Court ruled that the advantages of using the technology do not outweigh the disadvantages of infringing the right to respect for people’s private lives. A ‘fair balance’ between the aforementioned advantages and disadvantages is crucial for answering the question if modern technologies like this one can be used by the government, as follows from the second paragraph of
if these modern technologies are not handled the right way and lead to discrimination and privacy violations, they have an opposite effect. The judgment about the SyRI-legislation is not the only example of the government struggling to use new technologies the right way. The Police uses predictive algorithms for the so-called ‘predictive policing’. These algorithms predict the risk of a crime being committed by a certain individual or in a certain neighbourhood. Again, a system like this can resources in an efficient and effective way. Nevertheless, if the data that is being used by the algorithms is outdated or obtained illegally (for example through ethnic profiling, which has been a problem for years) the results of the data-analysis are influenced in a bad way and will keep disadvantaging certain individuals. Earlier this year, the Dutch Data Protection Authority (DPA) concluded that the Benefits Office of the Dutch Tax and Customs Administration acted unlawfully by using people’s second nationality as a risk indicator in the automated processes of determining which benefits applications should be investigated. In 2014, the data about second nationalities should have been deleted, but the Tax and Customs Administration retained and used the data. Aleid Wolfsen, chairman of the Data Protection Authority, said that the whole system was set up and used in a discriminatory way. Wolfsen went on to say that the DPA was thwarted by the Tax and Customs Administration
article 8 of the ECHR.
during the investigation. At first, the Tax and
Struggle with proper use of new technologies
kept information about double nationalities. The
Systems like SyRI that use predictive algorithms can be very useful for the government to combat fraud and other crimes.
Customs Administration even denied they DPA was forced to threaten with imposing a fine multiple times. State Secretary for Finance Alexandra van Huffelen admitted there is a problem within the Tax and Customs Administration concerning providing information to people from the outside.
ELM | 01
The need for transparency
With the appropriate legal frameworks and proper
A lack of transparency does not only apply to the Tax and Customs Administration. Government agencies are often hesitant to provide insight into which personal data are being used for what purposes. An investigation by the DPA, like the investigation into the Dutch Tax and Customs Administration, can reveal abuse of personal data. However, for the people who were affected, an investigation like this comes too late. Apart from the obvious disadvantages for people who are affected by the wrong use of personal data and predictive algorithms by the government, the lack of transparency can lead to a growing distrust in the government. Using smart technologies for crime prevention is a great opportunity. At the same time, it is essential that there is a fair balance between the advantages of using these technologies on the one hand, and the interference they make on the right to respect for private life (as laid down in article 8 of the ECHR) on the other hand. If there is no such balance and citizens do not have any (good) insight into how their personal data is being used, not only do we violate our responsibility under the ECHR and our constitution, but we also fail to protect the people against their own government and the threats of digitalization. In order to create a fairer system, government agencies should be required to be more transparent about the kinds of personal data they use. People need to be able to find out what information about them is being used and if that data is correct and relevant for the purposes for which it is being used. In addition, government agencies need to cooperate properly in investigations of supervisors like the DPA.
functioning supervision of the state, we can use
The Digital Revolution: Let it work for us instead of against us If there are enough guarantees for legal protection, the current digitalization trend is a very valuable development for the improved functioning of our rechtsstaat.
ELM | 02
data-analysis for a better society. It is a task for the government, jurists and all of us to ensure that the Digital Revolution works for instead of against us.
SAME-ELLEN VAN DER PLOEG
Is het normaal, het nieuwe normaal?
In eerdere gevallen werd er betwist of de overheid zodanige maatregelen mocht opleggen door middel van noodverordeningen, en of deze niet te veel inbreuk maakten op onze rechten. Denk hier bijvoorbeeld aan rechten als vrijheid van vergadering en betoging, bewegingsvrijheid, godsdienstvrijheid, het recht op privĂŠleven en toegang tot de rechter, het recht op onderwijs. En dit zijn er nog
We ontkomen er niet aan. Zien we het niet op het
maar een paar. De coronamaatregelen treffen ons
nieuws, dan kunnen we het wel vinden met een
veel dichter bij huis en op heel andere vlakken dan
simpele blik op Facebook. Ik heb het hier natuurlijk
we op het eerste gezicht misschien denken. Het zijn
over de zowat onuitputbare woede die de
soms de gevolgen van de maatregelen die met zich
coronamaatregelen met zich meebrengen. Waar komt
meebrengen dat ze inbreuk maken op een of meer
deze woede toch vandaan? Er wordt steeds gesproken
van deze fundamentele rechten. Denk bijvoorbeeld
over inbreuken op onze rechten, en dat deze
aan bedrijven die hun bedrijf moeten sluiten
ontoelaatbaar zijn. Is dat wel zo, en hoe ver mag de
vanwege gezondheidsrisico’s. Iedereen heeft recht
overheid hier eigenlijk in gaan? Zijn de maatregelen
op een behoorlijke levensstandaard en bescherming
nog proportioneel, of leveren we te veel in vanwege
tegen armoede en sociale uitsluiting. Het sluiten van
enkele individuen? Hoe kunnen wij zelf opkomen voor
iemands bedrijf kan er dus voor zorgen dat deze
onze rechten, en hebben deze stappen dan eigenlijk
rechten in het geding raken.
wel effect? En hoe zit het met de CoronaMelder-app? Kortom, wat zijn nou echt onze rechten ten tijde van
De Wet Tijdelijke Maatregelen COVID-19 dient als
een pandemie?
een vervanger van de noodverordening en vormt daarnaast een wettelijke basis om inbreuken op onze
Een paar dagen geleden is met het wetsvoorstel Wet
rechten te rechtvaardigen. Naast het feit dat een
Tijdelijke Maatregelen COVID-19 ingestemd
inbreuk op een recht tijdelijk dient te zijn, moet het
door de Tweede Kamer. Hieraan is wel het een en
zoals gezegd ook een wettelijke basis hebben. Dit
ander veranderd voordat de Kamer ermee akkoord
staat in de Grondwet en het is natuurlijk niet de
ging. Onder andere is de geldigheidstermijn van zes
bedoeling daarvan af te wijken. De Grondwet is
maanden gereduceerd naar drie maanden. Dit houdt in
immers een van de belangrijkste steunpilaren van de
dat deze wet voor drie maanden van kracht zal zijn, na
Nederlandse democratische rechtstaat. Er is dus
verloop waarvan deze al dan niet wordt verlengd.
voldaan aan het vereiste dat er een wettelijke basis
Deze wettelijke basis is nodig om vergaande
aanwezig moet zijn en aan het beginsel dat de
maatregelen door te kunnen voeren. Anders zouden
maatregelen tijdelijk van aard moeten zijn. Betekent
deze in strijd zijn met de Grondwet. In de nieuwe wet
dit dan dat er geen grenzen meer aan de op te leggen
staat verder dat ministers de bevoegdheid krijgen om
maatregelen zitten, en kunnen wij hier niets tegen
maatregelen op te leggen, maar dan moeten deze wel
inbrengen?
binnen een week daarna worden bekrachtigd door de Tweede Kamer. Als een maatregel niet wordt
Het korte antwoord is nee, het lange antwoord is net
bekrachtigd, vervalt deze weer.
iets complexer.
ELM | 03
Wanneer men van mening is dat zijn rechten in te
Deze zou persoonlijke data en gegevens slurpen en
grove mate worden geschonden dan kan men
zonder pardon aan derden kunnen doorspelen. In
altijd naar de rechter stappen, ook in tijden van een
tijden waar bijna alles wordt gedigitaliseerd, steekt
pandemie. Ondanks dat vele zittingen zijn afgelast,
ook steeds meer misbruik de kop op. Gelukkig kan de
blijft het recht op een eerlijk proces een recht
overheid ons geruststellen. Er worden allereerst
waar niet van af mag worden geweken. Een belangrijk
geen persoonsgegevens via Bluetooth opgeslagen
element daarbij is dat er sprake moet zijn van
door de app. De gebruiker krijgt alleen een melding
onafhankelijke rechters. Sommige zittingen zijn via de
dat hij in de buurt is geweest van een besmette
telefoon, andere via videobellen of worden nog wat
persoon. Niet wie het was, niet wanneer het was en
verder uitgesteld. Dit betekent niet dat van het
ook niet waar het was. Enkel en alleen dat je in
beginsel mag worden afgeweken. Er moet nog steeds
contact bent geweest met een besmette persoon.
sprake zijn van een eerlijk proces met onafhankelijke
Om de veiligheid van de app te garanderen hebben
rechters, waarbij de openbaarheid van rechtszittingen
veel tech-bedrijven meegekeken bij de ontwikkeling
en rechterlijke uitspraken niet compleet verloren mag
van de app door het ministerie. Daarnaast was er
gaan. Men kan een maatregel dus altijd door de
sprake van een open ontwikkelingsproces, wat
rechter later toetsen, maar tot dusver hebben de
betekent dat iedereen kon meekijken. Zo ook u en ik.
rechters terughoudend getoetst aan de
Daarnaast blijft het gebruik van de app een advies
proportionaliteit van de maatregelen. Dus je mag iets
vanuit de overheid. Het is een optie, maar niemand is
tegen de maatregelen inbrengen, maar of het nut zal
verplicht tot het downloaden van de app.
hebben is een tweede. Concluderend kan dus worden gezegd dat de Over de grenzen valt ook nog iets te zeggen. Zeker
overheid tijdelijk bevoegd is om inbreuk te maken op
zijn de inbreuken niet onbegrensd. De wettelijke basis
onze rechten, maar deze moeten gerechtvaardigd
vergemakkelijkt de rechtvaardiging ervan, maar dat
worden door een wettelijke basis die daaraan ten
betekent niet dat alles geaccepteerd moet worden. Er
grondslag ligt en zij moeten getoetst worden aan de
moet nog steeds getoetst worden aan de
vereisten van proportionaliteit, subsidiariteit en
proportionaliteit, de subsidiariteit en de
doeltreffendheid. Daarnaast kan men altijd opkomen
doeltreffendheid van een maatregel. Proportionaliteit
voor zijn of haar recht. Het kan zijn dat deze toetsing
houdt in dat de inbreuk in verhouding moet staan
net iets anders verloopt dan gewoonlijk, maar de
met het belang. Subsidiariteit gaat over de vraag of
fundamentele elementen van de rechtspraak moeten
deze maatregel de beste optie is, of dat er nog andere
te allen tijde in stand blijven. Daarnaast hoeft men
(minder vergaande) oplossingen zijn. En
niet bang te zijn voor persoonsgegevens die worden
doeltreffendheid zet vraagtekens bij de effectiviteit
gelekt en/of in handen komen van derden door de
van de inbreuk door de maatregel. Zoals
app. De Wet Tijdelijke Maatregelen COVID-19 is
het hier staat, ziet het er natuurlijk erg mooi uit, alleen
slechts van kracht gedurende de komende drie
het is erg lastig om aan de hand van deze vereisten te
maanden, waarna verder wordt gekeken of deze
toetsen en vaak kan dit pas achteraf
nog nodig is. De angst van mensen ziet dus niet
gedaan worden.
zozeer op het heden. Het gevaar zit hem juist in de toekomst. Of deze ingrijpende maatregelen een basis
Verder was er ook nog enige ophef rondom de nieuwe
gaan vormen voor andere wetten of misschien wel
app, de CoronaMelder.
compleet worden vastgelegd in de nieuwe wetgeving.
ELM | 04
Met andere woorden, gaat het ‘nieuwe normaal’ het normaal worden?
ELM | 05
TESSA WINKENIUS
COVID-19 dwingt tot digitale rechtspraak van het strafrecht
Vanwege COVID-19 zijn er plots snellere en grotere besluiten genomen, er was simpelweg geen andere mogelijkheid. De keuze om alle procedures uit te stellen was irrealistisch. Dit zou afdoen aan de rechtszekerheid van de verdachten, het geduld van de slachtoffers en het zou strafrecht-technisch onverantwoord zijn. Er zijn immers strikte regels in het strafrecht voor de termijnen van voorarrest en
Zeven maanden geleden begon de uitbraak van
termijnen die bepalen binnen hoeveel tijd de
COVID-19 in Nederland. De pandemie ontplooide zich
verdachte moet zijn voorgeleid aan een rechter. Zo
tot een globale crisis op meerdere fronten. Een
regelt het Europees Verdrag voor de Rechten van de
positief vooruitzicht op een mogelijk vaccin is er zeker,
Mens (EVRM) dat een verdachte binnen vier dagen
maar of alles weer snel wordt als voorheen, is
aan een rechter-commissaris moet zijn voorgeleid,
twijfelachtig. Niet alleen op economisch en sociaal
Nederlandse wetgeving geeft hier invulling aan in art.
gebied zijn de tijden veranderd, ook de Nederlandse
59a lid 1 Wetboek van Strafvordering door te stellen
rechtspraak is gedwongen geĂŤvolueerd. De nieuwe
dat een dergelijke voorgeleiding aan de rechter-
trend van deze tijd is het digitaal procederen, het
commissaris binnen drie dagen en achttien uur (vanaf
telehoren, de
aanhouding) moet geschieden. Er is dus een
skypezittingen en de videoverbinding. Na de
gedwongen sprong gemaakt om zoveel mogelijk
chaotische tijd in maart is er inmiddels op het gebied
digitaal te werk te gaan, om de onrust en problemen
van strafrecht duidelijke regelgeving omtrent de vraag
van het uitstellen uit de weg te gaan.
bij welke zaken welke vorm van digitale rechtspraak gepast is. Toch leent het strafrecht zich moeilijker voor
Persoonlijke dimensie
deze digitale wereld, maar waarom? In hoeverre
De impact van de eerste keer dat een verdachte,
verschilt het strafrecht van andere rechtsgebieden,
slachtoffer of betrokkene de rechtbank betreedt mag
waardoor er meer vragen gesteld moet worden
niet onderschat worden. Zoals Taru Spronken,
omtrent de toenemende digitalisering van de
advocaat-generaal bij de Hoge Raad, in het artikel
rechtspraak?
van Trema (nummer drie, najaar 2020) stelde is het directe contact ontzettend belangrijk. Spronken stelt
De geschiedenis van digitalisering van het strafrecht
daarnaast terecht dat voor de (straf)rechters de
Al langere tijd is de digitalisering van het strafrecht
belangrijke rol speelt bij het vormen van een oordeel.
zich aan het ontwikkelen. Om procedures sneller en
Ivo Dinkelaar, gedetacheerd bij het team familie- en
toegankelijker te laten zijn is digitalisering van zowel
jeugdrecht als juridisch medewerker, benoemt in
de interactie tussen de rechtspraak en partijen als de
ditzelfde artikel de positieve zijdes van het digitaal
werkzaamheden nodig. Binnen het strafrecht kent
procederen binnen zijn rechtsgebied: efficiĂŤntie,
men al vanaf 2014 de mogelijkheid tot verstrekking
flexibiliteit en productiviteit. Deze voordelen voor de
van digitale strafdossier in politierechter-, kinder- en
digitalisering zijn eveneens aan de orde bij
kantonzaken. Sinds 2017 is de digitale behandeling
strafrechtprocedures.
van meervoudige kamerzaken verwezenlijkt.
ELM | 06
indruk die de verdachte op zitting maakt een
het strafrecht. Dit speelt echter niet alleen bij het
Balans tussen veiligheid en de persoonlijke aard van het strafrecht: hybride zittingen
strafrecht een grote rol. Bij personen- en familierecht
Desalniettemin vragen zware tijden om zware
moeten besluiten worden genomen waarbij het leven
maatregelen met drastische gevolgen. Ondanks dat
van kinderen (en ouders) drastisch veranderen. Op het
het strafrecht zich in beginsel niet volledig leent voor
gebied van arbeidsrecht kunnen partijen hun
de digitale rechtspraak – dit geldt niettemin ook voor
(vaste) baan en daarmee hun inkomstenbron verliezen.
de andere rechtsgebieden – is het vanwege COVID-
Het vreemdelingenrecht moet keuzes maken over de
19 onmogelijk te vermijden. Inmiddels heeft ook het
rechten en plichten van mensen die geen Nederlander
strafrecht toe moeten geven aan de noodgedwongen
zijn, maar zich al wel in Nederland bevinden of in
digitalisering. Vast staat dat de voordelen omtrent
Nederland willen komen werken. Dit heeft allemaal
digitalisering (efficiëntie, flexibiliteit en productiviteit)
invloed op de levens van mensen. Aan de hand van
wel degelijk een voordeel zijn voor het strafrecht,
deze voorbeelden kan gesteld worden dat de
maar eigenlijk vormen de voordelen in zekere mate
emotionele belasting en angst voor een onzekere
ook juist het nadeel voor de tenuitvoerbrenging van
toekomst die bij onder andere deze rechtsgebieden
het strafrecht.
Een persoonlijke dimensie blijkt, gezien de terechte bevindingen van Spronken, onmisbaar binnen
aan de orde zijn, net als bij het strafrecht, ongekend zijn.
Het is begrijpelijk dat om deze redenen het strafrecht de digitale wereld nog niet volledig heeft omarmd.
Het strafrecht is om twee redenen echter bijzonder op
Het is altijd gewenst kritisch te blijven kijken naar de
dit gebied. Allereerst kunnen middels strafrecht
ontwikkelingen van de digitalisering. Er moet
vrijheidsbenemende straffen worden opgelegd. De
namelijk een evenwicht zijn tussen de noodzakelijke
vrijheid van de verdachte kan niet enkel door middel
digitalisering vanwege COVID-19 en de eerbiediging
van een straf worden ingeperkt, ook voorafgaand aan
van de persoonlijke aard van het strafrecht. Een
de zitting en het vonnis kan zijn vrijheid in zekere mate
balans ontstaat wellicht door het gebruik van
worden beperkt. Dit zijn drastische middelen die
‘combinatie zittingen’/’hybride zittingen’ (digitaal
weloverwogen moeten zijn. Ten tweede dient het
inbellen bij fysieke zittingen). Momenteel gebruikt
strafrecht als ultimum remedium. Alleen als er geen
het strafrecht ook dergelijke zittingen voor zaken
een enkel ander middel geschikt is, dient te worden
waarbij dit nodig wordt geacht. Op deze wijze wordt
gekozen voor de inzet van het strafrecht. Wederom
er gezien COVID-19 veiliger geprocedeerd (namelijk
moet de inzet van het strafrecht, net als de
gedeeltelijk digitaal), maar blijft de
mogelijkheid tot vrijheidsbeneming, weloverwogen
persoonlijke dimensie geëerbiedigd.
zijn. Het gaat tegen de natuur van de mens in om een dergelijke weloverwogen beslissing te nemen door middel van een korte en snelle afwikkeling online. In deze zin werken de voordelen van digitalisering eigenlijk nadelig voor het strafrecht.
ELM | 07
SEBASTIAN CORNIELJE
Het vergt dus meer dan enkel het introduceren van
Digitalisering binnen de advocatuur
daadwerkelijke te implementeren. Niet alleen moet
Sinds 2010 is de zogenoemde Legal Tech industrie in
voornamelijk een zorg die met twee punten van
Nederland van start gegaan, en sindsdien
aandacht samen te vatten zijn: het voorkomen van
niet gestopt met groeien. De sector strekt van DIY
een rechterlijke macht, toch een fundament van onze
(Do It Yourself) applicaties voor juridische documenten
beschaving, die gecontroleerd wordt door
tot litigation analytics, geen gebrek aan anglicismen
computers, alsmede de mogelijke vermindering in
tenminste, en blijft jaarlijks innoveren. Ook aan
vraag naar juristen als deze software toch
automatisering van proceshandelingen en de
efficiënter blijkt te zijn voor veel van de basale taken,
cliënten intake binnen de juridische sector wordt
de zogenoemde backoffice workflow automation.
momenteel hard gewerkt. Er zijn zelfs al notaris- en
Deze angsten zullen niet verholpen worden door de
advocatenkantoren die hun gehele praktijk online
efficiëntie van de software overtuigend over te
hebben staan. Toch groeit de sector sneller dan de
brengen op juristen. Sterker nog, dit zou het taboe
meeste hadden verwacht in 2016. Of dit komt door de
alleen maar kunnen versterken. Evenwel lijkt het er
technologie of de juridische dienstverleners, blijkt
op dat grote kantoren toch wel degelijk interesse
een punt van discussie. Zal de sector de komende
hebben in het implementeren van slimme software
jaren langzaam verdwijnen in de vergetelheid, of
die zaken kunnen analyseren en vergelijken met
kunnen we toch de groeispurt verwachten die de
eerder gedane uitspraken, om zo patronen en trends
experts bij aanvang anticipeerden?
te kunnen ontdekken.
Veelal komt de tamelijk trage implementatie door het
Wat nodig is om deze interesse te versterken,
gebrek aan verandering binnen het management van
kunnen we in het buitenland vinden, waar een
advocatenkantoren, zo ook de meeste advocaten, die
startup zijn algoritme de competitie is aangegaan
blijken een ietwat oubollige instelling te hebben wat
tegen tientallen topadvocaten uit New York in het
betreft hun werkwijze. Het introduceren van een legal
schatten van de uitkomst van zaken. Het resultaat?
tech applicatie binnen een kantoor is helaas niet
Het algoritme had gemiddeld ongeveer 25% meer
afdoende voor menig jurist om zijn of haar werkwijze
antwoorden goed dan de advocaten. Na deze
aan te passen: de meerwaarde wordt meestal niet juist
competitie is de startup vrij snel geacquireerd door
ingeschat, zodat men de oude methoden blijft
een grote onderneming, en hebben tal van de
gebruiken. Neem bijvoorbeeld applicaties die
grootste advocatenkantoren in New York licenties
standaardcontracten genereren door middel van een
gekocht van het bedrijf. In Nederland heeft zo’n
vragenlijst. Hoewel de software eenvoudig te
competitie helaas nog niet plaats gevonden. Wel is er
bedienen is en relatief hetzelfde resultaat biedt, blijft
in 2017 een soortgelijk onderzoek gedaan voor het
menig jurist toch het conceptcontract uit een Word-
inschatten van zaken van het EHRM, maar helaas
bestand gebruiken.
waren de resultaten teleurstellend.
ELM | 08
de software binnen een kantoor om het ook de goedkeuring van management verkregen worden, maar ook van de advocaten zelf, desnoods met het toeziend oog van managers. Er is tevens een taboe binnen de juridische wereld en de rechtspraak over implementatie van artificiële intelligentie. Het is
Kortom ontbreekt het te veel aan juristen die ervan overtuigd zijn dat applicaties wel degelijk beter zijn dan hun voorgaande methoden, om de legal tech sector echt verweven te laten raken met de juridische wereld. Management binnen kantoren moet met hardere hand toezicht houden op het gebruik van de software, en er zouden meer seminars en instructiecursussen gegeven moeten worden om de applicaties zo toegankelijk mogelijk te maken voor juristen. Verandering is nooit makkelijk gebleken in de juridische wereld, noch is dat anders altijd gelijk aan vooruitgang, maar afwachten is meestal niet de meest lucratieve tactiek gebleken.
ELM | 09
QUIRINE GERRITS
Functionele en analytische cookies zijn voorbeelden van deze toestemmingsvrije cookies. Met behulp van
Het accepteren van cookies en de gevolgen daarvan voor jouw privacy
analytische cookies kan een website bijhouden wat
De afgelopen jaren is het gebruik van smartphones, en
Voor tracking cookies is wel toestemming vereist. Als
daarmee het internet, explosief toegenomen.
bezoeker word je middels deze cookies gevolgd
Gedurende deze periode zijn apps en websites
tijdens je bezoek aan de webpagina en eventueel
veranderd. Met deze veranderingen, is ook het
daarna. Dit maakt inbreuk op onze privacy. De
functioneren van het internet aangepast. Eén van deze
cookies houden namelijk individueel surfgedrag bij
ingrijpende veranderingen is het cookiegebruik.
en maken profielen aan op basis waarvan websites
Tegenwoordig verschijnt op bijna elke webpagina die
gepersonaliseerde advertenties onder de aandacht
je bezoekt een venster met cookievoorkeuren. In de
brengen van de gebruiker. Zo worden interesses
haast en verblind door het feit dat je die webpagina
afgeleid en persoonsgegevens verwerkt. Dit lijkt
graag wil of moet bezoeken, klik je dan op
onschuldig en niet schadelijk, maar er kan op deze
“accepteren” zonder je bewust te zijn van de
manier veel van onze persoonlijke gegevens worden
consequenties. Waar ga je dan eigenlijk mee akkoord
bewaard en een profiel van de gebruiker worden
en wat zijn de gevolgen van het accepteren van de
gecreëerd.
de bezoekersaantallen zijn. Functionele cookies zijn noodzakelijk voor het functioneren van een website. Zowel functionele cookies als analytische cookies maken weinig of geen inbreuk op privacy en om die reden mag een website dan ook ongevraagd deze cookies plaatsen.
cookies voor jouw privacy?
Wetgeving en privacy Verschillende soorten cookies
Aanvankelijk was het gebruik van cookies bedoeld
De term cookies is een verzamelnaam voor een aantal
om het surfen op het internet makkelijker te maken.
kleine bestanden die de aanbieder van een website op
Inloggegevens worden bijvoorbeeld bewaard,
de apparatuur van een bezoeker plaatst. Door middel
waardoor je niet steeds opnieuw moet inloggen. De
van deze cookies kan informatie over de bezoeker
dreiging voor inbreuk op onze privacy is echter
worden verzameld en opgeslagen. Er zijn verschillende
ontstaan nu wij gevolgd kunnen worden en profielen
cookies werkzaam op het internet. Het is relevant daar
van onze interesses en zoektermen worden gemaakt.
een onderscheid tussen te maken, want niet elke
Het grootste deel van de cookies wordt enkel
cookie maakt inbreuk op privacy. Daarnaast verschilt
gebruikt om de website te optimaliseren. Echter kan
de looptijd van cookies aanzienlijk.
door middel van tracking cookies en de zoekgeschiedenis een persoonsprofiel worden
De cookies zijn onder te verdelen in een
aangemaakt welke is gebaseerd op het surfgedrag.
categorie waarvoor toestemming vereist is en een
Zo kunnen persoonlijke zaken zoals seksuele
categorie waarvoor geen toestemming vereist is. Voor
geaardheid of medische problemen achterhaald
cookies die weinig of geen inbreuk maken op privacy,
worden.
is geen expliciete toestemming van de bezoeker nodig.
ELM | 10
Het feit dat door cookies zoekgedrag aan bezoekers wordt gekoppeld, zorgde in het verleden voor vragen en onrust bij de bezoekers omtrent hun privacy. Met de komst van de Algemene Verordening Gegevensbescherming (AVG) zijn de privacyrechten van burgers uitgebreid en meer beschermd. De AVG is sinds 25 mei 2018 in de gehele Europese Unie en daarmee ook in Nederland van toepassing. Het doel van de AVG is om de bescherming van persoonsgegevens te standaardiseren en garanderen. Vooral op de tracking cookies is de AVG van toepassing. Naast de AVG is ook de Telecommunicatiewet van toepassing. De Cookiewet is een wijziging van de Telecommunicatiewet. De Cookiewet heeft als doel om de bezoeker te informeren en controle te geven over de cookies die de aanbieder op zijn of haar apparatuur plaatst. De Telecommunicatiewet en de AVG vullen elkaar aan, zodat de privacy zo goed als mogelijk wordt gewaarborgd en je bij het klikken op “accepteren” weet waar je mee instemt. Heden ten dage is het verplicht de gebruiker te informeren over de cookies en deze moeten dan ook geaccepteerd worden voordat toegang tot de website kan worden verleend.
Conclusie Alles overziend zijn cookies nuttig tot op zekere hoogte. Cookies waarvoor toestemming vereist is, maken ongetwijfeld inbreuk op privacy. Echter moet er volgens de AVG en de Telecommunicatiewet wel toestemming worden verleend en moet de gebruiker goed geïnformeerd zijn alvorens de website bezocht wordt. Het probleem is daarom niet de technologie, maar eerder het menselijke handelen van de bezoeker en de aanbieder.
ELM | 11
BIBIANNE DE BATS
Online proctoring als het nieuwe normaal
Onlangs (afgelopen juni) heeft de rechtbank Amsterdam uitspraak gedaan in een zaak die ging over online proctoring tijdens tentamens. De Centrale Studentenraad en de Facultaire Studentenraad spanden samen een kort geding aan tegen de Universiteit van Amsterdam (UvA) om online proctoring te voorkomen. Uiteindelijk
Het afgelopen half jaar hebben de meeste studenten
oordeelde de rechtbank dat online proctoring
hun vertrouwde plek in de tentamenzaal verlaten
rechtmatig is. Als eerste stelde de rechtbank
voor een plek op hun kleine studentenkamer met
dat studentenraden geen instemmingsrecht hebben
onbetrouwbare wifi. Dit allemaal vanwege een
als het zaken betreft die te maken hebben met het
pandemie die door de wereld heen raast. In tijden van
afnemen van tentamens. Ook was er geen inbreuk
corona is het voor de meeste studies niet mogelijk om
op de privacy van studenten. De UvA heeft immers
tentamens af te nemen in zulke grote zalen. Vandaar
een publieke taak, namelijk het geven van onderwijs
dat de meeste universiteiten gebruik maken van online
en tentamens die tot een diploma zullen leiden. Dit
tentamens. Hoewel bij de rechtenfaculteit in Leiden
betekent dat de UvA ruimte dient te krijgen om
het programma nog niet toegepast wordt, moeten veel
persoonsgegevens te verwerken als uitoefening van
studenten van andere universiteiten hun tentamens
deze taak, zeker gezien de coronamaatregelen.
maken via een speciaal programma. Dit wordt ook wel ‘online proctoring’ genoemd, maar dit kan niet zonder
In dit arrest is ook art. 8 EVRM naar voren
dat er een paar haken en ogen aankleven.
gekomen, die gaat over het recht op bescherming van de persoonlijke levenssfeer. De Nederlandse
Een studie afronden zonder enige vorm van toetsing is
rechter hanteert dit artikel vaak als maatstaf om
natuurlijk geen optie en daarom proberen
te toetsen of een inbreuk op privacy rechtmatig is.
universiteiten allerlei manieren te bedenken om toch
Hierbij dient als eerste gekeken te worden of er
een tentamen te bewerkstelligen. Het uitgangspunt
sprake is van een inbreuk op privacy. Vervolgens
hierbij is dat online tentamens hetzelfde zouden
moet het principe fair balance getoetst worden. Dit
moeten zijn als offline. Hierbij dient online proctoring
gaat over de vraag naar noodzakelijkheid in een
als een oplossing, immers bij een normaal tentamen
democratische samenleving, de inbreuk moet dus
wordt ook gesurveilleerd. Maar iedere medaille heeft
proportioneel zijn. De UvA had het voorkomen van
een keerzijde, zo ook bij online proctoring. Veel
studievertraging als basis. Tevens werd het online
tegenstanders kunnen zich niet vinden in het
proctoring alleen ingezet als er geen andere uitweg
uitgangspunt. Er worden namelijk op deze manier veel
mogelijk was. Hierbij is wel van belang dat er een
gegevens opgeslagen van een student tijdens het
nauwkeurige afweging gemaakt dient te worden over
maken van een online tentamen. Zo kan met het
de noodzakelijke controle en hoe deze plaats hoort
programma webcam, microfoon, internetverkeer en
te vinden. Volgens de UvA werd er pas een signaal
gebruik van muis en toetsenbord door een computer
gegeven aan een surveillant als er sprake was van
worden bij gehouden. Dit gaat volgens veel studenten
afwijkend gedrag van een student. Ook werden de
een grote stap te ver, aangezien dit een inbreuk zou
gegevens die via het online proctoring werden
maken op hun privacy.
verkregen maximaal 4 weken bewaard.
ELM | 12
Deze zienswijze zorgde ervoor dat de rechtbank concludeerde dat er geen schending was van art. 8 EVRM. Online proctoring brengt dus veel ophef met zich mee waarbij er twee kampen zijn. Hoe dan ook speelt art. 8 EVRM een belangrijke rol in dit debat. Hier zullen de universiteiten en studenten zich aan moeten houden. Of het fenomeen online proctoring onder het nieuwe normaal valt zal de toekomst snel uitwijzen.
ELM | 13
SENNA ASBAI
In lid 2 van art. 3:15a BW komt het wettelijke bewijsvermoeden voor de betrouwbaarheid van een
Eén klik op de knop: contracteren in 2020
elektronische handtekening tot uiting.
De technologie en daarbij horende digitalisering
1) De gewone elektronische handtekening; veelal
hebben zich in de afgelopen jaren razendsnel
een gescand document van een op papier gezette
ontwikkeld. Binnen enkele seconden hebben wij
handtekening.
toegang tot onze mailbox, kunnen wij geld
2) De geavanceerde elektronische handtekening; een
overschrijven via een online bankieren app en checken
handtekening die voldoet aan de eisen gesteld in art.
wij snel nog even het laatste nieuws.
3:15a lid 2 sub a t/m d BW.
Hieruit volgt dat er drie typen elektronische handtekeningen juridisch te onderscheiden zijn:
3) De gekwalificeerde elektronische handtekening: De coronamaatregelen hebben meer dan ooit tevoren
een handtekening die voldoet aan de eisen gesteld in
voor een verschuiving van 'offline’ naar ‘online’
art. 3:15a lid 2 sub a t/m f BW.
gezorgd. Zo is het mogelijk om digitaal te contracteren, waarbij een overeenkomst wordt
Dit onderscheid is van belang. Gekwalificeerde
gesloten zonder dat daar fysieke aanwezigheid van de
elektronische handtekeningen, die gebaseerd zijn op
partijen voor is vereist. Een ondertekening daarvan
een gekwalificeerd certificaat en gegenereerd zijn
door middel van een elektronische handtekening is
door een veilig middel voor het aanmaken van
een belangrijke vorm van digitalisering. Of zij
daarvan als bedoeld in art. 1.1, onderdeel ss/vv van
bewijskracht hebben als een schriftelijke handtekening
de Telecommunicatiewet, worden geacht voldoende
is echter maar de vraag.
betrouwbaar te zijn. De wederpartij zou hier nog tegen in kunnen gaan, maar de kans van slagen is erg
Overeenkomsten die in beginsel schriftelijk gesloten
klein nu hij hierbij een bewijsachterstand heeft.
moeten worden kunnen op basis van art. 6:227a
Voldoende betrouwbaarheid levert hetzelfde
BW veelal ook langs elektronisch weg worden
rechtsgevolg als een handgeschreven handtekening
aangegaan. De elektronische handtekening is geregeld
op, namelijk dwingende bewijskracht. Hieruit vloeit
in art. 3:15a BW en in Europees wetgeving in de
voort dat de rechter verplicht is de inhoud van de
zogeheten eIDAS-verordening. Indien de rechter
akte voor waar aan te nemen ex art. 151 lid 1 Rv.
oordeelt dat de elektronische handtekening voldoende betrouwbaar is, brengt dat dezelfde rechtsgevolgen,
Art. 25 lid 1 eIDAS benoemt dat ‘het rechtsgevolg
en dus dezelfde bewijskracht, als een schriftelijke
van een elektronische handtekening en de
handtekening met zich mee.
toelaatbaarheid ervan als bewijsmiddel in gerechtelijke procedures niet ontkend mogen
De vraag wanneer zo een handtekening voldoende
worden louter op grond van het feit dat de
betrouwbaar is, is afhankelijk van het doel
handtekening elektronisch is of niet aan de eisen
waarvoor de elektronische gegevens worden gebruikt
voor gekwalificeerde elektronische handtekeningen
en alle overige omstandigheden van het geval.
voldoet.’
ELM | 14
Hieruit volgt dat er ook gebruik gemaakt mag worden van de gewone en geavanceerde elektronische handtekening, die hetzelfde rechtsgevolg zouden kunnen hebben. Dit is dus niet bij voorbaat al gegeven. Het is hierbij vereist om te toetsen of deze methode van ondertekening, gelet op het doel, voldoende betrouwbaar is. In het algemeen geldt hierbij dat hoe complexer de inhoud van de ondertekende gegevens zijn, en hoe groter het bewijsbelang van de overeenkomst hierbij is, hoe meer betrouwbaarheid er van de handtekening wordt geÍist. Op deze manier – en in de huidige tijd belangrijker dan ooit tevoren – blijft het toch mogelijk om digitaal te contracteren.
ELM | 15
VYASHTI RAMLAKHAN
Aansprakelijkheid van robots en algoritmen Robotica en aansprakelijkheid
‘Elektronische persoonlijkheid’? Op Europees niveau wordt door het Europese Parlement onderzocht wat de mogelijkheden zijn voor aansprakelijkheid voor robots. Een van de voorstellen is om robots daarvoor een juridische status te geven als ‘elektronische personen’, vergelijkbaar met rechtspersoonlijkheid. Of dit
Robots hebben een opmars gemaakt gedurende de
daadwerkelijk wenselijk is, is echter nog maar de
afgelopen decennia. De ontwikkelingen op dit gebied
vraag. Ook speelt de vraag of dit wel op Europees
zijn nog altijd constant en volgen elkaar in rap tempo
niveau geregeld moet worden. Door een
op. Robots, en daarmee het gebruik van algoritmen,
gemeenschappelijk juridisch kader op te stellen,
worden ervaren als efficiënt en worden dus ook als
wordt standaardisatie binnen de EU beter mogelijk.
ondersteuning in vele sectoren gebruikt.
Dit is ook van belang voor de veiligheid en gegevensbescherming, omdat robots niet kunnen
Zo ook in de rechtspraak. Er wordt al lange tijd meer
functioneren zonder gegevens uit te wisselen. Aan
richting digitalisering geschoven. Dat zou kunnen
de andere kant kunnen op nationaal niveau veel
helpen met snellere en effectievere oplossingen en
specifiekere regels gemaakt worden, die beter
daardoor vermindering van de werkdruk. Het gaat
aansluiten op het betreffende land.
daarbij niet alleen om programma’s die uitspraken analyseprogramma’s. Dat klinkt misschien alsof de
Aansprakelijkheid onder het huidige Nederlandse BW
jurist straks vervangen gaat worden, maar dat is een
Ook in Nederland wordt over deze aansprakelijkheid
stap te ver. Voorlopig blijven mensen nodig met
nagedacht. Prof. Tjong Tjin Tai (Universiteit
creativiteit en empathie om de concrete gevallen te
Tilburg) heeft onder andere een compact stuk
beargumenteren en te beoordelen.
geschreven over de aansprakelijkheid voor robots en
doen, maar ook om intelligente databases en
algoritmen onder het huidige BW. Hij maakt Hoewel wel efficient zijn algoritmen vaak niet
daarvoor onderscheid tussen robots als roerende
transparant. Vooral zelflerende algoritmen, zoals hier
zaken en algoritmen als onstoffelijk. Kanttekening
vaak gebruik van wordt gemaakt, zijn moeilijk te
hierbij is dat robots eigenlijk niets meer zijn dan een
doorgronden. Daarmee ontstaat een ‘black box’, en
algoritmen in een fysieke omhulling. Algoritmen
dus ondoorzichtigheid, omtrent de beslissing die
worden geschreven door mensen, maar ondertussen
genomen is. Die is dan wel rationeel, maar lang niet
kunnen algoritmen ook zelf leren. Dit zijn de
altijd rechtvaardig of bevredigend. Algoritmen kunnen
algoritmen die de ‘black boxes’
zelf namelijk geen morele afwegingen maken. Omdat
hebben, waar beslissingen uitkomen zonder dat
die achtergrond ontbreekt, is de vraag naar
transparant is op welke wijze die is genomen. Het
verantwoordelijkheid voor een handeling van een
Nederlandse BW kent geen specifieke bepalingen
algoritme een die moeilijk te beantwoorden is. Wie is
voor robots of algoritmen, maar deze zijn weldegelijk
aansprakelijk als een beslissing of handeling onjuist is
in te passen in het systeem.
en schade tot gevolg heeft? Deze vraag speelt op zowel nationaal als Europees niveau.
Algoritmen Als eerste is er de algemene aansprakelijkheid op
ELM | 16
grond van onrechtmatige daad ex art. 6:162 BW.
Menselijk handelen kan schade tot gevolg hebben, en
Dat laatste houdt in hetgeen verwacht mag worden
nu kan handelen door een algoritme dat ook. Het
op grond van voorkomende schade aan derden. Voor
handelen van het algoritme is echter het gevolg van
de robot betekent dit dat het handelen gemeten
het programma dat door een mens is geschreven.
moet worden aan dat van een redelijk handelend
Daarmee is de programmeur nog altijd de
mens in dezelfde situatie. Is het handelen van de
verantwoordelijke. Bij schade veroorzaakt door een
robot (te) anders en veroorzaakt het een bijzonder
algoritme wordt de verbinding tussen de mens en het
gevaar, dan is het gebrekkig en is de mens achter de
gevolg indirect, maar blijft de mogelijkheid van
machine aansprakelijk.
risicoaansprakelijkheid voor de mens staan.
Conclusie Aansprakelijkheid op grond van art. 6:162 BW kan
Bij elkaar genomen is de aansprakelijkheid voor
onder andere worden aangenomen op grond van
robots ex art. 6:173 BW strenger dan de
schending van een zorgplicht, waaronder
zorgvuldigheidsnorm ex art. 6:162 BW. Dit terwijl
gevaarzetting. Er moeten dus toereikende
een robot eigenlijk ook gewoon een algoritme is,
voorzorgsmaatregelen genomen worden om schade
maar dan met een fysiek omhulsel. Daarnaast is dit
door het algoritme te voorkomen. Die moeten
apart als je bedenkt dat een algoritme hetgeen is dat
genomen worden door de mens achter het algoritme.
de daadwerkelijke beslissing neemt, zonder altijd
Als de mens dus niet of niet voldoende
transparant te zijn. Toch gelden hier minder
voorzorgsmaatregelen treft, en er concreet kan
strenge aansprakelijkheidsregels voor. Er zijn
worden aangetoond dat het algoritme anders heeft
verschillende voorstellen om dit te veranderen, maar
gehandeld dan verwacht kon en mocht worden, is zij
daar tegenover staat onder andere de wens om
nog steeds aansprakelijk. Het algoritme zal met de
verdere innovatie niet te belemmeren met strengere
voorzorgsmaatregelen namelijk (grotendeels) handelen
aansprakelijkheidsregels voor algoritmen.
zoals een redelijk handelend mens zou doen in dezelfde situatie. Daarmee wordt de afstand tussen
Kort en goed biedt het huidige BW dus aardig wat
de schadeveroorzakende code en de menselijke actor
mogelijkheden voor de aansprakelijkheid van
weer kleiner.
robots en algoritmen, ondanks de snelle ontwikkeling ervan. De toekomst zal echter moeten uitwijzen of
Robots Voor robots geldt een andere regeling volgens Prof. Tjong Tjin Tai. Deze gaat ook uit schuldaansprakelijkheid, namelijk tekortschieten in toezicht houden op het object: de bezitter is aansprakelijk voor schade veroorzaakt door de zaak. De bepaling van aansprakelijkheid voor roerende zaken (art. 6:173 BW) is van belang voor robots, vanwege hun fysieke omhulling. Voor de invulling van deze aansprakelijkheid gaat het om de eisen die men in het concrete gevaar aan de zaak mag stellen en het bijzondere gevaar op schade.
ELM | 17
dit voldoende is.
Aron Knijnenberg Same-Ellen van der Ploeg Tessa Winkenius Sebastian Cornielje Quirine Gerrits Bibianne de Bats Senna Asbai Vyashti Ramlakhan Layout: Cato Molkenboer VP Marketing
ELM | 18
HERFST EDITIE
Deze editie van het ELM is gemaakt door: