Het juridische systeem van deepfake - in hoeverre is dit aanwezig?

ARTIKEL | PUBLIEKRECHT

HET JURIDISCHE SYSTEEM VAN DEEPFAKE – IN HOEVERRE IS DIT AANWEZIG?

“ZAAK ROND NEPPORNOVIDEO WELMOED SIJTSMA LIGT BIJ OM” 1, “TWEEDE KAMER WIL DEEPFAKE VIDEO’S DEELS VERBIEDEN” 2, “BRUCE WILLIS: RECHTEN OP GEZICHT NIET VERKOCHT AAN AL-BEDRIJF” 3. DEEPFAKE WORTELT ZICH STEEDS MEER IN DE MEDIA EN SAMENLEVING. MET DE BEVORDERING TOT FAAM KOMEN EEN AANTAL VRAGEN OM DE HOEK KIJKEN. VOORNAMELIJK OMDAT ER IN NEDERLAND GEEN SPECIFIEKE WETTEN ZIJN OMTRENT DEEPFAKE. DE DEEPFAKETECHNOLOGIE STELT MEN – JURISTEN, MAAR OOK DE BEVOLKING – EEN AANTAL JURIDISCHE VRAGEN EN/OF CREËERT NIEUWE UITDAGINGEN DIE INVLOED HEBBEN OP DIVERSE RECHTSGEBIEDEN.

DOOR YI XIANG YE

22

ALIBI MAGAZINE | EDITIE 1 2023

ARTIKEL | PUBLIEKRECHT

Het Wetenschappelijk Onderzoeken Documentatiecentrum (hierna WODC) deed onderzoek naar hoe de bestaande wetgeving in Nederland van toepassing is op deepfake. Hierbij hebben Bart van der Sloot, Yvette Wagensveld en Bert-Jaap Koops gekeken of de wetgeving voldoende is om de problemen die deepfakes kunnen veroorzaken, aan te pakken.

Uit het onderzoek is gebleken dat regulering niet louter gericht moet zijn op aanpassingen in zowel het materiële recht als procesrecht, ook al worden deze wenselijk geacht. Het grootste probleem met deepfakes in horizontale relaties en privacyschendingen in het algemeen, is het handhaven van het bestaande recht. Veel van de problematische toepassingen van deepfakes zijn al verboden of juridisch ingekaderd, daarom zou het probleem niet bij de wetgeving zelf liggen, maar in de naleving ervan4.

Echter, ik ben niet helemaal eens met de stelling. Dit artikel zal daarom nader behandelen wat de gevaren zijn van deepfake, of het bestaande recht voldoende (rechts)bescherming biedt tegen de gevaren van deepfake, of er voldoende handhaving is en of er specifieke wetgeving geïmplementeerd moet worden door de wetgever omtrent deepfake. De juridische probleemstellingen worden in dit artikel aangekaart met behulp van het onderzoek van het WODC. HOE WERKEN DEEPFAKES? “Een deepfake is beeld, geluid of ander materiaal dat geheel of gedeeltelijk is gefabriceerd of bestaand beeld, geluid of ander materiaal dat is gemanipuleerd met behulp van geavanceerde technische hulpmiddelen en dat niet of nauwelijks van echt te onderscheiden is”5.

Het is een snel evoluerende technologie die steeds meer wordt toegepast in het creëren van geloofwaardige digitale media. De technologie wordt voornamelijk geassocieerd met entertainment en creativiteit.

EDITIE 1 2023 | ALIBI MAGAZINE

De technologie wordt voornamelijk geassocieerd met entertainment en creativiteit. Echter, het wordt ook gebruikt voor frauduleuze, bedrieglijke en manipulatieve doeleinden Echter, het wordt ook gebruikt voor frauduleuze, bedrieglijke en manipulatieve doeleinden. Tevens moet men niet vergeten dat deepfake ook een impact kan hebben op de maatschappij en of samenleving als geheel en daarbij het algemeen belang kan schaden. Er kan wantrouwen ontstaan in de bevolking van de (Nederlandse) samenleving.

Als eenmaal het nepmateriaal verspreid wordt met een stempel van werkelijkheid, kan de bevolking de realistische beelden en nepbeelden niet van elkaar onderscheiden. Het verifiëren en kwalificeren van wat echt of nep is wordt kort gezegd bezwarend. Desondanks is er in de Nederlandse wetgeving momenteel geen specifieke wetgeving omtrent deepfakes. De vraag is hierbij in hoeverre de bestaande wetgeving in Nederland van toepassing kan zijn om de juridische problemen, die deepfake-technologie in het leven roept, aan te pakken. Daarbij moet men zich afvragen of dit voldoende is en of alternatieve oplossingen door de wetgever geschept moet worden6.

HUIDIGE PROBLEMEN Zoals eerder vermeld ligt de zaak van Welmoed Sijtsma omtrent neppornovideo bij het Openbaar Ministerie.

Deze zaak kreeg veel media-aandacht door een televisieserie waarin

Stijtsma zocht naar de verantwoordelijke dader omtrent het maken van een neppornovideo met haar beeltenis. Door middel van de serie wilde zij het groeiende verschijnsel – deepfake porno – aan het licht brengen. Elke maand worden er duizenden neppornovideo’s geüpload en bekeken. Een meerderheid in de Tweede Kamer wil deepfake-technologie, die zeer overtuigende nepvideo’s kan creëren, in sommige situaties verbieden7. Daarbij heeft de meerderheid van de Tweede Kamer een motie, die pleit voor een gedeeltelijk verbod op deepfakes, van de VVD ondertekend om te voorkomen dat deepfake-technologie wordt ingezet voor slechte doeleinden. De Tweede Kamer ziet hoe impactvol een deepfake-filmpje kan zijn, met

BIO Yi Xiang Ye

Bachelorstudent Rechtsgeleerdheid aan de Universiteit van Amsterdam

23

ARTIKEL | PUBLIEKRECHT

name als het wordt gebruikt om neppornovideo’s te maken door gezichten van andere beelden te plakken. Daarnaast stelt de VVD dat de technologie ook gebruikt kan worden om zo de verkiezingen te beïnvloeden of zelfs conflicten te ontketenen of verergeren8. Het Wetenschappelijk Onderzoek- en Documentatiecentrum publiceerde eerder een rapport omtrent deepfakes. Volgens de onderzoekers zijn veel probleemstellingen van deepfake strafbaar en ligt het probleem met name bij de handhaving. Ondanks alles hebben de Kamerleden de motie ingediend, omdat zij vinden dat er sneller gehandeld moet worden9.

WAT STELT DE HUIDIGE WETGEVING OMTRENT DEEPFAKES? Deepfake wortelt zich dus steeds meer in de media en samenleving.

Daarbij ziet het er naar uit dat de invloeden van deepfake de komende jaren alleen maar zullen toenemen.

Wetgeving en handhaving desbetreffende deepfake is dan ook van groot belang. Maar wat voor handvat biedt de Nederlandse wetgeving momenteel?

Over het algemeen biedt het Nederlandse strafrecht hier en daar enkele resoluties omtrent de problemen van deepfake. Hierbij is wel vereist dat de deepfake dusdanig een kwalijke en of strafwaardige inhoud moet bevatten, waardoor de deepfake als strafwaardig beschouwd kan worden.

Het onderzoek stelt twee eventuele aanpassingen voor aan de Nederlandse wetgever: 1. Er zijn momenteel geen strafbepalingen voor het feit dat deepfake seksvideo’s niet worden verspreid, maar puur voor eigen gebruikt worden gemaakt en bekeken. Dit zouden de onderzoekers graag willen aanpassen10.

2. Verder vinden de onderzoekers dat er een overweging gemaakt zal moeten worden omtrent artikel

24

231b uit het Wetboek van Strafrecht.

Zij vinden dat de clausule ‘niet zijnde biometrische persoonsgegevens’ van het artikel verwijderd moet worden, of dat deze clausule moet worden vervangen door ‘in andere gevallen dan bedoeld in artikel 231a uit het Wetboek van Strafrecht11’.

Daarnaast kan de Algemene Verordening Gegevensbescherming (hierna AVG) een rol spelen, echter, er staan een aantal obstakels in de weg. De eerste mogelijkheid is om te vereisen dat er toestemming wordt verzocht aan degene die in de deepfake wordt afgebeeld. Echter, dit heeft louter effect als de persoon bekend is bij de maker van de deepfake.

Daarnaast kan je men op basis van de AVG verplichten om de geportretteerde op hoogte te stellen van zijn of haar verschijning in een deepfake. Verder moeten de vereisten voor doel en doelbinding in acht worden genomen. Doel en doelbinding houdt in dat in beginsel de gegevens louter verwerkt mogen worden voor het doel waarvoor ze initieel verzameld zijn.

Eveneens moet er rekening worden gehouden met de rechten van degene die in de deepfake wordt afgebeeld, zoals het recht op rectificatie en het recht om vergeten te worden12.

Binnen het Europees Verdrag voor de Rechten van de Mens zijn er twee artikelen die van toepassing zijn op deepfakes; artikel 8 EVRM, dat het recht op privacy beschermt, en artikel 10 EVRM, dat het recht op vrijheid van meningsuiting beschermt. Het Europees Hof voor de Rechten van de Mens bepaalt dat onder het recht op privacy ook het recht op bescherming van eer en goede naam en reputatie valt13. Ook heeft het Hof besloten dat de vrijheid van meningsuiting een ruime interpretatie krijgt, inclusief het recht om te schokken, te beledigen en te verwarren14. Op het moment dat deepfakes een mogelijk onrecht-

matig karakter bevatten, kunnen beide partijen een beroep doen op twee verschillenden mensenrechten.

De maker van de deepfake zal zich beroepen op het recht op vrijheid van meningsuiting zoals verwoord in artikel 10 uit het Europees Verdrag voor de Rechten van de Mens. De geportretteerde zal zich beroepen op het recht op eer en goede naam en reputatie zoals verwoord in artikel 8 uit het Europees Verdrag voor de Rechten van de Mens. Hier kan men zien dat twee verschillende mensenrechten met elkaar botsen. Momenteel is het moeilijk te beoordelen hoe het Hof een deepfake zaak zal behandelen.

ALIBI MAGAZINE | EDITIE 1 2023

ARTIKEL | PUBLIEKRECHT

Het Hof heeft een eigen regime en stelt weinig algemene regels. Elke zaak zal dan casuïstiek behandeld moeten worden15.

Buiten de Europese Unie hebben enkele landen wél al wetgeving omtrent deepfake geïmplementeerd. China is één van de landen die de wetgeving heeft geïmplementeerd. Zo is het bijvoorbeeld verboden om deepfake- en virtual reality-technologieën te gebruiken voor de productie en verspreiding van desinformatie, nepnieuws en misinformatie, door zowel aanbieders van audio-/videodienst als door

EDITIE 1 2023 | ALIBI MAGAZINE

hun gebruikers16. De aanbieders van audio-/videodienst moeten mogelijke onrechtmatige inhoud controleren en filteren. Als eenmaal illegale informatie of inhoud ontdekt wordt door de aanbieders, moeten zij de verwerking daarvan stoppen en verdere verspreiding voorkomen door middel van detectie-software. In de Verenigde Staten is de wetgeving minder uniform. Drie staten hebben deepfake wetgeving vastgelegd om het probleem omtrent het zonder toestemming creëren en verspreiden van expliciet seksueel materiaal aan te pakken17. Californië heeft de wetgeving aangenomen die personen

een privaatrechtelijke grond biedt tot instelling van vordering als zij worden afgebeeld in een deepfake.

De Texaanse wet stelt het maken en publiceren van materiaal met het oogmerk om de uitlag van de verkiezing te beïnvloeden, strafbaar18.

Daarbij stelt de Texaanse staat een boete van $4,00019.

De onderzoekers stellen dat regulering niet louter gericht moet zijn op aanpassingen in zowel het materiële recht als procesrecht, ook al worden deze wenselijk geacht. Het grootste probleem met deepfakes in horizontale relaties en privacyschendingen

25

ARTIKEL | PUBLIEKRECHT

Het juridische probleem van deepfake ligt niet bij de bestaande wetgeving, maar bij de handhaving ervan. in het algemeen, is het handhaven van het bestaande recht. Veel van de problematische toepassingen van deepfakes zijn al verboden of juridisch ingekaderd, daarom zou het probleem niet bij de wetgeving zelf liggen, maar in de naleving ervan20.

MIJN PERSPECTIEF In het onderzoek van de WODC wordt er aangegeven dat veel van de problematische toepassingen van deepfakes al verboden of juridisch ingekaderd zijn, daarom ligt het probleem niet in de wetgeving zelf, maar in de naleving daarvan. Met deze stelling van de

onderzoekers ben ik het niet helemaal mee eens.

Het klopt dat het bestaande recht, zoals het strafrecht en het EVRM, enkele soluties biedt voor de probleemstelling van deepfake, echter is de vraag “voor hoelang nog?”. Deepfake is een snel evoluerende technologie die steeds meer wordt toegepast in het creëren van geloofwaardige digitale media. In de toekomst zouden er ingewikkelder en specifieke problemen ontstaan, waarbij het huidige recht geen resoluties en of (rechts)bescherming meer zou kunnen bieden

Algeheel bestaat er geen specifieke wetgeving omtrent deepfake in Nederland. In mijn perspectief moet de politiek deze wetgeving creëren.

Hierbij kan de wetgever overwegen om het gebruik van deepfake materiaal op zichzelf strafbaar te stellen. Daarbij is het verstandig om naar andere landen te kijken, met name naar China en de Verenigde Staten. Nederland zou dan ook het gebruik voor productie en verspreiding van desinformatie, nepnieuws en misinformatie, zowel door de aanbieders van audio-/videodienst als door hun gebruikers met behulp van deepfake-technologie moeten verbieden. Daarnevens moet ook een zorgplicht rusten op de aanbieders van de audio-/videodienst. Dit houdt iedere maker van de deepfake programma in. Zij moeten de mogelijke onrechtmatige inhoud controleren en filteren met behulp van detectie-software. Als de aanbieders eenmaal onrechtmatige inhoud hebben geconstateerd moeten zij de verwerking daarvan stoppen en verdere verspreiding voorkomen. De hoogte van de straf en of boete zou ik gelijkstellen met artikel 261 Wetboek van Strafrecht. Idealiter zou het artikel een tenzij-clausule bevatten, waarbij de rechter ruimte krijgt om de desbetreffende zaak op maatwerk te behandelen. Echter, deze wil kan ook nader uitgewerkt worden in een apart artikel. Verder kan de Nederlandse wetgever de politici ook enige zekerheid bieden door het creëren van de wetgeving. Evenzeer moet er dan naar de Texaanse wetgeving gekeken worden. De Texaanse wet stelt het maken en publiceren van deepfake materiaal met het oogmerk om de uitslag van de verkiezing te beïnvloeden, strafbaar. Daarbij stelt de Texaanse staat een boete van $4,000. Ik zou dit dan ook suggereren aan de wetgever om dit over te nemen, alleen dan met een boete van de tweede categorie.

Naast strafrechtelijke opties, kan ook op het privaatrechtelijke gebied

26

ALIBI MAGAZINE | EDITIE 1 2023

ARTIKEL | PUBLIEKRECHT

meer aandacht worden besteed aan de wetgeving omtrent deepfake. Het deepfake probleem zou langs de privaatrechtelijke weg opgelost kunnen worden met de onrechtmatige daad zoals verwoord in artikel 162 uit het Burgerlijk Wetboek 6. Men zou dan betogen dat de gedraging in het maatschappelijk verkeer onbetamelijk is zoals verwoord in artikel 162 lid 2 uit het Burgerlijk Wetboek 6. Bovendien creëert de implementatie van de specifieke wetgeving omtrent deepfake een zekerheid voor men. Zij kunnen bij het vaststellen van de onrechtmatigheid zoals verwoord in artikel 162 lid 2 Burgerlijk Wetboek 6, betogen dat het in strijd is met de wettelijke plicht. Hierdoor ben ik sterker van mening dat er specifieke wetgevingen omtrent deepfake gecreëerd moeten worden. Met name omdat het in lijn staat met één van de Nederlandse grondbeginselen, namelijk het legaliteitsbeginsel. Het beginsel geeft een opdracht aan de wetgever om het recht zo nauwkeurig mogelijk vorm te geven. Daarbij wendt het zich ook jegens de rechter, die de wet nauwgezet moet toepassen. Daarbovenop heeft de samenleving rechtszekerheid, aangezien men kennis heeft van wat de wet van hen verlangt.

Naast de implementatie van de wetgeving, moet de wetgeving ook gehandhaafd worden. Ik ben van mening dat dit niet louter gedaan moet worden door de rechter, hierbij doel ik dan op preventieve maatregelen. Als men met de zaak terecht kom bij de rechter, dan is de schade al geleden.

De deepfake is al in het leven geroepen. Zoals beschreven, zou de handhaving uitgevoerd moeten worden door de aanbieders van audio-/videodienst. Op hen rust dan de zorgplicht om de mogelijke onrechtmatige inhoud te controleren, filteren, stoppen en voorkomen dat het verder verspreid wordt. Naast de zorgplicht van de producenten ben ik van mening dat

EDITIE 1 2023 | ALIBI MAGAZINE

de overheid een apart handhavingsorgaan moet scheppen. Dit orgaan is dan berust met de uitoefening van de controle op de aanbieders en biedt een extra stok achter de deur. Het handhavingsorgaan zou boetes kunnen opleggen jegens de aanbieders bij niet-voldoening van de zorgplicht.

Daarnaast heeft het orgaan zelf ook de taak om het internetverkeer omtrent deepfakes te controleren, filteren en constateren. Hierbij zal ook een aparte wetgeving geïmplementeerd moeten worden.

Het is zeer waarschijnlijk dat de Tweede Kamer wetgeving zal aannemen omtrent deepfake. Zoals eerder vermeld onder “huidige problemen” zijn de deepfake gevaren al bekend bij de Tweede Kamer. Sterker nog, de meerderheid van de Tweede Kamer wil de deepfake-technologie in sommige situaties verbieden. In ieder geval heeft de meerderheid een motie ondertekend, die pleit voor een gedeeltelijk verbod op deepfakes. Het is nu afwachten wat de Tweede Kamer zal doen in de toekomst omtrent de gevaren en wetgeving van deepfake.

Al met al ben ik van mening dat er wetgeving gecreëerd moet worden door de Nederlandse wetgever omtrent deepfake. Het huidige recht biedt enkele resoluties, maar voor hoe lang nog?

Bijkomend moet er een apart handhavingsorgaan geschept worden dat toezicht houdt op de aanbieders en het internetverkeer. Het is van groot belang dat de implementatie ogenblikkelijk gebeurt om zo chaos te voorkomen en regulering in het leven te roepen. Met name omdat de probleemstellingen van deepfakes zich in een “relatief vroeg” stadium bevinden, waardoor men de problemen kan voorkomen. Andere landen zijn al met volle inzet aan de slag met wetgeving omtrent deepfake, waarom Nederland dan ook niet?

‘Zaak rond neppornovideo Welmoed Stijtsma ligt bij OM’, RTLnieuws 2023.

2 ‘Tweede Kamer wil deepfake video’s deels verbieden’, RTLnieuws 2022.

3 ‘Bruce Willis: rechten op gezicht niet verkocht aan AL-bedrijf’ RTLnieuws 2022.

4 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 214.

5 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 5.

6 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 5.

7 ‘Zaak rond neppornovideo Welmoed Stijtsma ligt bij OM’, RTLnieuws 2023.

8 ‘Tweede Kamer wil deepfake video’s deels verbieden’, RTLnieuws 2022.

9 ‘Tweede Kamer wil deepfake video’s deels verbieden’, RTLnieuws 2022.

10 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 67.

11 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 67.

12 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 30.

13 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 21.

14 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 21.

15 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 94 & 95.

16 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 157, 158 & 159.

17 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 160, 161 & 162.

18 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 161.

19 ‘Texas Law Could Signal More State, Federal Deepfake Bans’, jdsupra 2019.

20 Bart van der Sloot, Yvette Wagensveld & BertJaap Koops 2021, p. 214.

1

27

ALIBI