Oneigenlijke verspreiding van deepfakes moet worden verboden

Ondertussen zien mensen steeds vaker deepfakes verschijnen op hun tijdlijnen op sociale media. Althans vaak grappig bedoeld wordt middels het gebruik van AI de identiteit van bekende Nederlanders gekloond en zeggen deze deepfake klonen soms de meest opmerkelijke dingen dingen, zoals deze deepfake van Lionel Messi. Net als bij nepnieuws is het steeds moeilijker de werkelijkheid en virtual reality van elkaar te onderscheiden. Dit roept natuurlijk vragen op. Moet deze technologie worden gereguleerd? Of slechts het oneigenlijke gebruik ervan? En hoe zou die wetgeving er dan uit moeten zien? In dit korte opiniestuk ligt ik toe waarom ik denk dat deepfake identiteitsklonen strafbaar moeten worden gesteld wanneer de eigenaar van de identiteit, die wordt nagebootst, bij een rechter aanklopt. 

In de Tweede Kamer pleitten CDA en GroenLinks Kamerleden al voor het verbieden van deepnudes, dat zijn afbeeldingen van personen die met beeldbewerkingssoftware in pornografische scenes worden afgebeeld. De vraag is echter of dit bij deepfakes, waarin de visuele identiteit en stem van een persoon natuurgetrouw wordt weergegeven ook zo moet zijn.

Juridische uitdaging

Het grote probleem van deepfakes heeft uiteindelijk meer te maken met het verspreiden van een boodschap onder een valse identiteit en niet zozeer met de productie van de deepfake, zeker als de persoon in kwestie waarvan een deepfake wordt gemaakt geen toestemming heeft verleend voor het verspreiden van deze content. In het geval een deepfake een natuurgetrouwe representatie is van een ander persoon, zou de laatste daarover eerst moeten worden geïnformeerd en toestemming moeten geven alvorens publicatie legitiem is.

Openbaar aanklager ook bezorgd over deepfakes

Lodewijk van Zwieten van het Openbaar Ministerie gaf recentelijk nog zijn opinie over deze opkomende vorm van nepbeelden in een gesprek met Jarno Duursma. Het baart Van Zwieten als jurist in ieder geval zorgen. Zo stelt Van Zwieten in het interview met Duursma: “Vanuit mijn werk zie ik natuurlijk dat heel veel technologie niet wordt gemaakt met de intentie om er slechte dingen mee te doen, maar dat dat uiteindelijk wel gebeurt. Dat vrees ik met deepfake ook; veel technologie wordt uiteindelijk gebruikt met een criminele doelstelling. En wanneer iedereen in staat is om de werkelijkheid online te manipuleren, dan vind ik dat wel een zorgelijke ontwikkeling. Met name omdat onderscheid tussen echt en nep, tussen goed en kwaad steeds moeilijker te maken is.”

Identiteitsfraude?

Kortom, eigenlijk moeten er juridische instrumenten bestaan om mensen waarvan deepfakes worden verspreid in staat worden gesteld om zich te verweren. Daarvoor zijn bestaande wetten eigenlijk al voorhanden, zoals het portretrecht en de wetten rondom identiteitsfraude. Maar is deze wet waarschijnlijk dermate geformuleerd dat er nauwelijks rekening wordt gehouden met de modaliteit van de communicatie. In principe is het nabootsen van een bekende Nederlander middels een deepfake en het publiceren van de deepfake een overtreding van het portretrecht en een vorm van identiteitsfraude. Zeker als de deepfake natuurgetrouw is en niet van echt te onderscheiden. Maar in veel gevallen zal een aanklacht achterwege blijven omdat het meestal gaat om satire. Dat is ook niet per definitie kwalijk, al is het moreel wel verwerpelijk om een deepfake te publiceren van een ander persoon zonder deze daarover te informeren en om toestemming te vragen. Daarbij is de productie van een deepfake ook niet verwerpelijk, maar het verspreiden ervan -zeker zonder toestemming van de nagebootste identiteit- wel.

Maatwerk

Het zou daarom goed zijn dergelijke bepalingen in de wet op te nemen zodat personen die slachtoffer worden van een natuurgetrouwe deepfakes, dat wil zeggen een deepfake die niet of nauwelijks van de werkelijkheid is te onderscheiden, het recht heeft om de overtreder aan te klagen. Natuurlijk met tussenkomst van een rechter, om daarmee te garanderen dat er maatwerk wordt geleverd en alleen deepfakes die niet of nauwelijks van echt te onderscheiden zijn hieronder vallen. In principe zou elke deepfake die zonder toestemming wordt verspreid onder identiteitsfraude moeten vallen om te voorkomen dat toekomstige slachtoffers van de verspreiding van deepfakes rechteloos en vogelvrij zijn.

In het geval er sprake is van identiteitsfraude, terwijl de persoon waarvan een deepfake wordt gemaakt geen toestemming heeft verleend voor het natuurgetrouw nabootsen van zijn/haar stem en visuele identiteit, lijkt het niet meer dan logisch dat vervolging mogelijk moet zijn. Hierbij moet worden uitgegaan van het recht van het individu om een eigen unieke identiteit te hebben, die uiteraard bestaat uit een visueel deel en een auditief deel. Deze persoon moet dan ook het recht hebben om in verweer te gaan tegen een kwalijke deepfake die wordt verspreid zonder zijn/haar toestemming en waarin de visuele en auditieve identiteit van de persoon natuurgetrouw wordt nagebootst.

Hierbij is maatwerk eerder de regel dan uitzondering, omdat niet alle deepfakes een kwalijk karakter kennen en alleen middels tussenkomst van een rechter een eerlijk oordeel kan worden gegeven. Als iemand bijvoorbeeld de visuele identiteit nabootst, maar een moedervlek op de wang weglaat om daarmee te beargumenteren dat het niet gaat om een kloon, dan is dit minieme verschil weliswaar de facto aanwezig en dus geen kloon, maar kan het geheel nog steeds een vorm van identiteitsfraude zijn. Daarom moet een rechter hierover oordelen. Dat weegt natuurlijk zwaar op de rechtsorde en of dit ook mogelijk is, is afwachten.

Verbiedt oneigenlijke verspreiding, niet de productie van deepfakes

Een andere belangrijke variabele in het geheel is de verspreiding van een deepfake of deepnude. Op zich is het produceren van dergelijke beelden geen enkel probleem, zo lang deze beelden maar niet worden gebruikt voor laster, identiteitsfraude of chantage. Wanneer deze beelden niet worden verspreid en slechts aanwezig zijn op de computer van de producent, dan is er in principe geen schade. De verspreiding van deepfakes is dus het probleem en niet zozeer het produceren van deepfakes. Daarom is het ook van belang dat niet de productie van deepfakes wordt verboden, als wel de verspreiding ervan zonder toestemming van de persoon wiens identiteti wordt gekloond of gebruikt om deepfakes en -nudes te produceren.

In veel gevallen zal er geen aanklacht volgen omdat de meeste mensen geen kwalijke intenties hebben, maar in het geval een persoon van mening is dat zijn identiteit onrechtmatig wordt gekloond en de producent via deze deepfakes boodschappen verspreid zonder toestemming, dan moet vervolging uiteraard mogelijk zijn.