Stemrecht

Dirk Visser, Paul Kreijger en Bart van Blokland[1]

Er is momenteel veel aandacht voor het gebruik van voice clones, kunstmatig nagebootste stemmen, van bekende artiesten in door kunstmatige intelligentie vervaardigde nieuwe liedjes, die op Spotify en elders veel luisteraars trekken.

Hoe zit dat juridisch?

Er rust geen auteursrecht op een stem, want auteursrecht rust alleen op specifieke nummers, teksten en composities. Mogelijk bieden de specifieke, op het auteursrecht lijkende, ‘naburige rechten’ van artiesten en platenproducenten wel enige bescherming tegen voice clones. Zo is denkbaar dat een nieuw nummer met een voice clone als ‘reproductie’ van een eerdere opname gezien zou kunnen worden, omdat die er ‘op het gehoor’ veel op lijkt of als input voor de AI is gebruikt. Maar zeker is dat niet. Een stem is ook geen ‘portret’ in de zin van het wettelijke portretrecht. Artikelen 231a en 231b van het Wetboek van Strafrecht verbieden ‘misbruik’ van biometrische en identificerende persoonsgegevens, maar met ‘misbruik’ wordt alleen fraude met persoonsgegevens bedoeld,[2] zoals vervalsing bij biometrische identificatie. Ook het strafrecht lijkt dus bij commercieel gebruik van voice clones weinig mogelijkheden te bieden.

Naar Nederlands recht is commercieel gebruik van voice clones vermoedelijk ‘onrechtmatig’ op grond van de algemene zorgvuldigheidsnorm vastgelegd in art. 6:162 van het Burgerlijk Wetboek, al dan niet in combinatie met de Algemene Verordening Gegevensbescherming (AVG). De AVG beschermt alle informatie over een geïdentificeerde of identificeerbare natuurlijke persoon. Onder meer een fragment van een stem kwalificeert als (biometrisch) persoonsgegeven zoals de Rechtbank Midden-Nederland oordeelde[3] en ook in een recent blog aan de orde kwam.[4] ‘In de AVG wordt verder een ruime definitie van ‘verwerking’ gehanteerd – onder meer het verzamelen, opslaan, wijzigen, gebruiken en verspreiden van persoonsgegevens vallen hieronder – waardoor de AVG niet alleen betrekking heeft op de verspreiding van deepfakes, maar ook op het genereren ervan. Overigens is de werkingssfeer van de AVG beperkt tot levende personen, waardoor nabestaanden er geen beroep op kunnen doen’.[5]

Weliswaar kent de uitvoeringswet van de AVG in artikel 43 de als ‘journalistieke exceptie’ bekend staande uitzondering die geldt voor verwerking voor uitsluitend ‘journalistieke doeleinden’ en ‘artistieke uitingsvormen’, maar de basisprincipes van de AVG, waaronder de eis dat elke verwerking een rechtmatige grondslag moet hebben, blijven ook dan gelden. Binnen de grenzen van de journalistieke exceptie gelden de diverse rechten van betrokkenen, zoals het inzage- en correctierecht niet, maar ook op grond van de algemene onrechtmatige daad kan de rechter een verbodsvordering toewijzen.

Een en ander zal ook afhangen van de vraag hoe de stem wordt gebruikt. Bij gebruik van een echte stem in een journalistieke of artistieke uiting kan de uitingsvrijheid prevaleren, bijvoorbeeld als het kenbaar om parodiërend of satirisch gebruik gaat. Bij gebruik van een voice clone is dat hoogstwaarschijnlijk veel minder snel het geval. Zeker wanneer wordt verhuld dat de stem nep is. Het maken en gebruiken van een voice clone voor commerciële doeleinden zonder toestemming van degene van wie de stem wordt nagebootst en zonder dat duidelijk wordt gemaakt dat het inderdaad om een imitatie gaat, zal waarschijnlijk in de meeste gevallen een niet-rechtmatige verwerking van een persoonsgegeven zijn (het belang van de geïmiteerde persoon zal immers al snel opwegen tegen het belang van de nabootser), en waarschijnlijk ook overigens onrechtmatig zijn omdat het potentieel misleidend is.

In haar “Ethics Statement” ziet de aanbieder van voice clone generator Vall-E dit gevaar kennelijk ook:

“Since VALL-E could synthesize speech that maintains speaker identity, it may carry potential risks in misuse of the model, such as spoofing voice identification or impersonating a specific speaker. We conducted the experiments under the assumption that the user agree to be the target speaker in speech synthesis. If the model is generalized to unseen speakers in the real world, it should include a protocol to ensure that the speaker approves the use of their voice and a synthesized speech detection model.” [6]

Ook als het publiek mogelijk niet wordt misleid, omdat het gebruik van een voice clone erbij wordt vermeld of omdat op een andere manier wel duidelijk blijkt, kan het gebruik toch onrechtmatig zijn, tegenover de geïmiteerde maar mogelijk ook tegenover derden die menen benadeeld te zijn door de misleidende suggestie die van de nepstem uitgaat. Misleiding is overigens geen vereiste voor onrechtmatigheid.

In het voor de muziekindustrie belangrijke Engelse recht ligt dat wat anders: voor de tort of passing off is wel misleiding vereist. Passing-off zag oorspronkelijk op het beschermen van goodwill in handelszaken en het voorkomen van verwarring bij consumenten en consumenten. Sindsdien is het begrip goodwill uitgebreid tot de naam van beroemdheden en hun reputatie. Daarmee speelt passing-off een belangrijke rol in het Engels commercieel portretrecht.[7] Om een geslaagd beroep te doen op een passing-off tort zijn er drie vereisten. Ten eerste dat er goodwill is. Ten tweede dat het eerder genoemde vereiste van misleiding en ten derde dat er schade is.[8] In het geval van voice clones zal een beroep op passing-off lastig worden indien wordt vermeld dat er gebruik gemaakt is van AI en dat het niet om de originele artiest gaat. Niemand kan dan de indruk hebben dat het gaat om een echt persoon, men weet immers dat het een AI-voice betreft.

In het Amerikaanse recht dat voor de muziekindustrie nog belangrijker is, bestaat het Right op Publicity. Dat is daar niet op federaal, maar op statelijk niveau geregeld. Het verschilt dus per staat. In het algemeen zijn er drie elementen waaraan voldaan moet worden, validity, commercial value en infringement. Validity ziet op het hebben van menselijke identiteit.[9] In het geval van het nabootsen van stemmen van bekende personen zal dit vereiste geen hoge drempel zijn, in een zaak over de stem van Bette Midler is geoordeeld dat een sound alike ook onder het right of publicity valt.[10] Verder verschilt per staat of de artiest in leven dient te zijn en hoe lang iets na zijn of haar dood beschermd is.[11] Commercial value vereist dat gebruik van iemand personalia of identiteit mogelijk schade toebrengt aan de commerciële waarde van die identiteit of die personalia. Het element infringement ziet op het gebruik van de personalia of andere persoonskenmerken waardoor iets of iemand herkenbaar is als deze persoon. Hierbij is het niet vereist dat er sprake is van misleiding, iets wat wel het geval is bij de tort of passing-off. Het right of publicity is dus een goed inzetbaar middel tegen voice clones. In de staat New York heeft dit al tot een schikking geleidt tussen het moederbedrijf van TikTok en een voice-over.[12]

Tot slot de handhaving. In veel gevallen zal wel te achterhalen zijn dat sprake is van een voice clone: een geïmiteerde artiest (en zijn platenmaatschappij) zal doorgaans wel weten wat tot haar/zijn repertoire behoort, maar zeker online zijn de drempels voor snel en succesvol handhaven, zoals de ervaring inmiddels wel leert, niet te onderschatten. Een praktisch probleem van de handhaving van het ‘stemrecht’ lijkt ook te zijn dat de filtersystemen die platforms hanteren voice clones nog niet herkennen. Het lijkt de vraag of dat lang zal duren. Als er consensus is dat voice clones niet mogen, dan zullen er mogelijk snel algoritmes komen om voice clones te herkennen en desgewenst eruit te filteren, zodat het stemrecht niet alleen een theoretische constructie blijft, maar ook echt uitgeoefend kan worden.

---------------------------------------------------------------------------------------------------------------------------

1. Advocaten resp. student-stagiaire bij Visser, Schaap en Kreijger in Amsterdam. Visser is ook hoogleraar in Leiden.
2. E.J Hofstee in Noyon/Langemeijer/Remmelink Strafrecht, commentaar op art. 231a en b Sr.
3. Rb. Midden-Nederland 9 januari 2020, ECLI:NL:RBMNE:2020:24, AMI 2020/3-4 m.nt. A.M. van Aerde (Stemfragment).
4. https://blog.iusmentis.com/2023/01/13/is-het-toegestaan-iemands-stem-na-te-doen-met-een-ai-zoals-vall-e/
5. Richard Trouborst, Charlotte Vrendenbarg en Dirk Visser, ‘Nep echt onder het naburig recht’, NJB 14 januari 2022, p. 106.
6. https://valle-demo.github.io/
7. Paul Torremans, ‘Commercieel portretrecht in het Verenigd Koninkrijk’, in Commercieel Portretrecht (2009), D.J.G. Visser (red.), pp. 196-198.
8. Paul Torremans, ‘Commercieel portretrecht in het Verenigd Koninkrijk’, in Commercieel Portretrecht (2009), D.J.G. Visser (red.), p. 195.
9. Erin Giacoppo, ‘Avoiding the Tragedy of Frankenstein: The Application of the Right of Publicity to the Use of Digitally Reproduced Actors in Film’, Hastings Law Journal 1997, vol. 48, p. 618.
10. Bas Pinckaers, ‘Het Amerikaanse Right of Publicity’, in Commercieel Portretrecht (2009), D.J.G. Visser (red.), p. 207.
11. In New York is het tot veertig jaar na de dood, in California zelfs zeventig jaar.
12. United States District Court, S.D. New York, 29 september 2021, Standing v. Bytedance E-Commerce, Inc.