17.07.2021
Technologie

​Is het oké om stemmen van overledenen te deepfaken?

By: Laura Jenny

BlogTechnologie

Als je bekend bent met de documentaires van Anthony Bourdain, dan weet je dat hij altijd zijn eigen voice-over doet, een beetje in dezelfde stijl als Louis Theroux, maar dan iets lomper. Hoe moet dat als je een documentaire maakt over Anthony Bourdain zijn leven én zijn dood? Hij kan dat niet meer zelf inspreken. Tenminste, dat blijkt niet helemaal waar. Want de nieuwe docu Roadrunner heeft toch de voice-over van meneer Bourdain. Hoe dat kan? Deepfaken.

Deepfake Anthony Bourdain

Dat is best vreemd, want hoe gaat meneer Fake-Bourdain praten over zijn eigen dood? Gelukkig spreekt hij niet de hele documentaire in, maar gaat het slechts om een paar zinnetjes. Zinnetjes die hij waarschijnlijk nooit in het echt heeft uitgesproken, maar die filmmaker Morgan Neville heeft gemaakt met kunstmatige intelligentie. Denk aan hoe bijvoorbeeld het gezicht en de stem van Paul Walker zijn digitaal zijn gereconstrueerd in de film Fast & Furious 7, al was hier ook wat hulp van zijn broer ingeschakeld.

Morgan wilde per se de overleden chef een e-mail aan een vriend laten voorlezen in de documentaire, dus hij heeft software ingeschakeld om hem daarbij te helpen. Door duizenden uren aan een pratende Bourdain te gebruiken, kon de software de stem leren kennen en deepfaken, zo lichtte hij toe aan de New Yorker. Benieuwd hoe de Fake-Bourdain klinkt? In de onderstaande trailer hoor je hem op 1:30 minuut zeggen ‘And my life is sort of shit now. You are successful, and I am successful, and I’m wondering: Are you happy?’ Misschien hoor je de AI er een beetje doorheen bij ‘and I am successful’.

Roadrunner

Het is wel de vraag of dit oké is. Bij Paul Walker was het nog zijn eigen familie die hem hielp, en bovendien had hij al akkoord gegeven om in de zevende Fast & Furious mee te spelen. Bij Bourdain heeft niemand er akkoord op gegeven: deze regisseur wilde hem iets horen zeggen, dat hij waarschijnlijk nooit hardop in het echt heeft gezegd. Neville haalt er zijn schouders bij op. Hij zegt: “We kunnen er later wel een ethische discussie over hebben.”

Zoals Neville al laat zien is dit een ethische kwestie waar de meningen over uiteenliggen. We weten niet of Bourdain met deze documentaire zou instemmen, laat staan dat hij er zelf quotes voor wilde inspreken. Nu zegt hij in deze documentaire niet heel veel -en die mail heeft hij wel gestuurd, dus in die zin zijn dat wel zijn woorden-, maar wat als iemand hem dingen laat zeggen die waar hij totaal niet achterstaat?

Een ethische discussie

Het deepfaken van iemands stem moet wel meerwaarde bieden en het is de vraag of het uit zou maken of een andere voice-over de e-mail zou voorlezen of Anthony zelf. Het is op veel plekken in de wereld strafbaar om een stem te deepfaken, dus helemaal vrij ben je er niet in om zonder iemands toestemming zijn of haar stem na te bootsen. Nu zal het Bourdain-verhaal waarschijnlijk geen staartje krijgen, tenzij hij nog familie overheeft die hier niet mee akkoord gaat. Wordt mogelijk vervolgd dus.

Beeldbron: Free-Photos

Share this post