Een Chinese app waarmee gebruikers hun gezicht kunnen verwisselen met film- of tv-personages is in recordtijd één van de meest gedownloade apps van China geworden. Niet zonder slag of stoot overigens, de faceswap-app werd stevig bekritiseerd om hun privacybeleid.
De app maakt gebruik van deepfake-technologie en doet dat zo effectief dat de beelden praktisch echt lijken. De app heeft niet veel bronmateriaal nodig voor het faceswappen. Gebruikers voeren de app een reeks selfies waarin ze knipperen, hun mond bewegen en bepaalde gezichtsuitdrukkingen maken. Binnen luttele seconden zie je jezelf in bekende filmscènes in plaats van sterren zoals Leonardo DiCaprio of Halle Berry.
Het bedrijf werd gedwongen om een verklaring af te leggen over het privacybeleid van de app. Critici hekelden het feit dat de app zich het door gebruikers gecreëerde beeldmateriaal toe-eigent.
Deepfake ligt al langer onder het vergrootglas omdat het kan worden misbruikt om manipulatieve video’s te maken. Daarmee kunnen verkiezingen worden beïnvloed, onrust worden gestookt en desinformatie worden verspreid.
“We begrijpen de zorgen, we snappen de feedback en zullen de onverwachte problemen oplossen. Dat zal enige tijd duren”, verklaarde Zao.
Zao is eigendom van Momo Inc, een Tinder-achtige datingservice die is genoteerd op de Nasdaq.
Zao heeft sindsdien de voorwaarden aangepast en zegt geen gebruik meer te maken van headshots of video’s gemaakt met de app. Het bedrijf beloofde ook om alle content te verwijderen die is geüpload door gebruikers maar nog op de servers stond.
De app heeft ondanks de rel niet in populariteit ingeboet. Het bleef de meest gedownload gratis app in China.
Zorgen over deepfakes zijn gegroeid sinds de Amerikaanse verkiezingscampagne van 2016, waarin volgens Amerikaanse onderzoeken veel gebruik werd gemaakt van digitale manipulatie.
In juni zei Mark Zuckerberg dat Facebook moeite heeft om deepfake-video’s te bestrijden omdat het om een “totaal nieuwe categorie van desinformatie” betreft.
