'Pointer Checkt' over ruim 40 BN'ers en artsen die slachtoffer zijn van deepfake-video's

Het gaat hierbij onder andere om het product shilajit van het merk Welness Nest, waarachter een netwerk van Vietnamese ondernemers schuilgaat. Artsenfederatie KNMG laat weten 'zich grote zorgen te maken over het toenemende misbruik van deepfakes voor misleidende gezondheidclaims'.

In de deepfakevideo’s worden echte beelden gebruikt van artsen en bekende Nederlanders, zoals ex-presentator Arie Boomsma, influencer Monica Geuze of neuropsycholoog Erik Scherder. Door een met AI nagebootste stem lijkt het alsof zij reclame maken voor de supplementen van Wellness Nest, die bijvoorbeeld zouden helpen tegen vermoeidheid of overgangsklachten. Maar voor de geneeskrachtige werking ervan ontbreekt wetenschappelijk bewijs. 

Hoewel de sprekers in de video’s soms nog wat robotisch praten en de mondbewegingen niet altijd matchen met de uitspraken, werkt de methode wel. Onder de video’s staan veel reacties van mensen die vragen waar ze het supplement kunnen kopen. Ook laten artsen Erik Scherder en Diederik Gommers aan 'Pointer Checkt' weten dat ze regelmatig e-mails ontvangen van mensen die vragen of ze de producten moeten kopen die zij online 'aanprijzen'. 

De artsenfederatie KNMG maakt zich grote zorgen over het toenemend misbruik van medische deepfakes, waarin de gezichten en stemmen van artsen zonder hun toestemming worden gebruikt voor misleidende gezondheidsclaims. Dat is volgens KNMG schadelijk voor de beroepsgroep en misleidend voor het publiek: 'Bovendien kan de verspreiding van deze misleidende content leiden tot verkeerde gezondheidsbeslissingen bij burgers en zo een risico vormen voor de volksgezondheid.'

Uit handelsregisters in Colorado (Verenigde Staten) en in Vietnam, en uit openbare bedrijfsinformatie die wordt gedeeld op Facebook, blijkt dat Wellness Nest wordt gerund door een groep Vietnamese e-commerce ondernemers van het bedrijf Pati Group. De Vietnamese ondernemers runnen voor het merk ook een zogeheten affiliateprogramma: ze sporen anderen aan om handelspartner (affiliate) te worden en tegen een commissie via TikTok zelf supplementen te verkopen. Dit zijn niet enkel deepfakes, soms worden ook fictieve artsen of influencers met AI gegenereerd, of medische stockbeelden gebruikt. 

De medewerkers van Pati Group delen online screenshots van geldbedragen die affiliattes zouden verdienen met de verkoop van hun product, zoals PayPal-bijschrijvingen die variëren van 1700 tot 66.000 Amerikaanse dollar en wedstrijden voor affiliattes waar winnaars meer dan 100.000 Amerikaanse dollar in een maand verdienen. 'Pointer Checkt' kan niet verifiëren of deze bedragen echt worden verdiend.

Na vele contactpogingen ontkent een medewerker van Wellness Nest de aantijgingen. Op herhaaldelijke verzoeken om een schriftelijke reactie wordt verder niet gereageerd.  

Gedupeerden van de deepfakes, zoals Arie Boomsma en mindfullness-spreker Michael Pilarczyk, hebben TikTok verzocht om de accounts van Wellness Nest te verwijderen. Pilarczyk schakelde hiervoor zelfs een advocaat in. Toch verwijderde TikTok de video’s pas nadat 'Pointer Checkt' contact opnam. In een schriftelijke reactie laat het platform weten: 'Ondanks onze uitgebreide moderatieprocessen kunnen we niet garanderen dat alle inhoud voldoet aan onze richtlijnen.' Op de vraag waarom de accounts twee maanden lang online konden staan, komt geen duidelijk antwoord.  

'Pointer Checkt', vanaf zondag 23 november om 16.00 uur op het YouTube-kanaal van NPO 3 (en NPO3.nl).