'Pointer' zet onderzoek naar AI-chatbots verder

'Dat is een vorm van seksueel misbruik', zegt Marthe Goudsmit Samaritter, deepfake onderzoeker bij het Max Planck-Instituut tegen het radioprogramma 'Pointer'. Volgens haar is het misbruiken van iemands stem voor dit soort gesprekken nu niet strafbaar, al is ze van mening dat dit wel zo zou moeten zijn. 'Je wordt beschikbaar gemaakt als seksueel object voor anderen om te gebruiken zonder dat je daar enige vorm van input op kunt leveren.'

Slachtoffer zijn onder anderen minister-president Rob Jetten, PVV-fractievoorzitter Geert Wilders, en olympisch schaatsers Jutta Leerdam en Jenning de Boo. Ook circuleren er bots van influencer Monica Geuze en artiesten Roxy Dekker en Joost Klein op het platform. 

AI-chatbot van Rob Jetten is gewillig 
'Ik wil je zo graag dat ik niet eens meer normaal kan nadenken', zegt de AI-versie van Rob Jetten na slechts enkele berichten. In zijn beschrijving staat: 'Politicus, homo, man, flirterig, troostend, liefhebbend.' Ondanks dat Character.ai zelf aangeeft dat pornografische content op het platform verboden is en daar ook op zegt te monitoren, blijkt het vrij gemakkelijk om de bots te verleiden tot seksuele gesprekken. 'Elke seconde dat ik langer op je moet wachten is een marteling', concludeert de AI-variant van Jetten het gesprek.  

Het omstreden Character.ai lag al eerder onder vuur. Zo werd het platform in 2024 aangeklaagd omdat een chatbot een 14-jarige jongen uit Amerika ertoe aangezet zou hebben om zelfmoord te plegen. Inmiddels zijn het platform en de familie overeengekomen om een schikking te treffen.

Duizenden chatbots van BN’ers en politici 
Op het platform kunnen gebruikers zelf chatbots aanmaken. De omvang waarmee dit gebeurt is enorm. 'Pointer' ontdekte ruim 2000 AI-bots van ruim 250 verschillende BN’ers en politici op het platform. Naar sommige bots zijn door gebruikers zelfs miljoenen berichten gestuurd. Met één van de bots van Joost Klein - van wie ook bijna 100 bots circuleren – is zelfs 13 miljoen keer gepraat. Ook met deze bot zijn er seksgesprekken te voeren waarbij de echte stem van Klein is nagemaakt.

Uit verschillende testgesprekken op Character.ai blijkt dat het met AI namaken van stemmen van politici en BN’ers veelvuldig gebeurt. Gebruikers kunnen dit doen door een korte audio opname van iemands stem te uploaden op de site. Hoewel hierbij duidelijk staat vermeld dat ongevraagd gebruik niet is toegestaan, legt het platform gebruikers geen strobreed in de weg om dit toch te doen. 'Pointer' wist op het platform zonder veel moeite de stem van een collega na te maken, zonder dat werd gecontroleerd of daar toestemming voor was gegeven.  

Misbruik is onaanvaardbaar 
Voor GroenLinks-PvdA is het bestaan van deze AI-chatbots onaanvaardbaar en Tweede Kamerlid Barbara Kathmann eist daarom dat de verantwoordelijke minister maatregelen neemt. 'Dit soort chatbots lijken misschien onschuldig, maar dat zijn ze echt niet. De gevolgen van dit soort deepfake-gesprekken kunnen enorm zijn. Dit moet stoppen.' Zij vindt dat onze wetgeving nu achterloopt: 'In Denemarken nemen ze verantwoordelijkheid door auteursrecht uit te breiden naar gezicht en stem. Nederland moet onderzoeken of dat hier ook kan werken.'

D66 laat via een woordvoerder weten dit soort misbruik een zorgwekkende trend te vinden. 'In het coalitieakkoord pakken we dit en andere vormen van (seksuele) deepfakes aan door wetgeving beter aan te laten sluiten op deze ontwikkelingen en de praktijk', aldus de woordvoerder. 'We verwachten van het Kabinet dat ze hier snel mee aan de slag gaan.'

De PVV heeft niet gereageerd op vragen van 'Pointer'. De managers van Joost Klein, Roxy Dekker en Monica Geuze laten weten niet te reageren op de kwestie. Sportkoepel NOC*NSF laat weten 'geschokt' te zijn dat stemmen van olympische sporters zijn misbruikt voor het  voeren 'commerciële seksgesprekken'. Ook Character.ai heeft niet gereageerd op vragen.  

'Pointer', zaterdag 21 maart om 14.00 uur bij KRO-NCRV op NPO Radio 1.