Een online maker heeft gewelddadige AI-video’s over D66-leider Rob Jetten verspreid. De filmpjes doken de afgelopen weken op op X en Telegram en werden snel gedeeld in Nederland. Ze tonen gemanipuleerde scènes die Jetten in gevaar brengen of vernederen. Het doel lijkt politieke intimidatie en polarisatie, midden in het publieke debat over kunstmatige intelligentie.
Deepfakes raken politiek debat
De video’s zijn zogeheten deepfakes: beelden die met algoritmen worden aangepast om iemand iets te laten doen of zeggen wat niet is gebeurd. Het gaat hier om tekst-naar-video en gezichtsvervanging, technieken die voor leken moeilijk te ontmaskeren zijn. Daardoor kunnen kijkers misleid worden, zeker als fragmenten los worden gedeeld zonder context. Het risico op reputatieschade en angst is groot, ook als de maker stelt dat het ‘satire’ is.
De doelgroep is zichtbaar Nederlands: taalgebruik, hashtags en verspreiding via kanalen die vaak aan binnenlands politiek nieuws zijn gekoppeld. Daardoor is de impact direct voelbaar voor politici en kiezers. Intimidatie via synthetische media kan het publieke debat afschrikken. Dat raakt de kwaliteit van de democratie en de veiligheid van volksvertegenwoordigers.
De timing vergroot de gevoeligheid. In aanloop naar politieke momenten en campagnes circuleren desinformatie en manipulatieve beelden sneller. AI-tools verlagen de drempel om zulke content te maken, te variëren en te herpubliceren. Dit maakt ingrijpen door platforms en overheden urgenter.
“Een deepfake is media die met AI is bewerkt om iemand iets te laten doen of zeggen wat hij niet deed.”
Maker werkt anoniem
De verspreider gebruikt online aliassen en wisselende accounts. Dat bemoeilijkt identificatie en handhaving, zeker als berichten via versleutelde kanalen of buitenlandse hosting lopen. Het opschalen van herpublicaties door volgers creëert een hydra-effect: verwijderen van één post stopt de stroom niet. Zo ontstaat een netwerk dat gericht is op bereik, niet op bronvermelding.
De video’s lijken te zijn gemaakt met gangbare generatieve systemen. Denk aan tekst-naar-video-diensten als Runway (Gen-2/Gen-3), Pika of Luma Dream Machine, aangevuld met face-swapsoftware en stemklonen zoals ElevenLabs. De exacte tool is niet bevestigd, maar de stijl en artefacten passen bij deze modellen. Zulke tools vragen geen specialistische kennis meer en zijn deels gratis.
De maker presenteert de beelden als “satire” of “politiek commentaar”, een bekende strategie om moderatie te ontwijken. Juridisch maakt dat verschil, maar niet altijd: context, bedoeling en effect wegen mee. Bij dreigende of opruiende inhoud kan strafrecht alsnog gelden. Ook platforms hanteren vaak strengere communityregels dan de wet.
Platforms blijven achter
Grote sociale media zoals X, TikTok en YouTube hebben beleid voor synthetische media. Dat varieert van labels en waarschuwingen tot verwijdering bij misleiding of schade. In praktijk blijft handhaving traag en inconsistent, mede door taal- en contextverschillen in Nederland. Daardoor kunnen schadelijke deepfakes uren tot dagen online blijven en viraal gaan.
De Europese Digital Services Act (DSA) verplicht zeer grote platforms om systemische risico’s, zoals deepfakes en desinformatie, actief te beperken. Dat vraagt betere detectie, transparantie over aanbevelingssystemen en sneller ingrijpen bij meldingen. Nederlandse toezichthouders kunnen bij structurele tekortkomingen ingrijpen via de Europese coördinatie. Voor slachtoffers is het belangrijk om via notice-and-action te melden en bewijsmateriaal veilig te stellen.
Technisch groeit het arsenaal. Detectietools zoeken naar compressiepatronen en inconsistenties in licht en schaduw. Maar nieuwe generatieve modellen minimaliseren die sporen. Zonder betrouwbare herkomstlabels blijft moderatie grotendeels reactief. Dat maakt preventie, zoals watermerken en content credentials, cruciaal.
Wet biedt deels houvast
Het Nederlandse strafrecht verbiedt bedreiging, opruiing en smaad; dat geldt ook voor synthetische media. Bij seksueel getinte deepfakes geldt sinds 2024 een expliciet verbod, maar gewelddadige of intimiderende varianten vallen onder bestaande delicten. Slachtoffers kunnen aangifte doen, civielrechtelijk stappen zetten en verwijdering eisen. Portretrecht en onrechtmatige daad bieden extra routes.
De AVG speelt mee omdat iemands gezicht en stem persoonsgegevens zijn. Verwerking vereist een grondslag en moet noodzakelijk en proportioneel zijn. Voor ‘satire’ of ‘journalistiek’ bestaat ruimte, maar misleiding of schade weegt zwaar tegen. Overtredingen kunnen leiden tot klachten bij de Autoriteit Persoonsgegevens en civiele claims.
De Europese AI-verordening (AI Act) introduceert een transparantieplicht voor deepfakes: makers en verspreiders moeten duidelijk aangeven dat content door AI is gegenereerd. Overheden en mediaorganisaties moeten processen inrichten om hieraan te voldoen. Voor burgers betekent dit meer herkenbaarheid, maar naleving buiten de EU blijft een uitdaging. Handhaving zal daarom samen moeten gaan met platformbeleid en voorlichting.
Techniek maakt misbruik makkelijk
Moderne modellen voor beeld en video genereren in minuten overtuigende scènes. Gebruikers voeren korte tekstprompts in en kiezen stijlen, waarna systemen zoals Runway, Pika of Luma een clip produceren. Met extra tools voor lip-sync en voice cloning ontstaat snel een “authentiek” ogende montage. Het resultaat oogt professioneel, zonder studio of budget.
Watermerken en herkomstlabels zijn in opkomst. Het C2PA-initiatief van onder meer Adobe en Microsoft voegt cryptografische herkomstdata toe aan bestanden. Als platforms dat standaard tonen, kunnen kijkers herkomst controleren. Maar stripping of hercompressie kan de sporen nog verwijderen.
Overheid en sector werken aan praktische richtlijnen. Denk aan het publiceren van content credentials bij politieke campagnes en aan heldere instapprotocollen voor voorlichters. Ook lokale overheden en onderwijsinstellingen hebben hier voordeel van, juist richting verkiezingen en crises. Training in beeldgeletterdheid hoort daarbij.
Wat nu wél helpt
Voor politici en instellingen: leg een snelle meldlijn vast met platforms en maak een draaiboek voor deepfakes. Archiveer posts, dien meldingen in onder DSA-procedures en publiceer snelle correcties met context. Overweeg een eigen mediapagina met geauthenticeerde beelden en C2PA-tags. Zo verklein je twijfel en versnelt moderatie.
Voor burgers: let op onlogische schaduwen, vreemde lipbewegingen en vervormingen rond handen en tanden. Controleer of media een herkomstlabel tonen en zoek naar originele bronnen. Deel geen twijfelachtige content; meld deze bij het platform. Kritisch kijken is een effectieve eerste verdedigingslijn.
Voor wetgevers en toezichthouders: versnel uitwerking van de AI-verordening richting handhaafbare richtsnoeren, inclusief de transparantieplicht voor deepfakes. Stimuleer C2PA-adoptie in publieke communicatie en verkiezingscampagnes. En zorg dat politie en OM voldoende kennis en capaciteit hebben voor opsporing bij grensoverschrijdende hosting. Zo wordt de drempel voor misbruik hoger en de bescherming van het debat sterker.