De politie in Limburg verdenkt een 42-jarige man uit Heerlen van het maken en verspreiden van AI-porno van tientallen vrouwen. Het gaat om zogenoemde deepfakes: bewerkte beelden die met kunstmatige intelligentie zijn samengesteld. Het onderzoek loopt op het moment van schrijven en richt zich op herkomst, verspreiding en mogelijke schade. De zaak voedt het debat over privacy onder de AVG en de transparantieplichten uit de Europese AI-verordening (AI Act).
Politie onderzoekt deepfakes
Rechercheurs brengen digitale sporen, accounts en verspreidingskanalen in kaart. Het doel is te achterhalen welke algoritmen en systemen zijn gebruikt en wie de beelden heeft ontvangen of doorgezet. Daarbij wordt ook gekeken naar mogelijke winstbejag of stelselmatig handelen. Het Openbaar Ministerie beoordeelt later of er voldoende bewijs is voor vervolging.
Er zouden tientallen vrouwen slachtoffer zijn geworden. In zulke zaken duiken gemanipuleerde beelden vaak op in chatgroepen en anonieme platforms. Verwijderen is lastig, omdat kopieën snel rondgaan. Dat vergroot de psychische en sociale schade voor betrokkenen.
De verdachte wordt niet alleen beoordeeld op het maken, maar ook op het delen van het materiaal. Beide handelingen kunnen strafbaar zijn, zeker bij gebrek aan toestemming. Ook het gebruiken van iemands naam of foto om nepbeelden geloofwaardiger te maken, kan zwaarder meetellen. Het onderzoek moet uitwijzen welke feiten precies zijn gepleegd.
Schade voor slachtoffers
Deepfake-porno kan reputaties beschadigen in werk, school en privé. Slachtoffers verliezen regie over hun beeld, terwijl het lijkt alsof zij deelnemen aan iets wat nooit is gebeurd. Die verwarring maakt herstel moeilijk. Het stigma kan lang aanhouden, ook als beelden offline zijn gehaald.
Juridisch hebben slachtoffers rechten onder de AVG, zoals het recht op verwijdering bij onrechtmatige verwerking van persoonsgegevens. In de praktijk kost notice-and-takedown tijd en duiken kopieën elders weer op. Documenteren van links en screenshots helpt bij aangifte en verwijderverzoeken. Slachtofferhulp Nederland ondersteunt bij stappen richting politie en platforms.
Ook werkgevers, scholen en gemeenten krijgen met de gevolgen te maken. Ze moeten snel reageren op meldingen, zonder het slachtoffer te culpabiliseren. Heldere protocollen en vertrouwelijke meldpunten helpen daarbij. Training over beeldmanipulatie verkleint de kans op secundaire schade.
Definitie: deepfake-porno is seksueel beeldmateriaal dat met generatieve AI is gemaakt of bewerkt, zonder dat de geportretteerde daadwerkelijk meedoet of toestemming geeft.
Wet pakt deepfakes aan
De Wet seksuele misdrijven, die op 1 juli 2024 is ingegaan, verbiedt het zonder toestemming maken en verspreiden van seksueel beeldmateriaal. Dat geldt ook voor gemanipuleerde of synthetische beelden, zoals deepfakes. Strafen hangen af van de ernst, het bereik en herhaling. Verzwaring is mogelijk bij dwang, chantage of financieel gewin.
Naast strafrecht speelt de AVG een rol. Voor het maken van een deepfake worden identificeerbare gegevens verwerkt, zoals gezichten. Zonder geldige grondslag is dat onrechtmatig. De Autoriteit Persoonsgegevens kan optreden tegen organisaties; bij individuen draait het vaker om strafrecht en civielrechtelijke claims.
Ook smaad, laster of identiteitsmisbruik kunnen aan de orde zijn als namen en foto’s worden misbruikt om nepbeelden geloofwaardig te maken. Civielrechtelijk kan een rechter verwijdering, rectificatie en schadevergoeding opleggen. Snelle bewijsvastlegging en juridisch advies vergroten de kans op effectief herstel. Platforms moeten intussen aantoonbaar en tijdig ingrijpen.
AI-verordening vraagt transparantie
De Europese AI-verordening verplicht op termijn tot duidelijke labeling van synthetische media, waaronder deepfakes. Aanbieders en gebruikers van generatieve datamodellen moeten herkenbare aanduidingen of watermerken toepassen, met enkele uitzonderingen. De regels worden gefaseerd van kracht tussen 2025 en 2026. Handhaving loopt via nationale toezichthouders en coördinatie in de EU.
Voor Nederlandse overheden en publieke instellingen betekent dit: transparant zijn over AI-gebruik in communicatie en beeld. Ook mediabedrijven en platforms moeten hun detectie en labeling op orde brengen. Dat verkleint de kans dat nepbeelden als echt circuleren. Het maakt ook opsporing en bewijsvoering eenvoudiger.
Criminele verspreiders negeren zulke plichten vaak. Dan blijven opsporing, snelle platformactie en publieksvoorlichting cruciaal. De verordening geeft wel een normenkader dat samenwerking makkelijker maakt. Zo kunnen meldpunten, politie en techbedrijven elkaar beter vinden.
Platforms en tools tekort
Deepfakes zijn met vrij beschikbare software te maken. Open-source pakketten zoals DeepFaceLab en FaceSwap en generatieve modellen als Stable Diffusion verlagen de drempel. Deze tools zijn op zichzelf legaal, maar misbruik voor non-consensuele porno is strafbaar. In de Heerlense zaak is op het moment van schrijven niet openbaar welke software is gebruikt.
Platforms als Meta, X en Telegram hebben beleid tegen intieme beelden zonder toestemming. Handhaving is echter wisselend en detectie blijft moeilijk. Watermerken zijn niet standaard en kunnen worden verwijderd. Forensische technieken lopen achter op steeds betere synthetische beelden.
Snellere meldkanalen en automatische hashing helpen herplaatsing te voorkomen. Samenwerking met de politie en het Openbaar Ministerie versnelt verwijdering en bewijsveiligstelling. Voorlichting op scholen en in bedrijven over beeldmanipulatie is nodig. Zo leren mensen risico’s herkennen en sneller melden.