Offlimits, een organisatie die online kindermisbruik bestrijdt, telde vorig jaar 2.200 door AI gemaakte misbruikbeelden. De beelden doken wereldwijd op fora, chatapps en beeldplatforms. De snelle groei van generatieve systemen maakt het eenvoudiger om zulke beelden te maken en te verspreiden. Dit voedt in Europa het debat over de AI-verordening en de AVG, en over hoe platforms en overheden moeten ingrijpen.
AI maakt misbruik eenvoudiger
Generatieve kunstmatige intelligentie maakt in korte tijd realistische beelden. Met tekst-naar-beeldsystemen en zogenoemde deepfake-tools kunnen daders beelden van minderjarigen namaken of gewone foto’s verdraaien. De drempel is laag, omdat de software vaak gratis of goedkoop is. Dit vergroot het risico op meer en sneller gedeeld misbruikmateriaal.
Een algoritme is in dit verband een stapel rekenregels die patronen leert uit voorbeelden. Wie zulke modellen finetunet op ongepaste data, kan gericht misbruikachtig beeld laten maken. Ook bestaan er “nudify”-apps die kleding digitaal verwijderen. Die technieken versterken elkaar en vragen weinig technische kennis.
De distributie verschuift naar besloten kanalen. Kleinere platforms en bestandsdiensten hanteren soms minder strenge controles. Daardoor glipt nieuw materiaal langs bekende filters en hash-databases. Het resultaat: detectie loopt achter op de productie.
Offlimits rapporteerde op het moment van schrijven 2.200 AI-gegenereerde beelden van kindermisbruik over het jaar 2023.
Wetgeving drijft in Europa mee
In de Europese Unie geldt de AVG voor alle verwerkingen van persoonsgegevens. Dat betekent dat platforms dataminimalisatie, beveiliging en transparantie moeten toepassen bij moderatie en detectie. Tegelijk verplicht de Digital Services Act grote platforms om sneller illegale inhoud te verwijderen en risico’s te beperken. AI-gegenereerd misbruikmateriaal valt daar ook onder.
De Europese AI-verordening treedt gefaseerd in werking en stelt eisen aan aanbieders van algemene AI-systemen. Er komen plichten rond risicobeperking, documentatie en, bij deepfakes, heldere labeling. Dit kan misbruik lastiger maken, bijvoorbeeld via watermerken of zichtbare waarschuwingen. De precieze uitwerking volgt per categorie en termijn.
Op nationaal niveau verbiedt het Nederlandse Wetboek van Strafrecht (artikel 240b) ook realistische, synthetische beelden van schijnbaar minderjarigen. Het bezit en verspreiden daarvan is strafbaar, ook als er geen echt kind is gebruikt. Dat geeft politie en OM handvatten om op te treden tegen AI-versies van kinderpornografie. Internationale samenwerking via Europol blijft wel nodig voor hosting buiten de EU.
Platforms missen nog sluitende handhaving
Bestaande hash-technieken, zoals PhotoDNA, werken goed voor bekende, eerder geïdentificeerde beelden. Maar geheel synthetische beelden zijn nieuw en hebben geen bestaande “vingerafdruk”. Daardoor schiet automatische blokkade tekort. Daders passen ook kleine variaties toe om detectie te ontwijken.
Grotere platforms hebben AI-filters en moderatieteams, maar de schaal is een probleem. Dagelijks verschijnen miljoenen nieuwe posts, afbeeldingen en bestanden. Kleine diensten hebben vaak geen gespecialiseerde teams of tooling. Dat maakt uitwijk naar nicheplatforms aantrekkelijk voor verspreiders.
Snelle meldkanalen en samenwerking met hotlines zijn cruciaal. In Nederland coördineert Offlimits meldingen en verwijderverzoeken richting platforms en hosting. Toch kost cross-border verwijdering tijd, zeker buiten de EU. Ondertussen kan materiaal zich razendsnel verspreiden via kopieën en mirrors.
Detectie en preventie verbeteren
Combinaties van technieken werken het best. Perceptuele hashing vangt bekende beelden, terwijl classificatiemodellen nieuwe varianten kunnen markeren. Watermerken en herkomstdata (C2PA) helpen bij herleidbaarheid, mits breed ingevoerd. Transparante rapportages geven inzicht in wat wel en niet werkt.
Modelmakers kunnen misbruik beperken met strengere dataset-schoonmaak en ingebouwde veiligheidsfilters. Ze kunnen prompts blokkeren die expliciet op minderjarigen mikken. Ook uitgifte van modellen met beperktere rechten en betere auditlogboeken helpt. Dit sluit aan bij de komende plichten uit de AI-verordening.
Voor platforms geldt: schaalbare moderatie, escalatie naar specialisten en samenwerking met hotlines. Privacy-by-design is nodig om te voldoen aan de AVG, zoals dataminimalisatie en versleuteling. Menselijke controle blijft belangrijk bij twijfelgevallen. Zo wordt overblokkering en schade voor onschuldige gebruikers voorkomen.
Gevolgen voor Nederland en EU-beleid
Voor Nederlandse scholen, gemeenten en zorginstellingen betekent dit scherpere inkoop van digitale diensten. Vraag om duidelijke moderatieprotocollen, AVG-conforme verwerking en snelle meldkanalen. Leg in beleid vast hoe AI-content wordt herkend en gemeld. Dat vermindert risico’s bij eigen communicatiekanalen en leeromgevingen.
De overheid kan toezicht en handhaving richten op aanbieders van generatieve systemen en hosting. Publieke instellingen vallen onder de DSA als zij platformfuncties bieden, met plichten rond risicoanalyses. De Europese AI-verordening gevolgen overheid zijn concreet: inventariseer gebruikte AI, beoordeel risico’s en borg transparantie. Training van inkopers en juristen is een praktische eerste stap.
Voor burgers blijft melden de snelste route. In Nederland kunnen jongeren en ouders terecht bij de hulplijn van Offlimits, naast het meldpunt en de preventielijn van dezelfde organisatie. Bewaar geen kopieën en deel het beeld niet verder. Noteer links en context en dien een melding in.
Rol van Offlimits en samenwerking
Offlimits brengt signalen en trends rond AI-gegenereerd misbruik in kaart. De organisatie deelt bevindingen met hotlines, platforms en, waar mogelijk, opsporing. Zulke gespecialiseerde meldpunten vullen het werk van politie en toezichthouders aan. Ze geven ook input aan beleidsmakers over gaten in de handhaving.
Meer datadeling kan zonder onnodige persoonsgegevens, met gehashte indicatoren en technische patronen. Dat past bij de AVG en maakt internationale samenwerking haalbaar. Europese fondsen en projecten kunnen standaardisatie versnellen. Denk aan gezamenlijke testsets en evaluaties voor detectietools.
Het probleem is hardnekkig, maar niet ongrijpbaar. Met betere tooling, duidelijke regels en snelle verwijdering daalt de zichtbaarheid. Gerichte preventie en educatie verkleinen de aanvoer van nieuw materiaal. Zo sluiten technologie, recht en praktijk beter op elkaar aan.