De Autoriteit Persoonsgegevens (AP) waarschuwt dat kunstmatige intelligentie de gevaren van cyberaanvallen vergroot. De toezichthouder ziet dat algoritmen aanvallen makkelijker, sneller en persoonlijker maken. Dat raakt bedrijven, overheden en burgers in Nederland en de Europese Unie. De waarschuwing is relevant nu de Europese AI-verordening en strengere cybersecurityregels (NIS2) concrete gevolgen hebben voor de overheid en vitale sectoren.
AP waarschuwt voor sneller misbruik
De AP signaleert dat generatieve systemen het startpunt van een aanval versimpelen. Met een paar opdrachten, zogeheten prompts, maken criminelen overtuigende e-mails of nepwebsites. Ook het verzamelen van publiek beschikbare informatie over een doelwit gaat sneller. Daardoor kost het minder tijd en kennis om een aanval te starten.
Publiek toegankelijke chatbots zoals GPT-4o (OpenAI) en Gemini (Google), en open modellen zoals Llama 3 (Meta), verlagen de drempel voor misbruik. De diensten zijn gebruiksvriendelijk en leveren foutloze of verbeterde teksten in veel talen. Dat maakt social engineering, het manipuleren van mensen, effectiever. Het risico op identiteitsfraude en datadiefstal stijgt daardoor.
De impact is niet alleen individueel, maar ook systemisch. Aanvallers kunnen met automatisering schaalvoordeel halen: één script kan duizenden persoonlijke berichten uitsturen. Door betere personalisatie stijgt het klikpercentage en dus de kans op inbraak. Hierdoor nemen ook meldingen van datalekken en gijzelsoftware toe.
Phishing en deepfakes versterken fraude
Phishing profiteert direct van tekst- en beeldgeneratie. Taalfouten verdwijnen en berichten sluiten beter aan bij sectorjargon of interne gewoontes. Met synthetische stemmen en beelden ontstaat geloofwaardige druk, bijvoorbeeld bij “CEO-fraude”. De grens tussen echt en nep wordt daarmee onduidelijker voor medewerkers en burgers.
Een deepfake is een door een algoritme gemanipuleerde video of stem die echt lijkt en bedoeld is om te misleiden.
Voice-cloning en videobewerking vragen geen specialistische studio’s meer. Relatief eenvoudige apps leveren in minuten een kopie van een stem op basis van korte audiofragmenten. In combinatie met gelekte agenda’s of posts op sociale media ontstaat een sterk verhaal. Dat vergroot de kans dat slachtoffers snel handelen zonder extra controle.
Voor Nederlandse organisaties is dit extra spannend rond salarisrondes, aanbestedingen en crisissituaties. Criminelen timen berichten op piekmomenten, zoals maandafsluitingen. Een interne “bevestiging” via een nagemaakte Teams- of WhatsApp-call kan een laatste twijfel wegnemen. Zonder een vier-ogen-principe en out-of-band verificatie is de schade dan snel groot.
AI versnelt kwetsbaarheid in software
Algoritmen helpen ook bij het zoeken naar zwakke plekken in code en configuraties. Code-assistenten zoals GitHub Copilot (Microsoft) en Code Llama genereren werkende proof-of-concepts voor bekende lekken. Dat versnelt zowel defensie als offensie, maar criminelen profiteren van het tempo. Zero-days verspreiden zich daardoor sneller door toeleveringsketens.
Open modellen kunnen bovendien offline draaien, wat detectie bemoeilijkt. Aanvallers combineren modeluitvoer met geautomatiseerde scans en botnets. Zo ontstaan continue aanvalspogingen met variërende patronen. Klassieke filters en handmatige reviews houden dit tempo vaak niet bij.
Datamodellen kunnen daarnaast gevoelige informatie “lekken” die onbedoeld in trainingsdata zat. Onzorgvuldig prompten met persoonsgegevens vergroot dit risico. Zonder duidelijke afspraken over logging, retentie en afscherming, verdwijnt zicht op waar gegevens heen gaan. Dit raakt direct aan de beveiligingsplicht onder de AVG.
AVG en AI-verordening vragen waarborgen
De Algemene verordening gegevensbescherming (AVG) vereist dat organisaties dataminimalisatie toepassen en passende beveiliging inrichten. Wie AI inzet voor persoonsgegevens, moet een DPIA (gegevensbeschermingseffectbeoordeling) uitvoeren. Encryptie, toegangsbeheer en strikte bewaartermijnen zijn basismaatregelen. Dit geldt ook voor het gebruik van externe AI-diensten via API’s.
De Europese AI-verordening (AI Act) komt op het moment van schrijven gefaseerd in werking. Deepfakes moeten herkenbaar zijn en duidelijk worden gelabeld. Aanbieders van general-purpose AI (GPAI), zoals OpenAI, Google, Anthropic en Meta, krijgen extra plichten rond transparantie, veiligheidsmaatregelen en evaluaties. Organisaties die zulke modellen integreren, blijven verantwoordelijk voor hun eigen naleving van de AVG en sectorregels.
Voor essentiële en belangrijke entiteiten gelden bovendien strengere zorgplichten onder NIS2. In Nederland worden die via nationale wetgeving gehandhaafd, met toezicht en sancties. Bestuurders moeten aantoonbaar risicobeheer voeren, inclusief training en incidentrespons. De AP en het Nationaal Cyber Security Centrum (NCSC) benadrukken daarbij “security by design”.
Directe stappen voor Nederlandse organisaties
Begin met een actueel dreigingsbeeld en een AI-specifieke risicoanalyse. Breng alle gebruikte modellen, plug-ins en datastromen in kaart, inclusief prompts en output. Verwijder persoonsgegevens uit prompts waar mogelijk, of gebruik een afgeschermde enterprise-omgeving. Stel duidelijke regels op voor labeling van synthetische media.
Versterk basismaatregelen: phishing-simulaties, vier-ogen-principe bij betalingen en out-of-band verificatie. Pas e-mailauthenticatie toe (SPF, DKIM, DMARC) en blokkeer bekende malafide domeinen. Gebruik endpoint-beveiliging met gedragsdetectie en segmentatie om laterale beweging te remmen. Automatiseer patchmanagement om het snelheidsvoordeel van aanvallers te verkleinen.
Leg contractueel vast hoe leveranciers omgaan met data, logging en modelverbetering. Eis dataverwerking binnen de EU of met gelijkwaardige waarborgen en laat audits toe. Documenteer beslissingen in een DPIA en herzie die bij elke grote wijziging. Train medewerkers op het herkennen van deepfakes en maak melden laagdrempelig, ook buiten kantooruren.