In Nederland waarschuwen securityonderzoekers dat kunstmatige intelligentie steeds vaker wordt ingezet om te hacken. Criminelen en ethische hackers gebruiken modellen zoals GPT-4 en Llama 3 om phishing, code en kwetsbaarheidsscans te versnellen. Op 29 augustus kwam dit opnieuw in beeld door recente incidenten en demonstraties. De reden: de drempel om aanvallen uit te voeren is lager en het tempo ligt hoger, ook in het Nederlands.
AI versnelt hackaanvallen
Generatieve systemen zoals OpenAI’s GPT-4 en Meta’s Llama 3 schrijven foutloze e-mails, scripts en documentatie. Dat maakt spearphishing in het Nederlands geloofwaardiger dan voorheen. Op criminele fora doken varianten op, zoals de zogenoemde WormGPT, gericht op frauduleuze teksten en social engineering. Grote aanbieders beperken misbruik, maar open modellen en eigen hosting omzeilen filters.
AI helpt ook bij het lokaliseren van fouten in software en configuraties. Code-modellen zoals Code Llama en GitHub Copilot (Microsoft) suggereren werkende voorbeelden, inclusief kwetsbare patronen die aanvallers kunnen misbruiken. In combinatie met zoek- en scantools kunnen aanvallers sneller een eerste toegang vinden. De stap van uitleg naar bruikbare proof-of-concept-code wordt korter.
Daarnaast stemmen spraak- en beeldalgoritmen fraudepogingen af op hun doelwit. Voice cloning maakt “vishing” geloofwaardiger, bijvoorbeeld met een nagemaakte stem van een leidinggevende. Deepfake-video’s verhogen de druk in BEC-fraude (Business Email Compromise). Dit vergroot de kans dat medewerkers veiligheidsprocedures overslaan.
Autonome agents nog beperkt
LLM-agents, software die plannen maakt en tools aanstuurt, beloven zelfstandige penetratietests. Frameworks als AutoGPT, LangChain Agents en Microsoft AutoGen worden hiervoor getest. In labs voeren agents verkenning, foutanalyse en exploit-pogingen na elkaar uit. Toch blijkt volledige autonomie in de praktijk nog wisselvallig.
De modellen verzinnen soms feiten of produceren onveilige code. Zonder menselijk toezicht mislukt uitbuiting vaak of raakt een agent verstrikt in een foutlus. Waar agents wel scoren, is het versnellen van routinewerk, zoals logsamenvattingen en het groeperen van kwetsbaarheden. Ethische hackers gebruiken de systemen daarom vooral als assistent, niet als vervanger.
Prompt-injectie is het misleiden van een AI-systeem met verborgen instructies in teksten of websites, zodat het acties uitvoert die de gebruiker of beheerder niet bedoelde.
Tegelijk zijn de modellen zelf aanvalsoppervlak. Kwaadwillenden kunnen via prompt-injectie of gemanipuleerde documenten gevoelige data laten “ontlokken”. Organisaties die LLM’s verbinden met interne systemen moeten daarom strikte sandboxing toepassen. Input filtering, toestemmingsgrenzen en auditlogs zijn hierbij essentieel.
Europese regels worden strenger
De Europese AI-verordening (AI Act) legt op het moment van schrijven nieuwe plichten op aan aanbieders van generieke AI, zoals risicobeperking en transparantie. Dat raakt ook modellen die op grote schaal kunnen worden misbruikt voor cyberaanvallen. Open modellen krijgen deels lichtere regels, tenzij ze als “systemisch risico” worden aangemerkt. Voor gebruikers betekent dit meer documentatie en veiligheidsmaatregelen bij inzet.
Daarnaast geldt de NIS2-richtlijn voor essentiële en belangrijke organisaties, zoals zorg, digitale infrastructuur en toeleveranciers van de overheid. Zij moeten strengere risicobeheersing toepassen en incidenten snel melden. Dit dekt ook door AI versnelde aanvallen, zoals geavanceerde phishing of geautomatiseerde uitbuiting. Nationale implementatie in Nederland brengt extra toezicht en sancties mee.
De Cyber Resilience Act verplicht fabrikanten van “producten met digitale elementen” tot veilig ontwerp, kwetsbaarheidsbeheer en updates. Dat verkleint de impact van AI-gedreven aanvallen op veelgebruikte software en apparaten. Voor overheden en bedrijven sluit dit aan bij patchbeleid en supply-chainbeveiliging. Minder bekende maar kritieke software in de keten krijgt hiermee meer aandacht.
Let op de AVG bij defensieve AI-toepassingen. Het scannen van e-mail of logbestanden kan persoonsgegevens bevatten. Dataminimalisatie, versleuteling en een DPIA (gegevensbeschermingseffectbeoordeling) zijn dan vereist. Zo blijft naleving op orde terwijl de weerbaarheid stijgt.
Nederlandse organisaties moeten versnellen
Basishygiëne blijft doorslaggevend tegen AI-versnelde aanvallen. Implementeer DMARC, SPF en DKIM en schakel multi-factorauthenticatie overal in. Beperk beheerdersrechten en patch sneller, vooral internetgerichte systemen en bekende CVE’s. Deze maatregelen snijden door veel geautomatiseerde aanvalspaden heen.
Combineer menselijke expertise met AI-assistenten in securityteams. Gebruik modellen om logs samen te vatten, code te reviewen en runbooks te genereren, maar keur resultaten altijd handmatig goed. Train medewerkers met realistische, AI-gegenereerde phishing-simulaties. Zo sluit het bewustzijn aan bij de kwaliteit van moderne aanvallen.
Raadpleeg richtlijnen van het Nationaal Cyber Security Centrum (NCSC) en sectorale ISAC’s. Stel duidelijke beleidseisen op voor LLM-gebruik, inclusief sandboxing en toegangsbeperkingen. Log modelinteracties die systeemacties kunnen triggeren, met oog voor AVG-regels. Maak incidentresponsplannen expliciet “AI-proof”.
Detectie blijft achilleshiel
Betrouwbare herkenning van AI-gegenereerde tekst of audio is op dit moment lastig. Watermerken werken niet voor open modellen en verdwijnen bij bewerking. Initiatieven als C2PA kunnen de herkomst van media vastleggen, maar aanvallers strippen metadata eenvoudig. Vertrouwen op alleen detectietools is daarom riskant.
Informatie-uitwisseling over AI-gedreven aanvallen staat nog in de kinderschoenen. Gestandaardiseerde labels in incidentmeldingen helpen SOC’s en CERT’s trends te herkennen. ENISA en NCSC-NL kunnen hierbij coördineren, bijvoorbeeld via gezamenlijke dreigingsrapportages. Meer gedeelde datasets verbeteren ook defensieve AI-modellen.
Tot slot verschillen misbruikbeperkingen tussen aanbieders en modellen. Grote platforms voegen veiligheidsgates toe, maar open of zelfgehoste modellen kennen die zelden. Beleidsmatig ligt de nadruk in Europa op weerbaarheid, zorgplichten en opsporing, niet op algemene verboden. Voor organisaties is de kern: bouw tegenkracht in, want de aanvaller automatiseert mee.