Steeds krachtiger AI-modellen zoals OpenAI’s GPT-4o, Google’s Gemini 1.5 en Meta’s Llama 3 veranderen dit jaar de wereld van cybersecurity. In Nederland en de rest van Europa merken bedrijven, overheden en scholen dat aanvallen sneller en goedkoper worden. Beveiligingspartijen zien dat criminelen deze systemen inzetten voor phishing, misleiding en het vinden van zwakke plekken. De druk loopt op omdat de verdediging langzamer innoveert dan de aanval.
Aanvallers lopen voor
Generatieve AI maakt foutloze phishingmails in perfect Nederlands, inclusief juiste toon en context. Modellen schrijven overtuigende tekst, maar ook code die fouten in oude software uitbuit. Daardoor kost het criminelen minder tijd en geld om veel slachtoffers tegelijk te bereiken. De drempel om te starten met cybercrime wordt zo lager.
Beeld- en stemmodellen versnellen ook fraude via neptelefoontjes en deepfakes. Met korte audiofragmenten is een stem al te klonen, wat spoofing van bestuurders of helpdesks mogelijk maakt. In combinatie met gelekte persoonsgegevens ontstaat zeer geloofwaardige oplichting. Dit raakt ook Nederlandse bedrijven met internationale ketens.
Open source-modellen zoals Llama 3 en Mistral zijn vrij te downloaden en lokaal te draaien. Dat is goed voor innovatie, maar het helpt ook aanvallers om beperkingen te verwijderen of modellen bij te sturen voor misbruik. Ondergrondse fora delen stappenplannen en aangepaste prompts. Zo groeit het arsenaal sneller dan veel organisaties kunnen bijhouden.
Verdediging met AI kent grenzen
Bedrijven zetten zelf ook AI in, bijvoorbeeld Microsoft Security Copilot, Google Chronicle met Mandiant en CrowdStrike Charlotte AI. Deze assistenten helpen analisten met zoeken, samenvatten en prioriteren. Ze verkorten de reactietijd in een Security Operations Center. Maar ze lossen fundamentele kwetsbaarheden niet op.
AI-assistenten kunnen hallucineren: ze geven soms een zeker klinkend maar onjuist antwoord. Dat is riskant in incidentrespons, waar precisie telt. Ook hebben deze systemen veel data nodig om patronen te herkennen. Zonder goede logs en sensoren blijft de meerwaarde beperkt.
Databeveiliging en governance zijn daarbij cruciaal. Onzorgvuldig gebruik van chatbots kan bedrijfsgeheimen of persoonsgegevens lekken. Organisaties kiezen daarom vaker voor enterprise-versies van modellen, met eigen versleuteling en zonder hergebruik van data voor training. Toch vraagt dit om contracten, audits en continu toezicht.
Open modellen verlagen drempel misbruik
Open modellen versnellen onderzoek en lokale innovatie in Europa. Ze helpen startups, universiteiten en mkb met betaalbare AI. Tegelijk vergroten vrij beschikbare modelgewichten het risico op aanpassing voor schadelijke doelen. Dit spanningsveld staat centraal in het Europese debat.
Bedrijven als Meta (Llama 3) en Mistral bieden krachtige modellen met soepele licenties. Ontwikkelaars kunnen deze finetunen voor specifieke taken, inclusief beveiligingstesten. Diezelfde techniek kan echter ook worden ingezet voor het bouwen en testen van malware. Zo vervaagt de grens tussen legitiem red teaming en misbruik.
Voor verdedigende partijen betekent dit dat klassieke detectie minder effectief wordt. AI-gegenereerde phishing wisselt stijl, woordkeus en timing, waardoor vaste regels weinig helpen. Detectie moet dus meer leunen op gedragsanalyse en context. Dat vraagt nieuwe tooling én vaardigheden in SOC-teams.
Europese regels sturen bij
De Europese AI-verordening (AI Act) legt transparantie- en risicobeheereisen op aan aanbieders van zogeheten general-purpose AI. Voor zeer capabele modellen met “systemisch risico” gelden extra plichten, zoals grondige beveiligingstesten en incidentmelding. Dit raakt grote spelers als OpenAI, Google, Anthropic en mogelijk ook open ontwikkelaars. Voor organisaties is dit relevant bij inkoop en due diligence.
Daarnaast breidt NIS2 de zorgplicht voor cybersecurity uit naar meer sectoren, inclusief veel mkb-toeleveranciers. Lidstaten moeten NIS2 uiterlijk in oktober 2024 omzetten; handhaving loopt daarna per land op, op het moment van schrijven ook in Nederland. Bedrijven moeten risicoanalyses, monitoring en responsprocessen aantoonbaar op orde hebben. AI-gedreven dreigingen worden expliciet meegewogen.
De AVG blijft intussen leidend bij verwerking van persoonsgegevens in AI-workflows. Dataminimalisatie, versleuteling en duidelijke doelen zijn verplicht, ook als medewerkers een chatbot gebruiken. Nationale toezichthouders, zoals de Autoriteit Persoonsgegevens, kijken naar waar data heen gaat en waarvoor die wordt gebruikt. Dit dwingt organisaties om beleid te maken voor veilige AI-toepassingen.
Nieuwe aanvalstechnieken uitgelegd
Een belangrijk risico is promptinjectie: een manier om een AI-model ongewenste acties te laten uitvoeren. Aanvallers verstoppen instructies in webpagina’s of documenten die het model leest. Als de AI die instructies volgt, kan het beleid worden omzeild. Dit treft vooral AI-agents die zelfstandig browsen of tools aanroepen.
Promptinjectie is een aanval waarbij iemand via tekst of code de instructies van een AI-systeem manipuleert, zodat het beleid wordt genegeerd.
Ook “data poisoning” neemt toe. Hierbij worden publieke datasets of open bronnen opzettelijk vervuild, zodat modellen verkeerde patronen leren. Dit is lastig te zien en werkt lang door. Controle op herkomst en integriteit van trainingsdata wordt daarom belangrijker.
Ten slotte spelen AI-gegenereerde deepfakes in op haast en emotie. Een geloofwaardige stem of video kan betaalopdrachten forceren of accounts ontgrendelen. Klassieke awareness-training is daar niet genoeg tegen. Procedures met vier-ogenprincipe en out-of-band controles helpen wel.
Wat Nederlandse organisaties doen
In Nederland geven NCSC en sector-CERT’s praktische adviezen voor veilig gebruik van generatieve AI, op het moment van schrijven in de vorm van handleidingen en factsheets. Veel organisaties beperken openbare chatbots en kiezen voor tenant-beheerde varianten van Microsoft Copilot, Google Workspace AI of ChatGPT Enterprise. Daarbij gelden strikte logs, versleuteling en rolgebaseerde toegang. Het doel is snelheid zonder datalekken.
Securityteams combineren nu detectie uit EDR/XDR met AI-analyses voor triage. Leveranciers zoals Palo Alto Networks, SentinelOne en Elastic integreren LLM’s in hun platforms. Toch blijft menselijke validatie nodig bij beslissingen met impact. Red teaming en periodieke model-evaluaties worden standaard.
Bestuurders koppelen deze aanpak aan NIS2- en AVG-compliance. Contracten eisen duidelijke garanties over dataverwerking en modelbeveiliging. Ook worden beleid en training aangepast op deepfakes en AI-phishing. Zo groeit weerbaarheid, terwijl de technologie zich snel blijft ontwikkelen.