Beveiligingsonderzoekers laten zien dat generatieve AI kan helpen bij het bouwen van malware. In recente tests produceren systemen als ChatGPT en open-source modellen bruikbare code en uitleg. Dit gebeurt wereldwijd, ook met gevolgen voor Nederland en Europa. Het raakt direct aan de Europese AI-verordening en de vraag wat dit betekent voor overheid en bedrijfsleven.
AI verlaagt drempel voor malware
Grote taalmodellen schrijven snel voorbeeldcode en geven stap-voor-stap uitleg. Daarmee wordt het makkelijker voor beginners om kwaadaardige software te maken. Denk aan een simpele keylogger, een downloader of code die zichzelf verbergt. Het model vult gaten in kennis en zoekt naar foutjes.
OpenAI’s ChatGPT, Microsoft Copilot en Google Gemini weigeren met standaardinstellingen vaak directe hulp bij malware. Toch geven ze wél algemene programmeertips die misbruikbaar zijn. Open-source modellen zoals Meta’s Llama 2 en Llama 3 kunnen lokaal worden gedraaid en aangepast. Dat maakt toezicht en handhaving lastiger.
Ondergrondse fora bieden inmiddels zogeheten crimeware-chatbots aan. Namen als WormGPT en FraudGPT worden daar geadverteerd. Hun makers beloven minder veiligheidsfilters en meer offensieve functies. De kwaliteit wisselt, maar de drempel zakt.
Malware is software die systemen verstoort, toegang misbruikt of gegevens steelt, vaak zonder dat de gebruiker dat merkt.
Beperkingen en omzeilingen
De meeste publieke AI-diensten hebben veiligheidsfilters. Ze weigeren antwoorden op duidelijke verzoeken om virussen of ransomware te maken. Een prompt is de tekst waarmee je het model aanstuurt. Met een neutrale of omweg-vraag vallen sommige filters echter te omzeilen.
Aanvallers gebruiken creatieve formuleringen en rollenspellen om beleid te testen. Ze vragen eerst om legitieme bouwstenen en combineren die later. Ook laten ze het model code controleren of herschrijven. Zo ontstaat stapsgewijs bruikbare, maar niet perfect geteste, malware.
De output is vaak onvolledig of fout. Aanvallers moeten nog steeds testen, debuggen en zelf onderdelen samenvoegen. De modellen draaien geen code en zien geen netwerk. Toch versnelt de hulp bij zoeken, uitleg en varianten maken het werk merkbaar.
Autonomie blijft beperkt
Volledig autonome aanvallen vereisen meer dan tekst. Daarvoor zijn toegang tot systemen, tools en blijvend geheugen nodig. Hulpjes zoals agents of AutoGPT-achtige scripts proberen dat te koppelen. In de praktijk blijven ze op het moment van schrijven onbetrouwbaar en fragiel.
Generatieve AI kan geen complexe operatie zelfstandig volhouden. Het mist context over netwerken, rechten en detectie. Het kan ook geen nieuwe kwetsbaarheden vinden zoals gespecialiseerde scanners dat doen. Wel helpt het bij hergebruik van bekende trucs.
Voor verdedigers is dat goed en slecht nieuws. Het tempo van eenvoudige aanvallen stijgt, maar de stap naar geavanceerde inbraken blijft hoog. Organisaties die basismaatregelen op orde hebben, houden veel aanvallen buiten. Zwakke plekken liggen vooral bij mens en proces.
Impact op phishing en fraude
AI schrijft geloofwaardige e-mails in foutloos Nederlands. Dat maakt phishing overtuigender, ook voor gemeenten en scholen. De systemen genereren snel tientallen varianten. Zo omzeilen aanvallers simpele spamfilters.
Modellen helpen ook bij scripts voor macro’s en downloaders. Een e-mail kan zo een eerste stap zijn naar een besmetting. Daarna volgt misbruik van bestaande hulpprogramma’s op het systeem. Dit heet “leven van het land”, oftewel werken met tools die al aanwezig zijn.
Nederlandse organisaties krijgen het advies te focussen op basisbescherming. Denk aan MFA, strenge macro-instellingen en goede mailauthenticatie met SPF, DKIM en DMARC. Het Nationaal Cyber Security Centrum wijst op training en simulaties. Menselijke alertheid blijft essentieel.
Europese AI-verordening stuurt gebruik
De Europese AI-verordening (AI Act) legt op het moment van schrijven nieuwe plichten op aan aanbieders van generieke AI-systemen. Dat raakt ChatGPT, Gemini en ook Llama-modellen. Transparantie, veiligheidsbeleid en misbruikreductie worden verplicht. Dit moet de risico’s rond codegeneratie beperken.
De regels richten zich vooral op aanbieders en distributieketens, niet op cybercriminelen. Toch dwingen ze betere beveiligingsfilters, logging en documentatie af. Overheden en bedrijven krijgen zo meer informatie over herkomst en beperkingen. Dat helpt bij inkoop en gebruik.
De AVG blijft gelden als prompts of logs persoonsgegevens bevatten. Dan is dataminimalisatie, versleuteling en een verwerkersovereenkomst nodig. Voor de overheid zijn de “Europese AI-verordening gevolgen overheid” dus concreet. Inkoop en compliance moeten hierop worden aangepast.
Nederland scherpt cyberzorg aan
NIS2 wordt in Nederland ingevoerd en vergroot de zorgplicht voor vitale en belangrijke organisaties. Bestuurders worden nadrukkelijker verantwoordelijk. AI-gedreven dreigingen, zoals snellere phishing en codevarianten, vallen onder deze plicht. Documenteer maatregelen en test regelmatig.
De Europese Cyber Resilience Act komt daar bovenop. Fabrikanten moeten software veiliger ontwerpen en sneller patchen. Dat beperkt misbruik door generatieve AI die bekende zwaktes uitbuit. Leveranciers in de EU-keten voelen dit in contracten en audits.
Praktisch advies blijft nuchter. Zet e-mail- en endpointbeveiliging strak, inclusief script- en macroblokkades. Gebruik code-analyse en reputatiefilters om varianten te vangen. Train teams in veilige promptpraktijk en zet beleid klaar voor inzet van AI binnen de organisatie.