Cybersecurity-experts verzetten zich tegen een voorgenomen Amerikaans verbod op het gebruik van kunstmatige intelligentie voor cyberaanvallen. Het plan komt uit de Verenigde Staten en wordt nu politiek besproken. Op het moment van schrijven waarschuwen onderzoekers en adviseurs dat zo’n breed verbod onuitvoerbaar is en de digitale veiligheid juist kan schaden. De discussie raakt ook Europa: wat betekent dit voor de Europese AI-verordening en de gevolgen voor overheid en bedrijven?
Experts verwerpen breed verbod
Het Amerikaanse voorstel richt zich op het verbieden van algoritmen en datamodellen die misbruik door cybercriminelen kunnen ondersteunen. Denk aan systemen die kwaadaardige code kunnen genereren of kwetsbaarheden kunnen opsporen. Cyberexperts stellen dat dit te vaag is en tal van nuttige toepassingen raakt. Ze zien het risico dat de maatregel vooral legitiem onderzoek en verdediging belemmert.
Generatieve AI is software die op basis van patronen nieuwe tekst, code of beelden maakt. Zulke systemen zijn “dual-use”: ze kunnen zowel voor verdediging als voor aanval worden gebruikt. Een algeheel verbod raakt dus ook ontwikkelaars van beveiligingstools. Volgens experts is het effect dan averechts: criminelen gaan toch door, terwijl verdedigers minder middelen hebben.
De praktijk laat zien dat open onderzoek vaak bijdraagt aan snellere patching en betere detectie. Datasets en open modellen van partijen als Meta (Llama) en Mistral worden nu al gebruikt om beveiligingslekken sneller te herkennen. Door de regels te verscherpen zonder duidelijke afbakening, ontstaat een rem op deze innovaties. Dat vergroot volgens specialisten het risico voor vitale sectoren.
Dual-use betekent dat een techniek zowel voor nuttige als voor schadelijke doelen kan worden ingezet.
Defensietools komen in knel
Veel moderne verdedigingstools gebruiken AI om afwijkend gedrag in netwerken te vinden. Dit heet anomaliedetectie: het systeem signaleert patronen die afwijken van normaal verkeer. Ook “fuzzing”, een testmethode die software met willekeurige input onder druk zet, wordt vaak door AI versneld. Een breed verbod kan deze methoden onbedoeld blokkeren.
Securityteams leunen daarnaast op AI-gestuurde code-analyse om kwetsbaarheden sneller te spotten. Grote taalmodellen (LLM’s) zoals GPT-4, Claude of Gemini geven ontwikkelaars suggesties voor veiliger code. Zonder duidelijke uitzonderingen kan wetgeving ook dit legitieme gebruik raken. Dat vertraagt het dichten van lekken in overheidssystemen en kritieke infrastructuur.
Ook commerciële suites, zoals Microsoft Copilot for Security en Googles Sec-PaLM-benadering, combineren AI met dreigingsinformatie. Organisaties gebruiken die om incidenten te onderzoeken en response te versnellen. Wanneer regels codegeneratie of modeltraining te ruim verbieden, verliezen deze suites een deel van hun waarde. Daardoor worden detectie en forensisch onderzoek trager en duurder.
Handhaving in VS ingewikkeld
Juristen wijzen op de praktische problemen bij handhaving in de Verenigde Staten. Het definiëren van “AI” en “cybertoepassing” in wetstekst is lastig, en code is deels beschermd als vrije meningsuiting. Dat maakt een algemeen verbod kwetsbaar voor rechtszaken. Bovendien zijn modelgewichten (de parameters van een getraind model) technisch eenvoudig te delen.
Zelfs als publicatie wordt verboden, kunnen modellen buiten de VS gehost of via versleutelde kanalen verspreid worden. Dat ondermijnt de effectiviteit van nationale maatregelen. Tegelijk kan streng beleid bedrijven en onderzoekers uit de VS wegjagen. De innovatie verhuist dan naar jurisdicties met helderder, risicogestuurde regels.
Experts pleiten daarom voor gedragsgerichte regels in plaats van technologieverboden. Straf het misbruik, niet het gereedschap, is de kern. Denk aan het verbieden van geautomatiseerde phishing op grote schaal of het verharden van regels rond malwaredistributie. Zo blijft ruimte voor legitiem onderzoek en defensie.
Europese AI-verordening biedt alternatief
De Europese AI-verordening (AI Act) kiest voor een risicogestuurde aanpak. In plaats van een totaalverbod op generieke systemen, legt zij verplichtingen op afhankelijk van het risico. Voor general-purpose AI en open-source modellen gelden transparantie-eisen, met ruimte voor onderzoek. Dat geeft ontwikkelaars en overheden duidelijkheid zonder innovatie af te knellen.
Voor Nederlandse en Europese organisaties sluit dit aan op bestaande kaders zoals de AVG en NIS2. De AVG vereist dataminimalisatie en passende beveiliging bij het verwerken van log- en incidentdata. NIS2 scherpt zorgplichten voor vitale sectoren aan, waaronder detectie en respons. AI kan daarbij helpen, mits goed gedocumenteerd en beoordeeld op risico’s.
Op het moment van schrijven werken EU-instellingen aan uitvoeringsrichtsnoeren voor de AI Act. Daarin komen eisen aan modeldocumentatie, evaluaties en incidentmelding. Dat is concreet voor leveranciers én afnemers van AI-diensten. Het voorkomt een “verbodskloof” terwijl misbruik wel kan worden aangepakt.
Gevolgen voor Nederlandse organisaties
Voor Nederlandse overheden en bedrijven is voorspelbaarheid belangrijk. Contracteer leveranciers die modelkaarten, evaluaties en beveiligingsmaatregelen kunnen overleggen. Vraag expliciet naar hoe codegeneratie wordt begrensd en gelogd. En kies voor Europese of soevereine cloudopties als incidentdata gevoelig zijn onder de AVG.
Securityteams doen er goed aan interne richtlijnen voor AI-gebruik vast te leggen. Beschrijf wanneer AI mag assisteren bij code-audits, pentests en incidentanalyses. Leg ook vast hoe data worden geanonimiseerd en verwijderd. Zo blijft het gebruik nuttig én compliant met privacyregels.
Tot slot: investeer in weerbaarheid in plaats van schijnzekerheid. Training, patchmanagement en segmentatie blijven de basis. AI kan die basis versterken, maar vervangt haar niet. Een verbod verandert daar niets aan, een doordacht kader wel.
Wat politiek nu kan doen
Amerikaanse beleidsmakers kunnen het verbodsvoorstel ombuigen naar gerichte, handhaafbare regels. Stel eisen aan risicotoetsen en red teaming van codegenererende modellen. Verplicht logging, abuse-deskprocedures en snelle blokkades bij misbruik. En straf concrete daden, zoals massale social engineering of ransomware, zwaarder.
Europa kan ondertussen zijn lijn vasthouden en concretiseren. Werk de AI-verordening uit met duidelijke guidance voor cybersecurity-toepassingen. Zorg dat open onderzoek en “responsible disclosure” expliciet worden beschermd. Dat houdt de balans tussen veiligheid, innovatie en grondrechten.
Voor grensoverschrijdende kwesties is samenwerking nodig tussen EU, VS en standaardenorganisaties. Denk aan NIST, ETSI en ISO voor testprotocollen en evaluaties. Gedeelde normen maken toezicht makkelijker en verminderen handhavingslekken. Zo wordt misbruik tegengegaan zonder de gereedschappen van verdedigers uit te schakelen.