De Europese Commissie brengt deze maand grote AI-bedrijven in Brussel bijeen om te praten over toegang tot zogeheten cybermodellen. Het gaat om algoritmen met functies voor cyberbeveiliging en hackdetectie. Doel is afspraken te maken over wie, wanneer en onder welke voorwaarden toegang krijgt. De inzet is Europese veiligheid en naleving van de nieuwe AI-verordening, met gevolgen voor overheden en bedrijven.
Brussel zoekt toegangskaders
De Europese Commissie wil een helder kader voor gecontroleerde toegang tot AI-systemen met cybercapaciteiten. Denk aan modellen die kwetsbaarheden helpen opsporen of code automatisch aanpassen. Zonder afspraken is het lastig om risico’s te testen en incidenten te voorkomen.
De gesprekken vinden plaats in Brussel en richten zich op ontwikkelaars van generatieve systemen en algemene AI-modellen. Ook Europese experts op het gebied van cyberveiligheid schuiven aan. Zo wil Brussel een uniforme aanpak voor de EU-lidstaten creëren.
De AI-verordening (AI Act) geeft de nieuwe EU AI Office op het moment van schrijven bevoegdheden om zogeheten algemene AI-modellen met systeemrisico te toetsen. Daarvoor is in de praktijk toegang tot modellen of beveiligde testomgevingen nodig. Het toegangskader moet veiligheid borgen zonder bedrijfsgeheimen te lekken.
Wat zijn cybermodellen
Cybermodellen zijn AI-systemen die cyberdreigingen helpen opsporen of misbruik kunnen versnellen. Ze kunnen code schrijven, netwerken scannen of beveiligingsregels voorstellen. Deze dubbelrol vraagt om strikte voorwaarden voor gebruik en onderzoek.
Cybermodellen zijn AI-systemen die handelingen rond cybersecurity ondersteunen, zoals detectie van aanvallen, kwetsbaarheden en herstel, maar die ook misbruikbaar kunnen zijn voor offensieve doeleinden.
Voor defensieve teams kunnen zulke modellen snellere incidentrespons mogelijk maken. Ze helpen bijvoorbeeld bij het prioriteren van patches of bij het uitleggen van logbestanden. Maar dezelfde functies kunnen aanvallers gebruiken om zwakke plekken te vinden.
Daarom ligt gecontroleerde toegang voor de hand, met logging en duidelijke doelen voor testen. Zo kunnen onderzoekers kwetsbaarheden melden zonder dat gevaarlijke instructies rondgaan. Dit sluit aan bij bestaande praktijken zoals responsible disclosure.
Voorstellen voor gecontroleerde toegang
Op tafel liggen varianten van ‘sandboxes’: afgeschermde testomgevingen met maatwerk-API’s. Toegang wordt dan gegeven aan gescreende onderzoekers en toezichthouders. Alle handelingen worden gelogd en gevoelige uitkomsten worden versleuteld gedeeld.
Een andere optie is een audit door onafhankelijke labs onder toezicht van de EU AI Office. De ontwikkelaar levert dan modeldocumentatie, evaluaties en beperkte interacties. Zo blijft het intellectueel eigendom beschermd, maar kan de veiligheid wel worden beoordeeld.
Voor modellen met systeemrisico zou een escalatiepad gelden: extra red-teaming, stresstests voor cybermisbruik en meldplicht bij ernstige incidenten. Dit sluit aan bij verplichtingen in de AI-verordening voor algemene AI met grote impact. Bedrijven krijgen zo duidelijkheid over wat minimaal nodig is.
Europese AI-verordening gevolgen overheid
De AI-verordening treedt gefaseerd in werking tussen 2025 en 2026, met strengere eisen voor algemene AI-systemen die systeemrisico vormen. De EU AI Office coördineert handhaving en technische richtsnoeren. ENISA, de Europese cyberwaakhond, levert naar verwachting beoordelingsmethoden voor veiligheidstesten.
Voor overheden betekent dit dat zij gecontroleerde toegang moeten organiseren, bijvoorbeeld via nationale computercrisisteams. Denk aan afspraken over wie mag testen, hoe resultaten worden gedeeld en wanneer maatregelen volgen. Dat maakt incidentafhandeling voorspelbaarder.
Privacy valt onder de AVG: dataminimalisatie bij logs, versleuteling van gevoelige gegevens en duidelijke bewaartermijnen. Toegang tot modellen mag niet leiden tot onnodige verwerking van persoonsgegevens. Toezichthouders willen dit vanaf het begin inbouwen.
Impact voor Nederland
Voor Nederland zijn NCSC-NL en sectorale CERT’s logische partners om toegang te coördineren. Universiteiten en kennisinstellingen kunnen meedoen aan toetsen, mits zij aan veiligheidseisen voldoen. Ook vitale sectoren zoals zorg en energie vragen om praktische richtlijnen.
Bedrijven die AI in beveiliging inzetten, krijgen te maken met documentatie- en meldplichten. Leveranciers moeten aantonen hoe hun datamodellen omgaan met misbruikscenario’s. Dat heeft invloed op inkoop en due diligence in de publieke sector.
Daarnaast ontstaat een behoefte aan gedeelde testsets en benchmarks. Transparante, Europese evaluaties maken uitkomsten vergelijkbaar. Zo kunnen Nederlandse organisaties risico’s beter inschatten en prioriteren.
Open of gesloten aanpak
Een discussiepunt is toegang tot modelgewichten versus toegang via een afgeschermde API. Open toegang kan onderzoek versnellen, maar vergroot ook misbruikrisico’s. Gesloten toegang beperkt risico’s, maar kan onafhankelijke evaluatie hinderen.
Een middenweg is ‘vertrouwenspersonen’-toegang onder strikte voorwaarden, met air-gapped omgevingen. Zulke omgevingen staan los van internet en beperken kopieerbaarheid. Hiermee kan diepgaand onderzoek toch plaatsvinden.
Heldere aansprakelijkheid en rapportage zijn daarbij cruciaal. Wie test, houdt zich aan vastgestelde protocollen en deelt bevindingen vertrouwelijk. Zo ontstaat een balans tussen veiligheid, innovatie en toezicht in lijn met Europese regels.