De Nederlandsche Bank waarschuwt dat krachtiger AI-modellen nieuwe keuzes vragen rond cyberrisico’s. De toezichthouder ziet dat algoritmen aanvallen goedkoper en sneller maken. Nederlandse banken, verzekeraars en betaalinstellingen moeten hun weerbaarheid en beleid bijstellen. Dit is nodig in het licht van DORA en de Europese AI-verordening (AI Act), die de gevolgen voor de financiële sector en overheid vergroten.
Sterkere modellen vergroten risico
Generatieve AI is software die nieuwe tekst, code of beelden maakt op basis van voorbeelddata. Nieuwere taalmodellen en multimodale systemen verlagen de drempel voor cyberaanvallen. Criminelen kunnen geloofwaardige phishing, deepfakes en kwaadaardige code maken. Daarmee groeit het aanvalsvlak voor instellingen.
Veel commerciële modellen hebben ingebouwde veiligheidsremmen, maar die zijn te omzeilen. Via “jailbreaks” en prompt-injecties sturen aanvallers systemen alsnog verkeerde kanten op. Open modellen kunnen lokaal worden aangepast, ook voor misbruik. Zo neemt het risico op gerichte aanvallen en misleiding toe.
Generatieve AI is software die nieuwe tekst, code of beelden maakt op basis van voorbeelddata.
De koppeling van assistenten aan interne tools vergroot de impact. Als een chatbot e-mails kan versturen, documenten kan lezen of code mag uitvoeren, wordt elke vergissing duurder. Fouten door “hallucinaties” of misleiding leiden dan sneller tot datalekken of fraude. Beheer van rechten en functies wordt daardoor cruciaal.
Ook datakwaliteit en toeleveringsketens spelen een grotere rol. Vergiftigde trainingsdata of kwetsbare plug-ins kunnen de hele keten raken. Als een leverancier een model wijzigt, kan het gedrag onverwacht veranderen. Instellingen moeten daarom updates en afhankelijkheden actief volgen en testen.
Financiële sector moet herijken
De kernboodschap is: herijk het cyberrisico nu AI krachtiger wordt. Bestaande dreigingsbeelden houden vaak geen rekening met AI-gestuurde schaal en snelheid. Het gevolg is onderschatting van scenario’s als massale spearphishing of geautomatiseerde kwetsbaarheidsscans. Een realistischer risicokaart helpt gerichte maatregelen kiezen.
Besturen moeten expliciet maken welke AI-toepassingen acceptabel zijn. Dat vraagt duidelijke rollen, eigenaarschap en rapportage over modelrisico’s. Ook moet vaststaan welke data nooit in chatbots of copilots mag. Zo voorkom je dat vertrouwelijke informatie weglekt via prompts.
Scenario-oefeningen horen erbij. Denk aan een nep-CEO-belfraude met deepfake-stem of een interne agent die privileges misbruikt. Door zulke oefeningen weten teams welke knoppen ze moeten omzetten. Dat versnelt detectie en herstel bij incidenten.
Tot slot vraagt de inzet van AI om nieuwe meetpunten. Log het promptverkeer, bewaak misbruikpogingen en documenteer modelwijzigingen. Zonder zicht op prestaties en afwijkingen is bijsturen onmogelijk. Transparantie naar het bestuur en de toezichthouder wordt daarmee eenvoudiger.
Vijf stappen voor beheersing
Begin met een beleid voor veilig AI-gebruik. Leg vast welke taken copilots wel en niet mogen doen. Classificeer data en verbied het plakken van gevoelige gegevens in publieke chatbots. Pas AVG-principes toe, zoals dataminimalisatie en versleuteling.
Beperk toegang tot tools en functies. Gebruik aparte omgevingen, strikte rechten en “human-in-the-loop” voor gevoelige acties. Zet filtering in tegen schadelijke output en pas dataverliespreventie toe op prompts en antwoorden. Werk bij voorkeur via gecontroleerde API’s in plaats van losse webinterfaces.
Test actief met red teaming. Onderzoek prompt-injecties, jailbreaks en modelgedrag na updates. Monitor continu op verdachte patronen en stel drempelwaarden in voor automatische blokkades. Documenteer bevindingen en verbeter het systeem op basis van die resultaten.
Beoordeel leveranciers grondig. Vraag om beveiligingsaudits, update-notities en duidelijke afspraken over data-opslag en -locatie. Eis dat prompts en outputs niet voor training worden hergebruikt, tenzij uitdrukkelijk toegestaan. Zorg voor fallback-opties als een dienst uitvalt of beleid verandert.
Europese regels geven richting
De Digital Operational Resilience Act (DORA) is op het moment van schrijven van toepassing op financiële instellingen. De wet verplicht streng ICT-risicobeheer, tests en rapportage van grote incidenten. Ook strengere controle op uitbesteding hoort daarbij, inclusief kritieke derde partijen. AI-diensten vallen daar onder als ze onderdeel zijn van de ICT-keten.
De Europese AI-verordening (AI Act) rolt gefaseerd uit. Toepassingen zoals kredietwaardigheidsbeoordeling vallen vaak in de hoog-risicoklasse. Dat brengt eisen mee voor risicobeheer, documentatie en menselijk toezicht. Aanbieders van generieke modellen krijgen daarnaast eigen plichten.
De AVG blijft de basis voor gegevensverwerking met AI. Organisaties hebben een rechtsgrond nodig, moeten dataminimalisatie toepassen en gevoelige data extra beschermen. Logica-uitleg en correctierechten vragen om heldere documentatie. Dat geldt zowel voor training als voor het gebruik van prompts en outputs.
NIS2 verscherpt op het moment van schrijven cybersecurity-eisen en meldplichten voor essentiële en belangrijke entiteiten. Banken en betaalinstellingen vallen daar doorgaans onder. Tijdige melding en samenwerking met CERT’s wordt belangrijker. DORA en NIS2 vullen elkaar daarbij aan.
Leverancierskeuze en datahygiëne
De keuze tussen gesloten en open modellen heeft gevolgen voor veiligheid en controle. Gesloten modellen bieden vaak sterke basisbeveiliging, maar minder inzicht in de interne werking. Open modellen geven meer transparantie en aanpasbaarheid, maar vragen meer eigen beheersing. Bepaal wat past binnen risico- en compliance-eisen.
Let op waar data staat en wie erbij kan. Gebruik Europese datacenters als dat nodig is voor AVG en contracten. Beheer sleutels zelf en versleutel zowel prompts als antwoorden. Leg contractueel vast dat gegevens niet worden gedeeld met derden.
Beperk datadeling door retrieval augmented generation (RAG) met strikte toegangscontrole. Daarbij haalt een model alleen relevante, interne documenten op zonder die te trainen in het model. Zo blijft kennis actueel en afgeschermd. Zorg dat auditlogs laten zien wie wat heeft geraadpleegd.
Menselijke factor blijft belangrijk. Train medewerkers in veilig prompten en herkenning van deepfakes. Maak het melden van twijfelgevallen laagdrempelig. Combineer dat met technische blokkades voor risicovolle acties.
Toezicht en rapportage scherper
De toezichthouder kijkt naar aantoonbare beheersing van AI-risico’s. Denk aan eigenaarschap, beleid, testresultaten en incidentafhandeling. Zonder deze basis wordt het lastig om vertrouwen te houden. Transparante dossiervorming helpt bij controles.
Meet wat ertoe doet en rapporteer periodiek. Indicatoren zijn bijvoorbeeld jailbreakpogingen, filterhits en foutpercentages. Leg modelupdates, dataschema’s en promptregels vast in change-logs. Zo wordt het effect van aanpassingen zichtbaar.
Incidentmelding vraagt snelheid en structuur. DORA en NIS2 kennen tijdige meldpaden voor grote ICT-incidenten. Oefen deze keten, inclusief communicatie naar klanten. Dat beperkt schade en versnelt herstel.
Samenwerking in de sector maakt defensie sterker. Deel dreigingsinformatie in bestaande netwerken en met nationale instanties. Gezamenlijke testsets en benchmarks verhogen de kwaliteit. Zo groeit weerbaarheid mee met de kracht van nieuwe AI-modellen.