Europese toezichthouders en techbedrijven zoeken naar manieren om grip te houden op krachtige AI-systemen. In Brussel en Den Haag wordt gewerkt aan regels, testen en toezicht die risico’s moeten beperken. Dit jaar en de komende twee jaar rollen nieuwe verplichtingen uit onder de Europese AI-verordening, met gevolgen voor overheid en bedrijfsleven. De inzet: fouten, misbruik en verlies van controle voorkomen, zonder innovatie te stoppen.
Controle is nu kwetsbaar
Generatieve AI, software die zelf tekst, beeld of code maakt, groeit snel. Bedrijven als OpenAI (GPT-4o), Google (Gemini 1.5), Meta (Llama 3), Anthropic (Claude 3) en Mistral (Mistral Large) leveren modellen die overal opduiken. Ze worden gebruikt in klantenservice, kantoorsoftware en onderwijs, vaak via platforms van Microsoft en Amazon.
De keerzijde is dat deze systemen soms hallucineren, gevoelige data lekken of zijn te misleiden met “prompt-injecties”. Veel modellen blijven deels een black box: het is niet altijd duidelijk hoe ze tot een antwoord komen. Dat maakt toezicht lastig, zeker als updates wekelijks doorrollen.
Ook de keten is complex: organisaties combineren gesloten modellen met open varianten en eigen finetuning. Daardoor verschuift verantwoordelijkheid tussen leverancier en gebruiker. Zonder duidelijke afspraken en logging is de kans groter dat we grip verliezen op wie wat beslist en met welke gegevens.
EU-wet legt plichten op
De Europese AI-verordening (AI Act) is op het moment van schrijven in werking en wordt stapsgewijs van toepassing. Verboden praktijken gelden eerder, zware eisen voor hoog-risico systemen volgen later. Het doel is risico’s te verkleinen met transparantie, testen en menselijk toezicht.
Systemen in sectoren als werk, onderwijs, zorg, infrastructuur en rechtshandhaving vallen vaak in de hoog-risico klasse. Dan zijn een risicobeoordeling, datakwaliteitseisen, duidelijke documentatie en logbestanden verplicht. Fabrikanten moeten een conformiteitsbeoordeling doen en een CE-markering voeren.
Voor general-purpose AI (GPAI) en zeer krachtige modellen komen extra eisen. Leveranciers als OpenAI, Google, Meta, Anthropic en Mistral moeten veiligheidstesten, informatie over mogelijkheden en beperkingen, en maatregelen tegen misbruik delen met het nieuwe AI Office van de Europese Commissie. Ook wordt verwacht dat zij schendingen en ernstige incidenten tijdig melden.
Europese AI-verordening gevolgen overheid
Publieke instellingen die AI inzetten, moeten vooraf een fundamentele-rechten-toets doen. Dit heet een FRIA en staat naast de privacy-toets (DPIA) onder de AVG. Steeds meer overheden publiceren bovendien een algoritmeregister met uitleg over doel, data en menselijk toezicht.
Voor Nederlandse overheden betekent dit strakkere inkoop en beheer van algoritmen. Contracten met leveranciers moeten duidelijk maken hoe wordt getest, gelogd en uitgelegd, en wie incidenten meldt. De Autoriteit Persoonsgegevens blijft toezien op AVG-regels zoals dataminimalisatie en beveiliging, terwijl Nederland een markttoezichthouder voor de AI Act aanwijst.
De praktijk verandert ook aan de voorkant. Ambtenaren die met AI werken hebben training nodig in risicoherkenning en het escaleren van fouten. Bij besluiten met grote impact blijft “mens-in-de-lus” verplicht, met een goed werkende bezwaarroute.
Een fundamentele-rechten-toets (FRIA) verplicht overheden om vooraf te beschrijven wie geraakt kan worden, welke risico’s bestaan en hoe die worden beperkt.
Testen en audits nodig
Veiligheid vraagt om stevige proeven voor livegang. Red teaming, het gecontroleerd aanvallen van een model om zwakke plekken te vinden, hoort daarbij. Bedrijven leggen de resultaten vast en verbeteren het systeem voordat gebruikers schade lopen.
Voor hoog-risico toepassingen komen onafhankelijke beoordelingen door aangemelde instanties. Organisaties moeten loggen welke input en output het systeem verwerkt en hoe beslissingen tot stand komen. Ernstige storingen of schendingen moeten snel worden gemeld aan de juiste toezichthouder.
Transparantie helpt ook gebruikers. Leveranciers publiceren begrijpelijke modelkaarten: korte fiches met doel, prestaties, datasets en bekende beperkingen. Standaarden van CEN/CENELEC en ISO, zoals ISO/IEC 42001 voor AI-management, geven houvast bij deze documentatie.
Beperk systeemrisico en misbruik
Beveiliging van AI weegt net zo zwaar als de modelkwaliteit. Bescherm modelgewichten, sleutelbeheer en API-toegang met strenge rechten en monitoring. Het Nationaal Cyber Security Centrum adviseert daarnaast over patchen, segmentatie en responsplannen tegen datalekken en modeldiefstal.
Om desinformatie te beperken, groeit het gebruik van herkomstlabels. Grote platforms en modellen ondersteunen C2PA, een standaard om broninformatie en bewerkingen van beelden en video vast te leggen. Watermerken in gegenereerde content helpen ook, al zijn ze niet waterdicht en vragen ze toezicht in de keten.
Organisaties kunnen vandaag al stappen zetten. Maak een inventaris van alle AI-toepassingen, voer DPIA en FRIA uit, en stel duidelijke stopknoppen en escalatiepaden in. Leg in contracten met leveranciers vast: testmethoden, kwaliteitsdrempels, beveiliging, incidentmelding en bewaartermijnen, in lijn met de AI Act en de AVG.