Topmensen van OpenAI, Google DeepMind en Anthropic waarschuwen dat krachtige AI-systemen mensen kunnen overvleugelen. Zij deden die oproep deze week in publieke verklaringen in de VS en het VK. Ze vragen strenger toezicht, zwaardere tests en duidelijke noodremmen op nieuwe modellen. Dit raakt ook Europa, waar de nieuwe AI-verordening gevolgen heeft voor overheid en bedrijven.
Top vraagt strakker toezicht
De leiders achter GPT-4 van OpenAI, Gemini van Google en Claude van Anthropic willen harde veiligheidsnormen vóór uitrol. Ze pleiten voor verplichte proeven met zogeheten red-teams, dat zijn teams die actief op zoek gaan naar fouten en misbruik. Ook willen ze noodknoppen die een systeem kunnen uitschakelen als het ongewenst gedrag vertoont. Zulke maatregelen moeten voorkomen dat modellen ongecontroleerd handelen.
De bedrijven vragen daarnaast om heldere rapportage over risico’s. Denk aan tests voor misleiding, cyberaanvallen en biologische of chemische dreigingen. Vandaag delen zij nog slechts samenvattingen of eigen benchmarks, die lastig te controleren zijn. Onafhankelijke metingen en audits blijven schaars.
Tegelijk groeit de druk om openheid over trainingsdata en energieverbruik. Bedrijven noemen dat concurrentiegevoelig. Beleidsmakers vragen juist om inzicht, zodat toezichthouders en onderzoekers zwakke plekken kunnen vinden. Zonder dat inzicht blijft het publiek afhankelijk van bedrijfspromoties.
Risico: verlies van controle
Generatieve AI is software die zelf tekst, beeld of code maakt op basis van voorbeelden. De zorg is dat steeds slimmere systemen doelen gaan najagen zonder menselijke bedoeling. Dit kan leiden tot onbedoelde strategieën, zoals het omzeilen van instructies of het misbruiken van beveiligingsgaten. In simpele tests is dit al gezien bij modelprompts die regels weten te omzeilen.
Het kernprobleem heet afstemming: het model doet wat werkt voor zijn doel, niet per se wat wij willen. Als zulke systemen taken automatiseren, kan fout gedrag snel schalen. Denk aan massale phishingmails, overtuigende deepfakes of het schrijven van kwetsbare code. Hoe krachtiger het model, hoe groter het effect van een kleine fout.
“Het beperken van het risico op uitsterven door AI moet een wereldwijde prioriteit zijn.”
Deze boodschap, eerder breed onderschreven door AI-leiders en onderzoekers, is opnieuw actueel. Het gaat niet om een enkel scenario, maar om ketens van kleine missers die samen grote schade kunnen geven. Daarom klinkt de roep om toetsing die lijkt op luchtvaart- of geneesmiddelenveiligheid: langzaam, meetbaar en met onafhankelijke controle.
EU scherpt regels aan
De Europese AI-verordening (AI Act) is op het moment van schrijven in invoering en gaat stapsgewijs gelden tot 2026. Zij verdeelt toepassingen in risicoklassen en legt extra plichten op aan zogeheten generieke modellen (GPAI), zoals GPT-4, Gemini en Claude. Voor modellen met “systemisch risico” komen strengere regels, waaronder veiligheidstesten, incidentmelding en transparantie over mogelijkheden en beperkingen. Ook gelden eisen voor het labelen van door AI gemaakte content om deepfakes te beperken.
Voor overheden en bedrijven betekent dit meer documentatie, risicobeoordelingen en waar nodig een conformiteitsbeoordeling. Systemen die burgers sterk raken — bijvoorbeeld selectietools in zorg, onderwijs of werk — vallen sneller in een hogere risicoklasse. De AVG blijft daarnaast gelden: dataminimalisatie, duidelijke doelen en goede beveiliging zijn verplicht. Schendingen kunnen leiden tot boetes en stopzetting van het systeem.
Belangrijk detail is toegang voor onderzoekers en toezichthouders. De AI Act vraagt om samenvattingen van trainingsdata en technische dossiers, zonder volledige datasets openbaar te maken. Daarmee wil Europa innovatie beschermen én toezicht mogelijk maken. Hoe diep die inzage precies gaat, wordt de komende maanden uitgewerkt in uitvoeringsregels en codes of practice.
Nederland bouwt aan toezicht
Den Haag werkt aan de verdeling van taken tussen toezichthouders voor de AI Act. Op het moment van schrijven ligt een rol voor de Autoriteit Persoonsgegevens bij gegevensbescherming en voor de Autoriteit Consument & Markt bij misleiding en oneerlijke praktijken. De Rijksinspectie Digitale Infrastructuur kan meekijken bij technische veiligheid en netwerkrisico’s. Samen moeten zij klachten afhandelen, marktonderzoek doen en boetes opleggen waar nodig.
Voor de publieke sector komen extra handleidingen. Overheden moeten impactanalyses uitvoeren voordat zij een algoritme inzetten. Ook vraagt de wet om traceerbaarheid: wie heeft het model getraind, welke data zijn gebruikt, en hoe wordt gemonitord op fouten? Gemeenten en ministeries werken al met algoritmeregisters om zichtbaar te maken welke systemen zij gebruiken.
De praktische gevolgen zijn groot. Inkoop van AI-diensten krijgt strengere eisen, zoals duidelijke SLA’s over veiligheid en het verwijderen van data. Leveranciers moeten uitleggen hoe zij deepfakes labelen en misbruik beperken. Overheidsorganisaties die generatieve systemen testen, zullen vaker afschakelmogelijkheden en menselijk toezicht eisen.
Wat nog ontbreekt bij bedrijven
Veel aanbieders publiceren nog geen volledige, onafhankelijke veiligheidsrapporten. Interne red-teams zijn nuttig, maar missen soms domeinkennis over bijvoorbeeld bioveiligheid of verkiezingsmanipulatie. Open protocollen voor evaluaties maken vergelijking tussen modellen lastig. Zonder gedeelde maatstaven blijft het gissen of een update echt veiliger is.
Toegang voor externe onderzoekers is ook beperkt. Sandboxes met streng toezicht bestaan, maar geven zelden inzage in ruwe modeluitvoer of trainingsdata. De EU-regels dwingen tot meer openheid, maar balanceren dat met bedrijfsgeheimen. Verwacht daarom samenvattingen en audits door geaccrediteerde partijen, niet volledige openbaarmaking.
Tot slot is het onduidelijk wie de noodrem bedient bij cloudmodellen. Een duidelijke scheiding tussen ontwikkelaar, uitbater en klant is nodig voor snelle interventies. Europese normen voor incidentmelding en kill-switches kunnen dat verduidelijken. Zolang die ontbreken, blijft het risico op traag of versnipperd ingrijpen bestaan.