Donald Trump en Chinese regeringskringen zetten deze week vraagtekens bij waarschuwingen van topmensen van OpenAI, Google DeepMind en Anthropic. Zij noemen dreigingen rond superintelligentie bangmakerij die strenge regels moet rechtvaardigen. Het debat speelt in de VS en China, terwijl techbestuurders juist pleiten voor internationale afspraken. Dit raakt ook Europa en de AI-verordening: wat zijn de gevolgen voor overheid en bedrijven.
Politieke afwijzing van doemscenario’s
Donald Trump, op het moment van schrijven een toonaangevende Amerikaanse politicus, zet de waarschuwingen over “existentiële” AI-risico’s weg als overdreven. Hij stelt dat angstretoriek vooral grote techbedrijven helpt, omdat zware vergunningseisen kleinere spelers buitensluiten. Dat past in een bredere Amerikaanse discussie over wie AI mag bouwen en onder welke regels. Het draait daarbij minder om techniek en meer om macht en marktaandeel.
In China wordt dezelfde waarschuwing eveneens afgezwakt. Partijmedia en regeringskringen schilderen sombere AI-scenario’s af als politiek gemotiveerd. Zij zien het als een poging om Chinese innovatie te remmen met extra lasten en exportbeperkingen. De kernboodschap is dat regulering niet mag worden gebruikt als geopolitiek instrument.
Zo ontstaat een opmerkelijke overlap: zowel Trump als Chinese officials framen de risico-taal van topbestuurders als bangmakerij. De inzet is verschillend, maar het effect is gelijk. Zwaar reguleren zou bestaande machtsposities verstevigen, is de kritiek. De vraag is of regels vooral publieke veiligheid dienen, of ook concurrenten op afstand zetten.
AI-leiders waarschuwen al langer
Topmensen uit de sector klinken al sinds 2023 alarm. Bestuurders van OpenAI, Google DeepMind en Anthropic steunen toen een korte verklaring van het Center for AI Safety. Die stelde dat zeer krachtige generatieve systemen een maatschappelijk risico kunnen vormen, vergelijkbaar met pandemieën of nucleaire dreiging. Zij vragen om internationale samenwerking en toetsing voor zogenoemde “frontier”-modellen, de zwaarste klasse datamodellen met extreem veel rekenkracht.
“Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks.” — Center for AI Safety (2023)
De voorgestelde aanpak draait om onafhankelijke veiligheidstesten, incidentmelding en grenzen aan trainingsdata en energieverbruik. Dat moet misbruik en onbedoelde schade voorkomen. Ook wordt vaker een vergunningenstelsel genoemd voor de meest krachtige modellen. Voor lichtere toepassingen zouden lichtere regels gelden.
Tegelijk erkennen de bedrijven dat innovatie ruimte nodig heeft. Daarom pleiten zij voor risicogebaseerd beleid. Het idee: hoe groter de impact en autonomie van een systeem, hoe strenger de eisen. Zo moeten regels aansluiten op het werkelijke gevaar, niet op de hype.
Belangen achter het debat
De botsing gaat niet alleen over veiligheid, maar ook over marktmacht. Grote spelers met datacenters en beveiligingsteams kunnen strenge audits aan. Start-ups en open-sourceprojecten hebben die middelen vaak niet. Daardoor kan een hoog toegangshek onbedoeld uitpakken als een voordeel voor gevestigde namen.
Voorstanders van stevige regels wijzen juist op precedent uit andere sectoren. Denk aan luchtvaart en medicijnen, waar onafhankelijke keuring standaard is. Zij willen vergelijkbare “pre-flight checks” voor modellen die miljarden gebruikers kunnen raken. Zonder basisregels is het moeilijk om fouten, bias en misleiding te verminderen.
Critici vrezen dat brede vergunningplichten innovatie vertragen en transparantie schaden. Zij pleiten voor open benchmarks en nuchtere, meetbare veiligheidstesten. Begrippen als “evals” (korte risico-tests) en “red teaming” (aanvallen nabootsen om zwaktes te vinden) zijn daarbij middelen, geen doel. De kern blijft: bewijs leveren dat een systeem veilig genoeg is voor het beoogde gebruik.
Europa kiest risicobenadering
De Europese AI-verordening (AI Act) kiest op het moment van schrijven voor een risicogebaseerde aanpak. Verboden praktijken gelden snel, zoals manipulatieve systemen die kwetsbaren misbruiken. Hoog-risico toepassingen, bijvoorbeeld in zorg, onderwijs en overheid, krijgen zware eisen voor data, testen en toezicht. Algemene-doeleinden-AI (GPAI), zoals grote taalmodellen, krijgt transparantieplichten en extra regels bij “systemisch risico”.
De invoering gebeurt stapsgewijs tussen 2025 en 2027. Het nieuwe European AI Office coördineert, samen met nationale autoriteiten. In Nederland krijgt de Autoriteit Persoonsgegevens een belangrijke rol waar persoonsgegevens worden verwerkt. De AVG blijft van kracht, met principes als dataminimalisatie, doelbinding en versleuteling.
Europa schuift zo niet mee in absolute doemscenario’s, maar focust op concrete schade. Het legt nadruk op documentatie, robuuste testen en duidelijke verantwoordelijken. Dat sluit aan bij bestaande Europese praktijken rond productveiligheid en consumentenbescherming. Bedrijven moeten kunnen aantonen dat hun algoritmen doen wat ze beloven, zonder onnodige risico’s.
Gevolgen voor Nederlandse organisaties
Voor Nederlandse overheden en bedrijven betekent dit duidelijke huiswerk. Breng in kaart waar algoritmen beslissingen beïnvloeden, vooral bij burgers en patiënten. Koppel elk systeem aan een risicoklasse en leg ontwerpkeuzes vast in modelkaarten en datadocumentatie. Zorg voor onafhankelijke tests, logging en een plan voor incidentmelding.
Bij inzet van generatieve systemen, zoals GPT-achtige modellen, hoort uitleg voor gebruikers. Geef aan dat output kan bevatten die onjuist of verouderd is. Beperk gevoelige data-invoer en pas filters toe tegen misleiding en deepfakes. Dat is zowel goed risicobeheer als voorbereiding op Europese handhaving.
Leveranciers moeten kunnen aantonen dat zij voldoen aan de AI Act en de AVG. Vraag daarom om auditrapporten, beveiligingsstandaarden en informatie over trainingsdata en herkomst. Open-source componenten blijven mogelijk, mits de integrator de eindverantwoordelijkheid neemt. Zo wordt innovatie verenigd met aantoonbare zorgplicht.
Wat er nu echt speelt
De kern van het nieuws is geen technisch geschil, maar een machtsstrijd over de spelregels. AI-bestuurders vragen om internationale waarborgen voor de zwaarste modellen. Trump en Chinese officials zien daarin vooral een poging om concurrentie en geopolitiek te sturen. Europa kiest intussen voor meetbare, risicogebaseerde plichten die direct gevolgen hebben voor de praktijk.
Voor Nederlandse lezers is de les nuchter: maak AI aantoonbaar veilig, leg keuzes vast en test onafhankelijk. Dat past in de AI-verordening en in de AVG, en helpt vertrouwen op te bouwen. Het debat over bangmakerij zal doorgaan, maar regels richten zich hier op concrete schade. Daar ligt de lat voor bestuurders, ontwikkelaars en toezichthouders.