Topmensen uit de Amerikaanse AI-sector waarschuwen deze week in Washington voor extreme gevaren van krachtige systemen. Ontwikkelaars van onder meer OpenAI, Anthropic en Google DeepMind zeggen dat kunstmatige intelligentie op termijn alle mensen kan doden als er geen harde regels komen. Zij vragen om wettelijke tests en toezicht vóór uitrol van nieuwe modellen. In Europa spelen tegelijk de Europese AI-verordening en de gevolgen voor overheid en bedrijven een grote rol.
Ontwikkelaars vragen om regels
De bedrijven achter GPT-4, Claude 3 en Gemini vragen politici om verplichte veiligheidskeuringen. Zij willen dat “frontier”-modellen, de krachtigste datamodellen, pas live gaan na onafhankelijke tests. Ook pleiten zij voor licenties voor labs die zulke systemen trainen. Een licentie is een officiële toestemming met voorwaarden en controle.
Daarnaast vragen zij om monitoring van rekenkracht en risicovolle functies, zoals ontwerp van biologische agentia of geavanceerde cyberaanvallen. Ook noemen zij audits door derden, zogeheten red-teams (teams die actief naar zwakke plekken zoeken), en een noodknop om een model snel uit te schakelen. Die maatregelen moeten fouten, misbruik en verlies van controle voorkomen.
In de VS bestaat op het moment van schrijven nog geen brede AI-wet. Het Witte Huis heeft wel een Executive Order met richtlijnen en evaluaties via NIST, het nationale standaardisatie-instituut. Grote techbedrijven, waaronder Microsoft en Google, deden vrijwillige beloftes, maar die zijn niet juridisch bindend.
“Het verkleinen van het risico op uitsterving door AI moet wereldwijd een prioriteit zijn, naast andere maatschappelijke risico’s zoals pandemieën en kernoorlog.” — Center for AI Safety (2023)
Wat existentieel risico is
Een existentieel risico is een gevaar dat het voortbestaan van de mensheid bedreigt. Bij AI gaat het om systemen die zelfstandig plannen maken en handelen op internet. Als zo’n systeem verkeerde doelen volgt of slim wordt misbruikt, kan de schade heel groot zijn.
Grote, algemene modellen — zoals GPT-4 van OpenAI, Claude 3 van Anthropic en Gemini van Google — leren uit enorme hoeveelheden tekst, beeld en code. Ze kunnen daardoor veel taken uitvoeren, van programmeren tot het maken van deepfakes. Die brede inzetbaarheid vergroot ook de kans op onverwachte effecten.
Tegelijk zijn deze algoritmen op dit moment nog feilbaar. Ze hallucineren soms, of geven zelfverzekerde maar foute antwoorden. Juist deze mix van kracht en onvoorspelbaarheid voedt de zorgen en de roep om voorafgaande testen en duidelijke grenzen.
VS zonder brede AI-wet
Het Amerikaanse Congres werkt aan plannen, maar heeft nog geen alomvattende AI-wet. De Executive Order van de president verplicht wel tot risicobeoordelingen voor zeer krachtige modellen en stimuleert watermerken voor AI-beeld en -audio. Toch is er veel nog vrijwillig of verdeeld over meerdere instanties.
Een deel van de regelgeving verschuift daardoor naar staten en toezichthouders. Sommige staten werken aan eigen veiligheidseisen en transparantieregels. Voor bedrijven blijft het landschap zo gefragmenteerd en onzeker.
De oproep van ontwikkelaars is daarom ook praktisch: zij willen heldere, nationale minimumnormen. Denk aan standaardtests, incidentmelding en aansprakelijkheid bij schade. Dat moet innovatie mogelijk houden, maar met duidelijke randvoorwaarden.
Europese AI-verordening gevolgen overheid
De Europese AI-verordening (AI Act) is op het moment van schrijven in werking getreden en geldt stapsgewijs vanaf 2025 en 2026. De wet verbiedt enkele toepassingen, zoals social scoring door overheden en bepaalde vormen van biometrische surveillance. Hoog-risicosystemen in zorg, onderwijs, werk en publieke diensten krijgen strenge plichten rond datakwaliteit, menselijk toezicht en registraties.
Voor algemene AI-modellen (GPAI) komen transparantie-eisen, zoals technische documentatie en samenvattingen van trainingsdata. Modellen met “systemisch risico” — de allergrootste, getraind met zeer veel rekenkracht — moeten extra evaluaties doen en ernstige incidenten melden bij het Europese AI Office. Dit kantoor coördineert toezicht met nationale autoriteiten.
Voor Nederlandse overheden betekent dit: vooraf impact beoordelen, passende waarborgen inbouwen en systemen registreren. Ook inkoop verandert: contracten met leveranciers moeten voldoen aan de AI Act en de AVG, zoals dataminimalisatie en goede beveiliging. Boetes kunnen oplopen tot 7 procent van de wereldwijde omzet bij ernstige overtredingen.
Nederland bereidt toezicht voor
In Nederland zullen meerdere toezichthouders taken krijgen bij de handhaving, gecoördineerd met Brussel. Publieke organisaties gebruiken nu al instrumenten als de IAMA (impacttoets op mensenrechten en algoritmen) en de DPIA onder de AVG. Steeds meer gemeenten en rijksdiensten publiceren algoritmen in een openbaar register.
Voor burgers blijft het recht op menselijke tussenkomst bij geautomatiseerde besluiten belangrijk. Overheidsdiensten moeten duidelijk maken wanneer een chatbot of beslissysteem wordt gebruikt. Transparantie en uitlegbaarheid zijn plicht, zeker bij hoog-risicosystemen.
Ook bestuurlijke processen veranderen. Bestuurders moeten risico’s actief wegen, incidenten kunnen melden en stoppen, en periodiek evalueren. Dit vraagt om nieuwe rollen, opleidingen en budget voor veilige implementatie.
Gevolgen voor bedrijven en labs
Bedrijven die krachtige datamodellen ontwikkelen of inkopen, moeten hun veiligheidsproces op orde brengen. Denk aan onafhankelijke red-teams, capability-evaluaties en een noodrem. Voor contenttools komen eisen voor labeling en watermerken, om deepfakes herkenbaar te maken.
Voor Europese inzet van modellen als GPT-4, Claude 3 en Gemini zijn duidelijke afspraken nodig over data, aansprakelijkheid en support. Leveranciers moeten technische documentatie delen; afnemers moeten gebruiksrisico’s beheersen. Ernstige incidenten moeten snel bij autoriteiten worden gemeld.
Start-ups krijgen meer compliance-werk, maar ook meer rechtszekerheid. Sandboxen en steunprogramma’s kunnen helpen bij toetsing zonder groei te remmen. De hoofdboodschap uit Washington en Brussel is één en dezelfde: krachtige systemen vragen om krachtige waarborgen.