Grote AI-bedrijven zetten steeds vaker zware doemscenario’s in om het debat te sturen. In Europa en Nederland speelt dit nu de regels voor kunstmatige intelligentie vorm krijgen. Het gaat om macht over wie mag bouwen, testen en uitrollen. De inzet is groot, omdat nieuwe regels direct gevolgen hebben voor overheden, bedrijven en burgers.
Angst stuurt het debat
Bedrijven als OpenAI, Google DeepMind en Anthropic waarschuwen publiekelijk voor verlies van controle over “algemene AI” (AGI: systemen die vrijwel elke taak kunnen leren). Dat beeld is herkenbaar en spectaculair, maar ook versimpeld. Het schuift dagelijkse risico’s naar de achtergrond, zoals fouten, misleiding en privacyschade. Het frame met films als The Terminator maakt het debat emotioneel, terwijl beleid nuchtere afwegingen vraagt.
Deskundigen zien hierin een communicatiestrategie. Door existentiële dreiging centraal te zetten, ontstaat draagvlak voor zwaardere, centrale controle op “frontier”-modellen, de krachtigste generatieve systemen. Zulke controle klinkt logisch, maar de invulling bepaalt wie toegang houdt tot data, rekenkracht en markten. Daarmee raakt het direct aan concurrentie en innovatie in Europa.
Ook media en politiek nemen het doemframe soms over. Daardoor gaat minder aandacht naar concrete knelpunten, zoals auteursrechten, transparantie en energieverbruik. Juist daar kan wetgeving nu al bijsturen. Het risico is dat Europa tijd verliest aan hypothetische scenario’s, terwijl huidige schade toeneemt.
Existentiële risico’s zijn gevaren die het voortbestaan van de mens of onze samenleving bedreigen. Ze zijn zeldzaam, maar krijgen veel aandacht door hun impact.
Grote spelers sturen regels
OpenAI, Anthropic, Google en Microsoft presenteerden het afgelopen jaar gezamenlijke veiligheidskaders voor zeer krachtige modellen, zoals GPT-4o, Claude 3 en Gemini. Zulke kaders vragen om testen, monitoring en eventueel een “uitknop”. Dat klinkt verantwoord, maar komt vaak uit dezelfde bedrijven die de modellen maken. Critici waarschuwen voor belangenverstrengeling en sturing van de meetlat.
In internationale toppen zoals de AI Safety Summit in het VK en in Seoul kregen deze voorstellen veel podium. De boodschap: vergunningsplichten en drempels voor het trainen van de grootste systemen. Dat kan publieke waarden beschermen, maar legt ook hoge lasten op die vooral grote spelers kunnen dragen. Kleinere Europese ontwikkelaars en start-ups dreigen zo buiten te vallen.
De Europese AI-verordening (AI Act) zet hier een eigen lijn naast. Die wet legt specifieke plichten op aan algemene AI-systemen (GPAI: modellen die voor veel taken inzetbaar zijn) en aan modellen met “systemisch risico”. Toezicht komt bij het nieuwe AI Office van de Europese Commissie, met nationale autoriteiten als uitvoerders. Daarmee probeert Europa zowel veiligheid als eerlijke concurrentie te borgen.
Nabije risico’s vragen prioriteit
De directe problemen zijn tastbaar. Generatieve systemen hallucineren geregeld, wat betekent dat ze zelfverzekerd verkeerde of verzonnen antwoorden geven. Dat raakt burgers, journalisten en overheden die op zulke uitkomsten vertrouwen. Ook deepfakes en synthetische desinformatie kunnen verkiezingen en publieke debatten verstoren.
Privacy en auteursrecht spelen een centrale rol. Modellen zoals GPT-4o, Gemini en Claude 3 zijn getraind op enorme hoeveelheden tekst, beeld en geluid. Onder de AVG gelden daarvoor grenzen, zoals dataminimalisatie en een duidelijke rechtsgrond. In Europa lopen, op het moment van schrijven, onderzoeken en klachten over dataverzameling en foutenherstel.
Arbeid en veiligheid krijgen eveneens gewicht. Moderatoren en data-labelers werken soms onder hoge druk, met risico op mentale belasting. Voor de Europese markt geldt bovendien de productaansprakelijkheid: wie AI in een dienst inbouwt, draagt verantwoordelijkheid voor schade. Dat zijn urgente, concrete punten waar beleidsmakers snel op kunnen sturen.
Nederlandse gevolgen voor beleid
Voor Nederlandse overheden geldt de AI Act direct bij inkoop en gebruik van algoritmen. Toepassingen in zorg, werk en veiligheid vallen vaak in een hoge risicoklasse met strenge eisen voor testen, uitlegbaarheid en menselijk toezicht. Het Rijksbrede Algoritmekader helpt daarbij met praktische stappen, zoals een risicoanalyse en documentatie. Dat sluit aan op de AVG en sectorregels.
Gemeenten experimenteren met taalmodellen voor dienstverlening, bijvoorbeeld samenvattingen of webteksten. Daar horen impactassessments bij en maatregelen tegen vooroordelen en fouten. Logging en een goed klachtenproces zijn nodig om burgers te beschermen. Transparantie over het gebruikte model en de rol van de mens is daarbij verplichtend én verstandig.
Toezichthouders krijgen een zwaardere taak. De Autoriteit Persoonsgegevens kijkt naar dataverwerking en rechten van betrokkenen. De Autoriteit Consument & Markt let op oneerlijke handelspraktijken en machtsposities. Samenwerking met het Europese AI Office moet zorgen voor consistente handhaving.
Open modellen krijgen ruimte
Meta zet met Llama 3 in op open modellen die breder beschikbaar zijn. In Europa is daar interesse voor, omdat open bron innovatie en controle kan vergroten. De AI Act bevat daarom uitzonderingen voor open-source componenten om onderzoek en mkb niet te blokkeren. Tegelijk blijven plichten gelden als een model systemisch risico oplevert of in een hoog-risicotoepassing belandt.
Voor Nederlandse kennisinstellingen en startups biedt dit kansen. Ze kunnen modellen lokaal trainen op Europese cloudinfrastructuur en beter voldoen aan de AVG. Dat verkleint afhankelijkheid van gesloten Amerikaanse systemen. Maar het vergt ook investeringen in evaluatie, beveiliging en energiezuinige hardware.
Het inhoudelijke debat moet daarom breder zijn dan alleen “gevaar” of “vrijheid”. Het gaat om concrete waarborgen, eerlijke toegang en handhaafbare regels. Open modellen, duidelijke documentatie en onafhankelijke tests kunnen samen optrekken. Zo wordt angst geen strategie, maar een reden om het fundament goed te leggen.
Balans tussen risico en innovatie
Angstbeelden alleen leveren geen werkbaar beleid op. Heldere normen uit de AI Act, de AVG en sectorregels geven houvast voor overheden en bedrijven. De uitdaging is nu om die normen door te vertalen naar praktijk: van aanbesteding tot audit. Dat kan zonder het debat te gijzelen door extreme scenario’s.
Europa kiest voor toetsing en transparantie, niet voor een pauzeknop. Dat vraagt om onafhankelijke evaluaties van modellen, inclusief rapporten over prestaties, energiegebruik en fouten. Bedrijven moeten die informatie leveren, en toezichthouders moeten die kunnen controleren. Zo blijft de markt open, maar niet grenzeloos.
Voor het publiek telt vooral: werkt het systeem, en voor wie? Minder nadruk op sciencefiction en meer op rechten, herstel en keuzes helpt daarbij. Met nuchtere regels en controle kan Europa risico’s beperken en toch innoveren. Dat is de kern van de Europese aanpak, op het moment van schrijven in invoering.