In Nederland en andere Europese landen kwamen dit weekend demonstranten bijeen om te waarschuwen voor risico’s van kunstmatige intelligentie. Actiegroepen als PauseAI vragen om een tijdelijke pauze op de ontwikkeling van de meest geavanceerde systemen. Zij vrezen dat modellen straks slimmer en autonomer worden dan mensen. Dat zou grote gevolgen hebben voor veiligheid, werk en democratie.
Protest wil pauze afdwingen
De organisatoren richten hun acties op bedrijven die zogenoemde frontier-modellen bouwen. Dat zijn de krachtigste algoritmen, die dankzij enorme rekenkracht snel beter worden. Activisten willen een moratorium op nieuwe, grotere modellen totdat onafhankelijke veiligheidstesten bestaan. Ook vragen zij om een vergunningstelsel voor partijen die aan deze topmodellen werken.
De beweging PauseAI is in korte tijd gegroeid met lokale afdelingen in meerdere Europese steden. Vrijwilligers delen folders, spreken in raadszalen en organiseren bijeenkomsten. Hun boodschap is eenvoudig: eerst zeker weten dat systemen veilig zijn, dan pas opschalen. Ze stellen dat marktconcurrentie nu het tempo bepaalt, niet veiligheid.
De zorgen gaan verder dan foutjes of bias in chatbots. Actiegroepen noemen scenario’s waarin systemen doelgericht handelen, misleiden of zichzelf vermeerderen over netwerken. Zulke gevaren klinken theoretisch, maar ze krijgen aandacht door de snelle sprongen in vermogen en autonomie van de nieuwste modellen.
Zorgen over slimmere systemen
De discussie draait vaak om kunstmatige algemene intelligentie, kortweg AGI. Dat is een systeem dat taken op of boven menselijk niveau kan uitvoeren, niet alleen in tekst maar ook in planning en besluitvorming. De stap naar zulke ‘algemene’ capaciteiten is onzeker in timing, maar wordt door diverse labs als doel genoemd. Daardoor groeit de roep om voorzorg.
AGI: een AI-systeem dat op of boven menselijk niveau uiteenlopende taken kan begrijpen, leren en uitvoeren, en deze kennis kan toepassen in nieuwe situaties.
Risico’s die protesteerders noemen zijn onder meer grootschalige misinformatie, geautomatiseerde cyberaanvallen en het misbruik van biologische kennis. Een model dat doelen kan plannen en middelen kan verzamelen, is moeilijker te controleren. Onderzoekers werken aan ‘alignment’, het afstemmen van modelgedrag op menselijke waarden. Maar zij erkennen dat dit nog geen opgeloste opgave is.
Ook economische en sociale effecten spelen mee. Snelle automatisering kan druk zetten op banen in administratie, klantenservice en delen van de creatieve sector. Tegelijk kan AI productiviteit verhogen, bijvoorbeeld in softwareontwikkeling. De kernvraag van het protest: hoe houd je voordelen, terwijl je onaanvaardbare risico’s uitsluit?
Techbedrijven verhogen tempo
Grote namen als OpenAI, Google (Gemini), Anthropic (Claude) en Meta (Llama) brengen in hoog tempo nieuwe modellen uit. OpenAI’s GPT-4o liet al multimodale functies zien, zoals luisteren, zien en spreken in één systeem. Google voegde lange-contextfuncties toe aan Gemini, wat het plannen en samenvatten van grote documenten vergemakkelijkt. Meta verspreidt open modellen als Llama 3, die in veel apps belanden.
Bedrijven benadrukken dat zij investeren in veiligheidsteams en rode-teams, die modellen testen op misbruik. Ze publiceren gebruiksregels en zetten detectie- en filtertechnieken in. Toch zijn die maatregelen grotendeels vrijwillig en niet uniform. Dat maakt het voor overheden lastig om prestaties en risico’s te vergelijken.
Daarnaast groeit de rekenkracht achter deze modellen door nieuwe chips en datacenters. Meer rekenkracht betekent vaak een sprong in capaciteiten. Veiligheidstechnieken groeien niet altijd even snel mee. Demonstranten willen daarom dat de opschaling pas doorgaat na onafhankelijke, bindende veiligheidsdrempels.
Europese regels nog onvolledig
De Europese AI-verordening (AI Act) deelt systemen in risicoklassen en stelt eisen aan bijvoorbeeld transparantie en menselijk toezicht. Generatieve modellen krijgen plichten rond herkomstmarkering van synthetische media en technische documentatie. Voor hoogrisico-toepassingen, zoals in zorg of overheid, gelden strengere voorwaarden. Deze regels treden gefaseerd in werking op het moment van schrijven.
Toch valt de snelste modelontwikkeling niet altijd netjes binnen de huidige categorieën. Frontier-modellen zijn algemeen inzetbaar en dus moeilijk te beoordelen per toepassing. De Europese Commissie werkt daarom aan uitvoeringshandreikingen en codes of practice. Die moeten helpen bij testen, rapporteren en het delen van incidenten.
Ook de AVG blijft belangrijk, omdat modellen vaak zijn getraind op grote hoeveelheden online data. Dat roept vragen op over toestemming, dataminimalisatie en het recht op bezwaar. Voor deepfakes en politieke content gelden bovendien plichten uit de Digital Services Act. Samen moeten deze regels misbruik beperken, maar ze vervangen nog geen specifieke ‘noodrem’ voor frontier-modellen.
Nederland zoekt stevig toezicht
In Nederland werken toezichthouders en ministeries aan praktische invulling van de AI-verordening. De Autoriteit Persoonsgegevens let extra op dataverwerking en scraping van openbare bronnen. Gemeenten en uitvoeringsorganisaties vragen om duidelijke richtlijnen voor inkoop en inzet van algoritmen. Zij willen weten wanneer een toepassing hoogrisico is en welke testen verplicht zijn.
Universiteiten en kennisinstellingen, zoals het Rathenau Instituut, vragen om meer middelen voor onafhankelijk onderzoek. Denk aan toegang tot rekenkracht en datasets om claims van bedrijven te toetsen. Zonder die basis is het lastig om veiligheid en effectiviteit objectief te beoordelen. Dit sluit aan bij oproepen van de demonstranten.
Politiek groeit de interesse in een vergunningstelsel voor de zwaarste modellen. Zo’n stelsel kan eisen stellen aan beveiliging, incidentmelding en externe audits. Het past binnen Europees beleid, mits lidstaten het gecoördineerd invoeren. Anders dreigt een lappendeken van regels en shopgedrag door bedrijven.
Eisen van de demonstranten
Actiegroepen vragen om drie concrete stappen. Ten eerste een pauze op het trainen van grotere modellen dan de huidige topgeneratie, totdat minimumveiligheid is aangetoond. Ten tweede bindende, onafhankelijke evaluaties met duidelijke stopknoppen. Ten derde transparantie over energieverbruik, dataherkomst en bekende risico’s.
Bedrijven kunnen op korte termijn al maatregelen nemen. Watermerken voor synthetische media en strengere toegang tot gevaarlijke functies verkleinen misbruik. Ook betere contentmoderatie en logging helpen bij toezicht en forensisch onderzoek. Zulke stappen zijn uitvoerbaar zonder het onderzoek stil te zetten.
Voor burgers verandert vooral hoe zij online informatie beoordelen. Herkomstlabels en waarschuwingen worden belangrijker bij video, audio en afbeeldingen. Overheden en media doen er goed aan om mediageletterdheid te versterken. Zo blijft vertrouwen in publieke informatiekanalen behouden, ook als AI krachtiger wordt.