Hoogleraar Stef Joosten waarschuwt deze week in Limburg voor de grootste risico’s van kunstmatige intelligentie. In een interview zegt hij dat AI in het uiterste geval de wereld kan laten vergaan. Hij wijst op de snelle opmars van generatieve systemen zoals ChatGPT en Gemini, en het gebrek aan duidelijke remmen. Daarmee komen ook de Europese AI‑verordening en de gevolgen voor de overheid nadrukkelijk op de agenda.
Hoogleraar waarschuwt voor risico’s
Joosten schetst een ernstig maar nuchter beeld van waar AI naartoe kan gaan. Hij spreekt over “existentiële” risico’s, wat betekent: risico’s voor het voortbestaan van de mensheid. Het is geen voorspelling, maar een mogelijkheid die beleid en toezicht vraagt. Hij vindt het belangrijk om nu grenzen te stellen.
De hoogleraar wijst op twee soorten gevaren. Op korte termijn zijn er fouten, misinformatie en discriminatie door datamodellen. Op lange termijn kunnen zeer krachtige systemen zichzelf verbeteren of cruciale infrastructuur sturen. Juist die combinatie maakt volgens hem voorzichtigheid nodig.
De directe aanleiding is de razendsnelle inzet van generatieve AI. Grote taalmodellen, kortweg LLM’s, maken teksten, code en beelden op basis van patronen in data. Mensen gebruiken ze al in werk, school en overheidstaken. De maatschappelijke afhankelijkheid groeit met de dag.
“AI, het zou kunnen dat de wereld erdoor vergaat.”
Snelle groei generatieve systemen
Generatieve AI betekent dat een systeem nieuwe inhoud maakt, zoals tekst of beeld. Het model voorspelt het volgende woord of de volgende pixel op basis van voorbeelddata. Dat werkt vaak verbluffend goed, maar het is geen begrip van de werkelijkheid. Daardoor kan het systeem ook zelfverzekerd onzin produceren; dat heet een hallucinatie.
Bekende namen zijn ChatGPT van OpenAI, Gemini van Google, Claude van Anthropic en Llama 3 van Meta. Veel mensen gebruiken ze via Microsoft Copilot of tools in Google Workspace. Ook kleinere Europese aanbieders brengen modellen op de markt. Die komen soms met beloftes over privacy of openheid, maar dezelfde risico’s spelen daar ook.
De diensten zijn krachtig, maar kwetsbaar. Ze kunnen worden misleid met slimme opdrachten, zogeheten prompt-injecties. De herkomst van trainingsdata is vaak onduidelijk, wat botsingen met de AVG en het auteursrecht geeft. Op het moment van schrijven worstelen aanbieders nog met goede bronvermelding en veilige dataverwerking.
Europese AI‑verordening nadert invoering
De Europese AI‑verordening, ook wel AI Act, stelt een risicogericht kader vast. Onaanvaardbare toepassingen, zoals sociale scoring door de overheid, worden verboden. Voor hoog-risicosystemen komen strenge eisen, zoals risicobeheer, datakwaliteit en menselijke controle. Het doel is veiligheid, transparantie en gelijke behandeling.
Voor zogenoemde general‑purpose AI, waaronder GPT‑4, Gemini en Llama 3, gelden extra plichten. Aanbieders moeten technische documentatie leveren en duidelijke informatie geven aan afnemers. Voor de krachtigste modellen met mogelijk “systemisch risico” komen zwaardere evaluaties en incidentmeldingen. Daarmee raakt de wet direct aan big tech én aan partijen die zulke modellen inbouwen.
De invoering verloopt stapsgewijs. Verboden toepassingen gelden eerder, andere verplichtingen volgen later. Grote delen van de wet gaan tussen 2025 en 2026 gelden, met boetes bij overtreding. Op het moment van schrijven werken Brussel en lidstaten aan geharmoniseerde normen die bedrijven houvast moeten geven.
Nederland regelt scherper toezicht
Nederland bereidt een netwerk van toezichthouders voor de AI‑verordening voor. De Autoriteit Persoonsgegevens bewaakt privacy en de AVG. De Autoriteit Consument & Markt let op oneerlijke praktijken richting klanten. De Rijksinspectie Digitale Infrastructuur kan optreden als markttoezichthouder voor AI‑producten en -diensten, op het moment van schrijven in opbouw.
Overheden krijgen praktische taken. Denk aan een algoritmeregister, een Data Protection Impact Assessment (DPIA) en dataminimalisatie. Gegevens moeten versleuteld worden opgeslagen en gedeeld op basis van duidelijke grondslagen. Ook aanbestedingen moeten eisen stellen aan uitlegbaarheid en audit.
Voor bedrijven betekent dit nieuw huiswerk. Hoog‑risico‑toepassingen moeten aantoonbaar veilig zijn en onder menselijke controle staan. Documentatie, logbestanden en evaluaties worden verplicht. De boetes bij overtreding kunnen oplopen tot tientallen miljoenen euro’s of een percentage van de wereldwijde omzet.
Gevolgen voor burgers nu
Burgers zien de impact al in hun dagelijks leven. Deepfakes en misleidende berichten duiken op rond verkiezingen en grote nieuwsgebeurtenissen. Platforms voegen labels toe, maar die werken nog niet altijd goed. Mediawijsheid en broncontrole blijven daarom nodig.
Op het werk automatiseert AI delen van taken, zoals klantenservice en tekstproductie. Dat kan tijd schelen, maar ook banen veranderen of verdwijnen. HR‑selectie met algoritmen kan onbedoeld discrimineren. Bedrijven moeten dat actief testen en corrigeren, in lijn met gelijke‑kans‑wetgeving en de AI‑verordening.
In de publieke sector schakelen gemeenten en uitvoeringsorganisaties chatbots en beslissystemen in. Burgers hebben rechten onder de AVG, zoals inzage en correctie. Bij ingrijpende besluiten hebben zij recht op menselijke tussenkomst, niet alleen een algoritmische beoordeling. Heldere uitleg in begrijpelijke taal hoort daar bij.
Nuchtere inzet en veiligheid eerst
De oproep van Joosten is niet om AI te verbieden, maar om het nuchter te houden. Werk met duidelijke doelen, beperk toegang en test systemen streng. Zorg voor ‘kill‑switches’ en noodprocedures. En publiceer wat het model wel en niet kan.
Organisaties kunnen vandaag al stappen zetten. Begin met risicoanalyses, dataschoonmaak en klein starten in gecontroleerde omgevingen. Documenteer beslissingen, stel verantwoordelijken aan en betrek de OR en de privacy‑officer. Leg ook vast hoe klachten en incidenten worden afgehandeld.
Voor aanbieders van modellen is transparantie cruciaal. Denk aan modelkaarten, herkomst van data en veilige API‑instellingen. Onafhankelijke audits en red‑teaming maken claims toetsbaar. Zo groeit vertrouwen zonder valse zekerheid.