Elon Musk waarschuwt opnieuw voor risico’s van kunstmatige intelligentie. In recente publieke uitlatingen vraagt hij om streng toezicht en veiligheidstests. De ondernemer wil dat wetgeving gelijke tred houdt met de technologie. Zijn boodschap raakt ook Europa, met de AI‑verordening en de gevolgen voor overheid en bedrijven op de voorgrond.
Musk vraagt om toezicht
Elon Musk, op het moment van schrijven topman van Tesla, SpaceX en X, ziet krachtige algoritmen als mogelijk gevaarlijk zonder begrenzingen. Hij pleit voor duidelijke regels en onafhankelijke testen voordat systemen breed worden ingezet. Het doel is schade aan burgers en infrastructuur te voorkomen.
Hij wijst op “alignment”, het afstemmen van een systeem op menselijke waarden en doelen. Daarbij hoort een noodstop en controleerbare evaluaties, ook wel veiligheids- of red‑teamtests genoemd. Zulke testen zoeken vooraf actief naar fouten en misbruik.
De oproep is opvallend omdat Musk met xAI ook zelf meedoet in de AI‑wedloop. xAI bouwt Grok, een groot taalmodel (een systeem dat tekst voorspelt op basis van patronen in data). De waarschuwing is dus ook een appel aan concurrenten als OpenAI, Google, Meta en Anthropic.
Tempo overstijgt de regels
De ontwikkeling van zogeheten foundation models gaat snel. Modellen als GPT‑4, Claude, Gemini en Grok krijgen meer rekenkracht en data. Daardoor groeit hun vermogen, maar ook het risico op fouten en misleiding.
In Europa komt tegelijk het juridische kader op stoom. De AI‑verordening (AI Act) is van kracht en rolt gefaseerd uit, met kernverplichtingen die grotendeels vanaf 2026 gelden. Sommige verboden toepassingen gelden eerder, terwijl uitvoeringsrichtsnoeren nog worden uitgewerkt.
Voor Nederlandse organisaties betekent dit een overgangsperiode om processen aan te passen. Inventariseer welke systemen onder hoog risico vallen en wie verantwoordelijk is. Leg vast hoe u test, logt en corrigeert bij incidenten.
EU legt risico’s vast
De AI‑verordening werkt met risicoklassen en bijbehorende plichten. Bepaalde toepassingen worden verboden, zoals sociale scoring door overheden of manipulatie die schade veroorzaakt. Hoog‑risico systemen moeten aan strenge eisen voldoen voordat ze op de markt komen.
De AI‑verordening verdeelt systemen in verboden, hoog, beperkt en minimaal risico, met oplopende plichten voor testen, transparantie en toezicht.
Voor hoog risico gelden onder andere risicobeheer, datakwaliteit, menselijke controle, logging en documentatie. Fabrikanten moeten een conformiteitsbeoordeling doorlopen en een CE‑markering voeren. Dit sluit aan op de AVG, met eisen voor dataminimalisatie en beveiliging.
Foundation models en algemene AI (GPAI) krijgen eigen verplichtingen. Zogenoemde systemen met systemisch risico moeten extra toetsen, incidenten melden en energieverbruik rapporteren. Transparantie over trainingsdata en bekende beperkingen wordt verplicht.
Praktische gevolgen in Nederland
Publieke diensten zoals gemeenten, scholen en ziekenhuizen gebruiken steeds vaker algoritmen. Onder de AVG hoort daar een gegevensbeschermingseffectbeoordeling (DPIA) bij. Dataminimalisatie, versleuteling en duidelijke bewaartermijnen zijn nodig.
Inkoop en uitbesteding vragen scherpere contracten. Vraag leveranciers om toegang tot logbestanden, uitleg van modelupdates en hersteltermijnen bij fouten. Let op gegevenslocatie en verwerkersafspraken bij cloudproviders.
Burgers moeten weten wanneer zij met een chatbot of geautomatiseerd besluit te maken hebben. Organisaties horen een menselijk aanspreekpunt te bieden en bezwaar mogelijk te maken. Toezicht loopt via de nieuwe EU‑AI‑instellingen en, nationaal, via bestaande toezichthouders zoals de Autoriteit Persoonsgegevens.
Veiligheidstests blijven lastig
Veel systemen kunnen nog hallucineren: zij verzinnen feiten die niet kloppen. Ook vooringenomenheid in trainingsdata kan uitkomsten scheeftrekken. Bedrijven moeten daarom testen op juistheid, bias en robuustheid, en resultaten publiceren.
Open en gesloten modellen vragen elk om andere checks. Open modellen bieden meer inspectie, maar ook meer kans op ongewenst hergebruik. Gesloten modellen bieden minder inkijk, waardoor externe audits zwaarder wegen.
De kern van Musks waarschuwing blijft zo overeind: schaal pas op als de risico’s zijn beheerst. Met de AI‑verordening krijgt Europa hiervoor een harde ondergrens. Voor Nederland is 2025 het jaar om beleid, tooling en teams op orde te brengen.
