Deze week gaf techexpert Bert Hubert zijn oordeel over nieuwe waarschuwingen van topmannen van OpenAI, Google DeepMind en Anthropic over ‘existentiële’ AI-risico’s. Hij noemt de boodschap “geen coherent verhaal”. De bestuurders vragen om stevige regels, terwijl hun eigen systemen snel groeien. De kwestie is urgent in Europa door de AI‑verordening en de gevolgen voor overheid en bedrijven.
Waarschuwingen blijven vaag
Topbestuurders van OpenAI, Google DeepMind en Anthropic riepen deze week opnieuw op tot wereldwijde actie tegen grote AI‑risico’s. De oproep werd eerder al gebundeld door het Center for AI Safety, met steun van tientallen onderzoekers en CEO’s. Het gaat om risico’s als verlies van controle over systemen en maatschappelijke ontwrichting. Maar concrete maatregelen en meetbare doelen ontbreken vaak.
Bert Hubert, bekend als oprichter van PowerDNS en technologiecommentator, vindt dat het verhaal rammelt. Hij wijst erop dat risico’s niet worden gewogen of afgebakend. Fundamentele definities en tijdlijnen blijven onduidelijk. Daardoor is niet te toetsen wat er precies moet gebeuren en wanneer.
Die vaagheid maakt het lastig voor toezichthouders en beleidsmakers. Zonder duidelijke criteria kun je geen effectieve regels maken. Ook bedrijven die AI inkopen weten dan niet waar zij aan toe zijn. Dat draagt bij aan onzekerheid in de markt.
“Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks.”
Belangen botsen bij Big Tech
Dezelfde bedrijven die waarschuwen, bouwen ook de krachtigste modellen, zoals GPT‑4 van OpenAI, Gemini van Google en Claude van Anthropic. Hun verdienmodel is schaal: meer data, meer rekenkracht, meer gebruikers. Dat verhoogt het maatschappelijk gewicht van hun keuzes. Het leidt ook tot spanning tussen commerciële doelen en publieke veiligheid.
Bestuurders pleiten geregeld voor ‘regulering’, maar laten open hoe streng die moet zijn en voor wie. Soms klinkt een voorkeur voor licenties of drempels die vooral nieuwkomers raken. Dat kan het risico van ‘regulatory capture’ vergroten: regels die de gevestigde orde beschermen. Hubert wijst daarom op het belang van heldere, algemeen geldende eisen.
Voor Europa is dit geen theoretische discussie. De vraag is of Big Tech hun claims wil onderbouwen met data, audits en toegang voor onderzoekers. Zonder die transparantie blijft het publieke debat afhankelijk van marketing en beloftes. En dat is een zwakke basis voor beleid.
AI‑verordening krijgt tanden
De Europese AI‑verordening (AI Act) is op het moment van schrijven in werking, met gefaseerde toepassing tot 2026. Het raamwerk verbiedt enkele praktijken, zoals sociaal krediet door de overheid, en legt strenge plichten op voor ‘hoog risico’-toepassingen. Dat zijn systemen die ingrijpen in zaken als onderwijs, werk, zorg of rechtshandhaving. Leveranciers moeten dan onder meer risicobeheer, datakwaliteit en menselijk toezicht aantoonbaar regelen.
Voor zogenoemde foundation- of algemene doeleinden‑modellen (GPAI) komen aparte plichten. Aanbieders moeten samenvattingen publiceren van gebruikte trainingsdata en Europese auteursrechten respecteren. Voor zeer krachtige modellen met ‘systemisch risico’ gelden extra veiligheidstesten, incidentmeldingen en cybersecurity‑eisen. Daarmee wil de EU juist de grootste spelers aan duidelijke, toetsbare normen binden.
De AVG blijft daarnaast gelden voor alle systemen die persoonsgegevens verwerken. Dataminimalisatie en versleuteling zijn basisvereisten. Organisaties moeten vooraf risico’s wegen, vaak via een gegevensbeschermingseffectbeoordeling (DPIA). Zo grijpen privacyrecht en de AI‑verordening in elkaar.
Nederland zoekt praktisch toezicht
De Europese Commissie bouwt een AI Office op voor coördinatie en handhaving bij grote modellen. Lidstaten wijzen eigen toezichthouders aan. In Nederland wordt gewerkt aan een opdrachtverdeling tussen bestaande autoriteiten, zoals de Autoriteit Persoonsgegevens en sectorinspecties. Het doel is om toezicht dicht bij praktijk en sectorexpertise te organiseren.
Overheden moeten intussen transparanter zijn over algoritmen die zij inzetten. Het landelijke algoritmeregister is daarbij een hulpmiddel. Gemeenten en ministeries kunnen zo uitleggen wat een systeem doet, welke data worden gebruikt en hoe besluiten worden gecontroleerd. Dat vergroot het vertrouwen en helpt fouten opsporen.
De recente geschiedenis laat zien waarom dat nodig is. Foute of ondoorzichtige modellen kunnen burgers hard raken, zoals bleek bij eerdere toeslagenkwesties. Heldere documentatie en onafhankelijke toetsing zijn daarom geen luxe, maar noodzaak. Zeker nu geavanceerde systemen snel hun weg vinden naar publieke diensten.
Toetsbare veiligheid is nodig
Huberts kernpunt is dat mooie woorden niet volstaan. Veiligheid vraagt om concrete eisen die iedereen begrijpt en kan controleren. Denk aan onafhankelijke red‑teaming (gerichte veiligheidstesten), gestandaardiseerde evaluaties en rapportage van incidenten. Zulke maatregelen maken beloften controleerbaar.
Transparantie over trainingsdata helpt bij het beoordelen van bias en auteursrechten. Ook duidelijke beperkingen op gebruik en heldere gebruikerswaarschuwingen zijn nodig. Watermerken voor synthetische media kunnen misleiding tegengaan. Maar die technieken moeten wel breed en interoperabel worden toegepast.
Daarnaast speelt rekenkracht een rol. Modellen met zeer hoge trainingscompute krijgen waarschijnlijk zwaardere plichten. Dat is logisch, omdat hun impact groter is. Het dwingt de grootste spelers tot extra zorgvuldigheid.
Gevolgen voor gebruikers en overheid
Voor Nederlandse organisaties betekent dit dat inkoop en gebruik van AI professioneler moeten. Vraag naar modelkaarten, eval‑rapporten en beveiligingsmaatregelen. Leg vast hoe een mens ingrijpt bij fouten, en train medewerkers in verantwoord gebruik. Dat beperkt risico’s én juridische aansprakelijkheid.
Burgers mogen meer transparantie verwachten, zeker bij overheidsbesluiten. Een duidelijke uitleg in gewoon Nederlands hoort daarbij. Als AI wordt gebruikt, moet dat zichtbaar en begrijpelijk zijn. En er moet altijd een laagdrempelige manier zijn om bezwaar te maken.
De komende jaren worden bepalend voor de richting van kunstmatige intelligentie in Europa. De AI‑verordening schetst het kader, maar de invulling gebeurt in de praktijk. Juist daarom is een coherent, toetsbaar verhaal nodig van bedrijven én beleidsmakers. Zonder dat blijft de kloof tussen waarschuwingen en werkelijkheid bestaan.