Een vooraanstaande AI-veiligheidsonderzoeker waarschuwt dat kunstmatige intelligentie binnen tien jaar de mensheid kan vernietigen. Hij schat de kans hoger dan tien procent. De uitspraak, gedaan in een recent interview in de Verenigde Staten, zet het debat over risicoās van krachtige systemen op scherp. De waarschuwing komt op een moment dat bedrijven als OpenAI, Google DeepMind en Anthropic hun modellen versneld verbeteren en de Europese AI-verordening de gevolgen voor overheid en bedrijven aanscherpt.
Waarschuwing schuift grens op
De expert stelt dat de ontwikkeling richting zogeheten algemene kunstmatige intelligentie versnelt. Dat is een systeem dat breed inzetbaar is en menselijk denkwerk kan evenaren of overtreffen. Volgens hem zijn er nog te weinig harde veiligheidsmaatregelen, zoals noodstops en robuuste testmethoden. Daardoor vindt hij de kans op een catastrofe reƫel binnen tien jaar.
Het gaat om het scenario waarin een algoritme eigen doelen gaat nastreven en zich onttrekt aan menselijk toezicht. Zulke systemen worden soms āfrontiermodellenā genoemd, omdat ze de grenzen van wat kan opzoeken. Voorbeelden van krachtige modellen zijn GPT-4o van OpenAI, Gemini 1.5 van Google en Claude 3.5 van Anthropic. Deze modellen worden al ingezet in zoekfuncties, klantenservice en softwareontwikkeling.
De uitspraak vergroot de druk op ontwikkelaars en toezichthouders. Als de kansinschatting klopt, is er minder tijd voor uitgebreide proefprojecten en vrijwillige richtlijnen. Dan zijn afdwingbare regels, transparante risicometing en noodprocedures belangrijker. Ook publieke instellingen in Europa moeten dan sneller hun inkoop en toezicht aanpassen.
āDe kans is groter dan tien procent dat AI de mensheid in tien jaar vernietigt.ā
Kansinschatting blijft omstreden
Andere prominenten in het vakgebied zijn verdeeld over dit risico. Sommige onderzoekers, zoals Geoffrey Hinton, spreken publiek over een serieuze maar onzekere kans op grote schade binnen enkele decennia. Anderen, zoals Yann LeCun van Meta, vinden het scenario van uitroeiing onwaarschijnlijk en wijzen op het ontbreken van bewijs. Er is dus geen wetenschappelijke consensus.
Wat wel breed wordt gedeeld: de noodzaak van betere testen en duidelijke veiligheidsnormen. Evaluaties meten nu vooral gedrag in het lab, niet in de echte wereld. Dat maakt het lastig om te voorspellen hoe een model zich gedraagt na uitrol. Onzekerheid over impact voedt zowel voorzichtigheid als scepsis.
Ook de tijdlijn is onderwerp van debat. āTien jaarā is geen harde voorspelling maar een risicovenster. Het is bedoeld om beleid en bedrijven aan te zetten tot preventie, vergelijkbaar met risicodenken in luchtvaart of kernenergie. Daarin is de norm: lage kans, maar hoge impact vraagt om sterke waarborgen.
EU-wet zet veiligheidskaders
De Europese AI-verordening (AI Act) introduceert risicoklassen en plichten voor aanbieders en gebruikers. Hoog-risicosystemen, zoals algoritmen voor werving of zorg, moeten aan strikte eisen voldoen. Denk aan menselijke controle, goede data, en duidelijke documentatie. Bij overtredingen kunnen hoge boetes volgen, vergelijkbaar met de AVG.
De wet bevat ook regels voor generieke of algemene AI-systemen (GPAI), zoals GPT-4o of Gemini. Modellen met āsystemisch risicoā krijgen extra plichten, zoals grondige veiligheidsĀtests en rapportage aan een Europees AI Office. Op het moment van schrijven werken Brussel en lidstaten aan uitvoeringsrichtsnoeren en toezichtstructuren. Lidstaten wijzen nationale toezichthouders aan die samenwerken met de Europese Commissie.
Voor Nederland betekent dit meer aandacht voor inkoop, toezicht en handhaving. Overheden en publieke instellingen moeten bij gebruik van AI ook voldoen aan de AVG, met eisen als dataminimalisatie en privacy by design. De combinatie van AI Act en AVG raakt direct aan dossiers als zorg, onderwijs en gemeentelijke dienstverlening. Dat vraagt om processen voor risicoanalyse, incidentmelding en menselijk toezicht.
Bedrijven versnellen, waarborgen ontbreken
Techbedrijven rollen sneller nieuwe functies uit, van spraakgestuurde assistenten tot codehulp. OpenAI, Google DeepMind, Anthropic en Meta investeren in veiligheidsteams, rode-teamtests en modelkaarten. Zulke maatregelen beschrijven wat een model kan en waar de grenzen liggen. Toch is de dekking nog wisselend en niet overal onafhankelijk getoetst.
Een bekend probleem is āalignmentā: zorgen dat een systeem doet wat mensen willen, ook buiten tests. Methoden als grondregel-training en feedback van gebruikers helpen, maar blijven beperkt. Evaluaties voorspellen niet altijd gedrag bij misbruik of in onverwachte situaties. Bovendien kunnen opengewogen modellen sneller worden aangepast of gecombineerd, wat toezicht bemoeilijkt.
Transparantie over trainingsdata en energieverbruik is vaak beperkt. Bedrijven noemen concurrentieredenen en beveiliging. Beleidsmakers willen juist meer inzicht om risicoās te beoordelen. De AI Act probeert dit te balanceren met rapportageplichten en proportionele eisen per risicoklasse.
Gevolgen voor overheid en bedrijven
Organisaties die AI inzetten, moeten nu al praktische stappen zetten. Begin met een Data Protection Impact Assessment (DPIA) bij persoonsgegevens, zoals de AVG eist. Leg vast welke data worden gebruikt, met welk doel en hoe lang. Zorg voor versleuteling en toegangsbeheer om misbruik te voorkomen.
Voer een AI-risicobeoordeling uit per toepassing. Bepaal of het systeem in de hoge-risicoklasse valt onder de AI Act. Stel menselijke controle in bij beslissingen met grote gevolgen, zoals bij zorg, krediet of selectie. Organiseer een ākill switchā en een incidentproces voor snelle ingrepen.
Vraag leveranciers van modellen als GPT-4o, Gemini of Claude om testresultaten, beveiligingsmaatregelen en herleidbaarheid van outputs. Leg in contracten afspraken vast over updates, auditrechten en aansprakelijkheid. Train medewerkers in veilig gebruik en herkenning van fouten of hallucinaties. Zo worden risicoās verlaagd, terwijl voordeel uit AI mogelijk blijft.
De harde waarschuwing over een kans groter dan tien procent zal het beleid verder aanjagen. Of het scenario uitkomt, is onzeker, maar de impact zou enorm zijn. Dat maakt preventie en controle urgent. Met de AI Act, de AVG en duidelijke praktijkregels kan Europa de risicoās verkleinen en toch innovatie ruimte geven.