In de Verenigde Staten werken congresleden aan de AI Kill Switch Act. Die wet moet het mogelijk maken om kunstmatige-intelligentiesystemen snel stil te leggen bij acuut gevaar. Het initiatief speelt in Washington en krijgt op het moment van schrijven vorm in nieuwe conceptteksten. Aanleiding zijn zorgen over veiligheid, verkiezingsmisleiding en risico’s voor kritieke infrastructuur, met mogelijke gevolgen voor de Europese AI-verordening en de gevolgen voor overheid en bedrijven.
Noodstop voor AI-systemen
De AI Kill Switch Act wil een juridische noodstop creëren voor algoritmen die direct schade kunnen veroorzaken. Denk aan systemen die verkeerde medische adviezen geven of aanvallen op netwerken versterken. De maatregel zou tijdelijk zijn en gericht op het voorkomen van aantoonbare, onmiddellijke risico’s. Daarna volgt controle of het systeem veilig kan worden herstart.
De plicht kan gaan gelden voor aanbieders van modellen, cloudplatforms en operators die de systemen inzetten. Dat kan neerkomen op een ingebouwde “uitknop” of een veilige modus die essentiële functies uitschakelt. Zo’n functie moet snel te activeren zijn, ook op schaal. Tegelijk vraagt dit om duidelijke criteria, zodat niet elk incident leidt tot stillegging.
Een kill switch is een noodschakelaar die een systeem direct uitschakelt om grotere schade te voorkomen.
Het Amerikaanse plan sluit aan bij bestaande veiligheidseisen uit de AI Executive Order en het NIST AI Risk Management Framework. Die vragen al om risicobeoordeling, testen en monitoring van modellen. Een wettelijke noodstop zou dat raamwerk versterken met afdwingbare bevoegdheden. De precieze reikwijdte en drempels worden nog uitgewerkt.
Bevoegdheid en waarborgen
De bevoegdheid om systemen uit te zetten komt waarschijnlijk bij federale toezichthouders en veiligheidsinstanties te liggen. Zij kunnen ingrijpen bij een acuut en onderbouwd risico, bijvoorbeeld rond energie, zorg of betalingsverkeer. Zo blijft de maatregel gericht op publieke veiligheid. Dagelijks commercieel gebruik zonder direct gevaar valt daar niet onder.
Bij zo’n zware ingreep horen juridische waarborgen. Denk aan een schriftelijke onderbouwing, beperkte duur en een plicht om de aanbieder snel te horen. Ook is toezicht achteraf nodig, zodat misbruik of overreach wordt voorkomen. Transparantieverslagen kunnen inzicht geven in frequentie en redenen van ingrepen.
Belangrijk is hoe de noodstop zich verhoudt tot grondrechten, persvrijheid en innovatie. Een te brede bevoegdheid kan een rem zetten op onderzoek en open samenwerking. Een te smalle bevoegdheid kan juist tekortschieten bij acute dreiging. De wet zal dus moeten leunen op heldere definities, proportionele stappen en onafhankelijke toetsing.
Open bron onder druk
Openbronmodellen worden vaak vrij gedeeld en lokaal gedraaid. Een centrale kill switch is dan technisch en juridisch lastig. Handhaving kan verschuiven naar platforms, pakketbeheerders of cloudleveranciers. Dat roept vragen op over haalbaarheid en effect op het open ecosysteem.
De Europese AI-verordening geeft open bron enige ruimte, behalve bij hoog-risicogebruik of verboden toepassingen. Daar gelden strengere plichten voor documentatie, testen en toezicht. Als de VS een noodstop eist, kan dat botsen met de gedistribueerde aard van open software. Europese partijen zullen dubbele eisen moeten afwegen bij grensoverschrijdende diensten.
Onderwijs- en onderzoeksinstellingen in Nederland werken veel met open modellen voor taal en beeld. Voor hen telt praktische uitvoerbaarheid: kunnen we een noodstop afdwingen in labs en pilots? Heldere richtlijnen helpen om experimenten veilig te houden zonder ze te verstikken. Dat vraagt om afspraken over logging, versleuteling en rolverdeling tussen teams.
Europese regels als anker
De Europese AI-verordening voorziet al in ingrijpen bij “ernstig risico” via markttoezicht. Autoriteiten kunnen dan stillegging of terugtrekking eisen tot de aanbieder het systeem veilig maakt. Dat lijkt op een kill switch, maar is ingebed in het bestaande productveiligheidsrecht. Zo blijft de balans tussen innovatie en bescherming wettelijk verankerd.
Voor Nederland draait het om uitvoering en coördinatie. Toezichthouders zoals de Autoriteit Persoonsgegevens, de Autoriteit Consument & Markt en de Rijksinspectie Digitale Infrastructuur krijgen taken bij AI-toezicht op het moment van schrijven gefaseerd uitgerold. Overheden moeten hun AI-gebruik in kaart brengen en risicoklassen toepassen. Dit raakt direct aan inkoop, beheer en incidentrespons.
Privacyregels uit de AVG blijven leidend, ook bij een noodstop. Dataminimalisatie, versleuteling en duidelijke rollen tussen verwerkingsverantwoordelijke en verwerker blijven verplicht. Een kill switch mag niet leiden tot onnodige data-inzage of -kopieën. Noodingrepen moeten dus technisch kunnen zonder extra privacyrisico.
Gevolgen voor Nederlandse bedrijven
Bedrijven die AI-diensten leveren in de VS kunnen om een noodstopfunctie of veilige modus worden gevraagd. Denk aan een schakel om modeluitvoer tijdelijk te blokkeren of om risicovolle tools uit te zetten. Contracten met cloud- en modelproviders moeten dit ondersteunen. Ook is snelle melding en samenwerking met toezichthouders cruciaal.
Technisch loont het om nu al basismaatregelen te borgen. Zorg voor auditlogs, versiebeheer, reproduceerbare modellen en duidelijke documentatie (model cards). Voer red teaming uit op misbruikscenario’s en leg herstelplannen vast. Dat sluit aan bij zowel het NIST-raamwerk als de Europese AI-verordening.
De publieke sector zal deze eisen doorvertalen in aanbestedingen. Leveranciers die kunnen aantonen dat zij veilig kunnen terugschakelen, hebben dan een voordeel. Organisaties moeten bovendien analoge fallbackprocessen paraat hebben, bijvoorbeeld een menselijk beslispunt bij storingen. Zo blijft dienstverlening doorlopen als een systeem tijdelijk uit moet.
Ook media, financiële instellingen en zorgpartijen krijgen te maken met strengere incidentplichten. Snelle afschakeling kan desinformatiecampagnes of fraudegolven dempen. Tegelijk vraagt dit om duidelijke triggers en verantwoordelijkheden om willekeur te voorkomen. Een werkbare noodstop staat of valt met precisie.