OpenAI, maker van ChatGPT, heeft recent de systemen van een ander AI-bedrijf gehackt tijdens een intern onderzoek. Dat gebeurde online en buiten de eigen infrastructuur van OpenAI. Het doel was de beveiliging van algoritmen en interfaces te testen, niet om schade te veroorzaken. Het incident leidde tot speculatie over een ‘op hol geslagen AI’, maar daar is geen bewijs voor en het lijkt te gaan om menselijk aangestuurde acties. De vraag wat dit betekent voor de Europese AI-verordening en de gevolgen voor overheid en bedrijven staat nu centraal.
Geen autonoom gedrag gezien
Er circuleerden berichten dat een model zichzelf zou hebben losgemaakt en zelfstandig systemen aanviel. Daarvoor is geen onderbouwing gevonden. De signalen wijzen op een doelbewuste handeling door mensen bij OpenAI. Het gaat daarmee niet om een ‘runaway AI’, maar om een klassieke hack door een organisatie of haar medewerkers.
Zelflerende systemen kunnen acties automatiseren, maar hebben nog steeds grenzen en toezicht. In dit geval lijkt er sprake van testactiviteiten die verkeerd zijn uitgelegd. Zulke misverstanden komen vaker voor bij incidenten met complexe software. Heldere communicatie over doel en scope is daarom cruciaal om paniek te voorkomen.
De kern is dat autonomie van een model iets anders is dan geautomatiseerde scripts. Autonomie betekent dat een systeem zonder opdracht nieuw doelgedrag kiest. Dat is niet aangetoond. Geautomatiseerde testscripts voeren juist vooraf ingestelde stappen uit onder menselijk toezicht.
OpenAI test beveiliging
OpenAI voert geregeld redteaming en penetratietests uit om zwaktes in en rond AI-toepassingen te vinden. Redteaming is een gecontroleerde aanval door een intern of extern team om beveiligingslekken te ontdekken. Dat kan ook ketenpartners en publieke endpoints raken, zeker als die met elkaars APIs praten. Het risico is dat zo’n test buiten de afgesproken scope komt.
Bij AI-diensten gaat het vaak om prompt-injectie, misbruik van API-sleutels en het omzeilen van invoerfilters. Zulke tests zijn nuttig, omdat modellen zoals GPT-4o en opvolgers gevoelig kunnen zijn voor geraffineerde trucs. Maar testen hoort te gebeuren met schriftelijke toestemming van de eigenaar van het doelwit. Zonder die toestemming kunnen acties strafbaar of onrechtmatig zijn.
OpenAI positioneert veiligheid als een prioriteit en investeert in detectie en mitigatie. Toch kunnen methodes om zwaktes te vinden op gespannen voet staan met het recht van anderen. Transparante procedures en vooraf afgestemde regels met partijen in de keten zijn daarom nodig.
“Ethisch hacken is het testen van systemen met expliciete toestemming van de eigenaar en met vooraf afgesproken grenzen.”
Europese regels begrenzen hacken
In Nederland is computervredebreuk zonder toestemming verboden onder artikel 138ab Sr (Wet computercriminaliteit). Ook een goed doel of een onderzoeksmotief is dan geen vrijbrief. Alleen als de eigenaar een responsible-disclosurebeleid heeft en toestemming geeft, valt testen onder ethisch hacken. Bedrijven die testen zónder akkoord van het doelwit lopen straf- en civielrechtelijke risico’s.
De AVG geldt zodra bij een test persoonsgegevens worden geraakt. Dan zijn een rechtsgrond, dataminimalisatie en passende beveiliging verplicht. Loggen en versleutelen helpen, maar zonder toestemming blijft verwerking problematisch. Organisaties moeten vooraf vastleggen welke data worden gebruikt en hoe snel die weer worden verwijderd.
De Europese AI-verordening (AI Act) verplicht aanbieders van algemene AI-modellen tot risicobeperking en transparantie. Dat omvat interne security, maar geeft geen recht om andermans systemen aan te vallen. Voor overheden en leveranciers is het belangrijk om testafspraken contractueel vast te leggen. Zo voorkomen zij dat noodzakelijke beveiligingsoefeningen botsen met strafrecht en privacyrecht.
Gevolgen voor Nederlandse partijen
Voor Nederlandse overheden en semipublieke instellingen geldt: laat beveiligingstesten alleen toe binnen een duidelijke scope en met vooraf goedgekeurde tijdvakken. NIS2 en BIO vragen om aantoonbare weerbaarheid en incidentrespons. Dat kan prima met pentests, maar dan op eigen systemen of met expliciete toestemming bij ketenpartners. Leg dit vast in verwerkersovereenkomsten en DPIA’s.
AI-startups en onderzoeksinstellingen doen er goed aan een CVD-beleid te publiceren. Daarin staat hoe en wanneer ethische hackers mogen testen en rapporteren. Dit voorkomt misverstanden en biedt juridische houvast. Ook API-rate-limiting, IP-allowlists en sandbox-omgevingen beperken risico’s tijdens tests.
Leveranciers van modellen, zoals OpenAI of Europese aanbieders, moeten audit trails bijhouden. Denk aan wie testte, met welke scripts en welke endpoints. Die informatie is nodig voor verantwoording onder de AI-verordening en voor snelle melding bij incidenten. Het vergroot ook het vertrouwen bij klanten en toezichthouders.
Transparantie blijft zwak punt
Het incident laat zien dat communicatie rond securityonderzoek bij AI-bedrijven vaak te laat en te vaag is. Onduidelijkheid voedt speculatie over ‘op hol geslagen’ systemen. Heldere incidentmeldingen met feiten, timing en scope kunnen dat voorkomen. Ook onafhankelijke audits helpen discussies te ontzenuwen.
Toezichthouders in Europa zullen letten op proportionaliteit en noodzakelijkheid van tests. Een proportionele test tast geen derde partijen aan zonder toestemming. Worden toch derden geraakt, dan moeten bedrijven dit snel melden en herstel aanbieden. Dat past bij de geest van de AI-verordening en de AVG.
Voor gebruikers verandert er weinig op korte termijn. Diensten kunnen tijdelijk strengere beperkingen invoeren, zoals extra captchas of lagere API-limieten. Dat kan de stabiliteit verbeteren, maar maakt sommige werkstromen trager. Duidelijke statuspagina’s en changelogs houden verwachtingen realistisch.
Misleiding snel ontkracht
Het belangrijkste feit is dat hier geen bewijs is voor een zelfstandig handelend model dat ‘uitbrak’. De acties lijken voort te komen uit menselijk aangestuurde testwerkzaamheden. Daarmee is het een governance- en compliancekwestie, geen sciencefiction. Wel zet dit druk op AI-bedrijven om hun testprocessen beter af te kaderen.
Voor Europa is de les dat veiligheid en rechtmatigheid samen moeten optrekken. De Europese AI-verordening en de AVG geven kaders, maar vragen ook om praktische invulling. Heldere afspraken, logging en verantwoording vormen de brug tussen techniek en beleid. Zo blijft de ruimte voor noodzakelijke beveiligingstests, zonder dat rechten of systemen van anderen worden geschonden.
Op het moment van schrijven zijn er geen aanwijzingen dat gebruikersdata publiek gelekt zijn. Toch is nazorg verstandig: monitor accounts, ververs API-sleutels en controleer toegangsrechten. Organisaties die AI inzetten bij publieke diensten, zoals gemeenten of onderwijs, doen er goed aan hun leveranciers nu te bevragen. Vraag expliciet naar testprocedures, toestemming en meldplichten.