OpenAI zegt de ontwikkeling van zijn krachtigste AI-systemen te vertragen. Het bedrijf wil eerst strengere veiligheidsnormen en onafhankelijke tests vastleggen. De stap moet ongelukken en misbruik voorkomen, ook in Europa. Dit speelt nu, terwijl de Europese AI-verordening (AI Act) nieuwe plichten oplegt met directe gevolgen voor overheden en bedrijven.
OpenAI remt bewust tempo
OpenAI, bekend van ChatGPT en het multimodale model GPT-4o, stelt zijn ontwikkeltempo bij. Het bedrijf koppelt verdere opschaling van rekenkracht en training aan strengere veiligheidsdrempels. Zulke drempels zijn vooraf bepaalde voorwaarden om risico’s te testen voordat een nieuw model wordt gebouwd of uitgebracht.
De focus ligt op zogenoemde frontier-modellen, de meest capabele systemen met potentieel grote maatschappelijke impact. OpenAI wil eerst betere evaluaties voor misbruik, desinformatie en autonomie van het systeem. Pas als die toetsen standhouden, volgt opschaling naar een volgende generatie.
Het bedrijf wijst op onzekerheden rond gedrag dat spontaan kan ontstaan in zeer grote datamodellen. Zulke modellen leren patronen uit enorme datasets en kunnen onverwachte stappen zetten. Daarom wil OpenAI extra checks opnemen voor release en voor toegang tot geavanceerde functies.
Strengere normen en audits
OpenAI dringt aan op gemeenschappelijke veiligheidsstandaarden, inclusief externe audits. Zulke audits zijn onafhankelijke controles door derden, bijvoorbeeld universiteiten of gespecialiseerde labs. Ze testen modellen tegen heldere, openbaar gemaakte criteria.
Internationale initiatieven bouwen hieraan, zoals het Britse AI Safety Institute en het NIST-ecosysteem in de VS. Zij ontwikkelen gestandaardiseerde ‘evals’ om gevaarlijk gedrag vroeg te signaleren. OpenAI zegt zijn processen hierop te willen afstemmen.
Ook in de sector groeit de roep om vergelijkbare meetlatten. Zonder gedeelde criteria is het lastig om claims over veiligheid te controleren. Dat geldt extra voor grensoverschrijdende aanbieders met miljoenen Europese gebruikers.
EU AI Act zet de lat
De Europese AI-verordening deelt systemen in risicoklassen en legt plichten op aan aanbieders. Voor generatieve ‘general purpose’-modellen met systemische risico’s gelden extra eisen. Denk aan robuuste documentatie, incidentmeldingen en beveiliging tegen misbruik.
Voor Europese toepassing moet OpenAI technische documentatie en een samenvatting van trainingsdata leveren. Ook worden evaluaties, red-teaming (aanvalstesten) en energierapportage verwacht voor de zwaarste categorie. Deze plichten treden gefaseerd in werking, op het moment van schrijven binnen 6 tot 24 maanden.
De verordening raakt direct aan privacyregels onder de AVG. Dataminimalisatie en een rechtmatige grondslag voor hergebruik van webdata blijven cruciaal. Nationale toezichthouders, zoals de Autoriteit Persoonsgegevens, kunnen handhaven naast het nieuwe EU AI Office.
De AI-verordening verplicht aanbieders van generatieve modellen met systemisch risico tot risicobeoordelingen, technische documentatie, misbruikpreventie en incidentrapportage.
Impact voor Nederland en EU
Overheden, zorginstellingen en scholen die ChatGPT of de OpenAI-API gebruiken, moeten op extra documentatie kunnen steunen. Denk aan modelkaarten, risicobeperkende maatregelen en logboeken van updates. Dat maakt inkoop en compliance eenvoudiger, maar vraagt strakkere processen bij de leverancier.
Voor Nederlandse organisaties betekent dit mogelijk langzamere uitrol van nieuwe functies. Wel vergroot het de voorspelbaarheid en juridische zekerheid bij gebruik in publieke diensten. In aanbestedingen kan een aantoonbaar veilige configuratie zelfs een vereiste worden.
Ook softwarebouwers die op OpenAI bouwen, krijgen hier mee te maken. Zij moeten eigen risicoanalyses en gebruikersbeveiliging laten aansluiten op de leverancier. Zo wordt de hele keten transparanter en beter toetsbaar voor de Europese AI-verordening.
Tests en drempels als poort
OpenAI werkt met interne ‘responsible scaling’-drempels om opschaling te koppelen aan risico-uitkomsten. Eenvoudig gezegd: geen extra rekenkracht of datatoegang als de veiligheidstoetsen onvoldoende zijn. Dit voorkomt dat een model sneller groeit dan de waarborgen eromheen.
Belangrijke toetsgebieden zijn bioveiligheid, cyberaanvallen, manipulatieve output en privacy. Voor elk domein worden scenario’s en ‘stress-tests’ ontwikkeld, met meetbare faalcriteria. Onafhankelijke herhaalbaarheid van zulke tests is nodig om vertrouwen te winnen.
Audits maken de claims controleerbaar, ook voor Europese toezichthouders. Zij kunnen eisen dat resultaten, methodes en datarepresentativiteit publiek of aan autoriteiten worden gedeeld. Zo ontstaat een vergelijkbare basislijn tussen aanbieders.
Traagheid versus vooruitgang
Een pas op de plaats kan de markt tijdelijk vertragen, maar verlaagt ook systeemrisico’s. Dat is relevant in een concurrerend veld met spelers als Google, Anthropic en Meta. Het voorkomt een race naar de grootste modellen zonder veiligheidsnet.
Voor gebruikers verandert vooral het ritme van updates en toegang tot krachtige functies. Verwacht meer gefaseerde uitrol, regionale beperkingen en extra verificatie bij gevoelige toepassingen. Dat helpt om lessen te trekken vóór wereldwijde uitrol.
Europa krijgt hiermee meer invloed op minimumstandaarden voor generatieve systemen. Strakkere eisen uit de AI Act werken door in internationale productplanning. Op termijn kan dat leiden tot minder incidenten én tot betere bruikbaarheid in publieke diensten.