OpenAI, maker van ChatGPT, verlaagt het tempo van ontwikkeling van zijn krachtigste systemen. Het bedrijf wil wachten met nieuwe sprongen tot er duidelijke veiligheidsnormen zijn. De stap komt deze week naar buiten nadat zorgen groeien over risico’s van zogeheten frontier-modellen. Dit raakt ook de Europese AI-verordening en de gevolgen voor overheid en bedrijven die zulke systemen willen inzetten.
OpenAI remt ontwikkeltempo
OpenAI zegt dat het pas verdergaat met sterkere modellen als er toetsbare veiligheidsmaatstaven liggen. Het gaat om afspraken met toezichthouders en standaarden waar ook andere aanbieders aan moeten voldoen. Zo wil het bedrijf uitrol en misbruik beter kunnen beheersen. Het doel is om vooruitgang te koppelen aan controleerbare veiligheid.
De keuze sluit aan bij internationale toezeggingen om te pauzeren als risico’s oncontroleerbaar zijn. Grote AI-bedrijven, waaronder OpenAI, spraken dit eerder uit op wereldwijde AI-veiligheidstoppen. Daarbij hoort het testen van gevaarlijke mogelijkheden, zoals misleiding op grote schaal of het omzeilen van beveiliging. Zonder voldoende beheersing komt er geen volgende stap.
Concreet betekent dit meer tijd voor evaluaties, red-teaming en externe audits. Ook worden releases waarschijnlijk gefaseerd en met strengere beperkingen uitgerold. Denk aan sterkere filters, herleidbaarheid van synthetische media en beperkingen in gevoelige domeinen. Voor ontwikkelaars kan dit strengere API-regels en documentatie-eisen opleveren.
AI-verordening stuurt keuzes
In Europa vallen ChatGPT en vergelijkbare generieke systemen onder de AI-verordening (AI Act). Op het moment van schrijven komen daar gefaseerd regels uit voort, met extra plichten voor modellen met “systemisch risico”. Dat zijn zeer krachtige generatieve modellen met grote impact. Leveranciers moeten onder meer risicobeoordelingen, beveiligingstests en transparantie leveren.
Voor overheden betekent dit dat inkoop en gebruik van zulke systemen aantoonbaar veilig moet zijn. Denk aan logging, beperkingen op hoog-risico-toepassingen en duidelijke gebruikersinformatie. Wie persoonsgegevens verwerkt, moet bovendien aan de AVG voldoen, met eisen als dataminimalisatie en versleuteling. De Europese AI-verordening gevolgen overheid worden zo concreet voelbaar bij ieder project.
Toezicht komt vanuit nationale autoriteiten en het Europese AI Office. Zij beoordelen of aanbieders aan de wettelijke plichten voldoen. Bij systemisch risico kan extra controle of zelfs een stop op inzet volgen. Het remmen door OpenAI kan helpen om tijdig aan deze eisen te voldoen.
Risico’s vragen heldere normen
De zorgen gaan vooral over misleiding, cybersecurity en bioveiligheid. Frontier-modellen kunnen sneller code schrijven, overtuigende teksten maken en complexe taken automatiseren. Zonder grenzen kan dat misbruik vergemakkelijken, bijvoorbeeld bij phishing of het maken van deepfakes. Daarom wil OpenAI eerst duidelijke en toetsbare normen.
Veiligheidsnormen omvatten vaak drie onderdelen: meten, beperken en controleren. Meten betekent gestandaardiseerde tests voor gevaarlijke capaciteiten. Beperken gaat over technische maatregelen, zoals weigeren van bepaalde opdrachten. Controleren is externe toetsing en rapportage over incidenten.
Frontier-modellen zijn zeer krachtige AI-systemen waarvan de mogelijkheden en risico’s nog moeilijk voorspelbaar zijn.
Ook herkomst van content wordt belangrijker. Watermerken en bronlabels (content provenance) moeten laten zien wat door een model is gemaakt. Dit helpt burgers, media en overheden bij het beoordelen van informatie. Het maakt misleiding lastiger en opsporing eenvoudiger.
Impact voor Nederland
Nederlandse organisaties gebruiken ChatGPT en vergelijkbare systemen voor klantcontact, code en beleidsteksten. Een pas op de plaats kan betekenen dat grote upgrades later komen. Daar staat tegenover dat updates voorspelbaarder en beter gedocumenteerd zijn. Dat is gunstig voor risicoanalyses en aanbestedingen.
Publieke diensten moeten rekening houden met de AVG en de AI-verordening. Een gegevensbeschermingseffectbeoordeling (DPIA) is vaak verplicht als persoonsgegevens een rol spelen. Ook moet duidelijk zijn welke data het model ziet en hoe uitkomsten worden gebruikt. Transparante documentatie van de leverancier maakt dat eenvoudiger.
Voor sectoren als zorg, onderwijs en financiële diensten zijn de eisen het strengst. Hier vallen toepassingen vaak in de hogere risicoklassen. Extra testen, menselijke controle en duidelijke uitleg worden dan verplicht. Een trager ontwikkeltempo kan helpen om die stappen zorgvuldig te doorlopen.
Wat gebruikers kunnen verwachten
Gebruikers van ChatGPT kunnen meer veiligheidsfilters en uitlegschermen zien. Sommige functies komen mogelijk later of gefaseerd beschikbaar. Ook kunnen er strengere beperkingen gelden op gevoelige onderwerpen. De kwaliteit van onderbouwing en waarschuwingen zal waarschijnlijk toenemen.
Ontwikkelaars die de API gebruiken krijgen naar verwachting extra documentatieplichten. Denk aan gebruikscases, misbruikpreventie en logging. Er kunnen limieten komen rond geautomatiseerde bulk-acties of hergebruik van output. Dit moet misbruik tegengaan en audits versnellen.
Voor de markt betekent dit een verschuiving van snelheid naar betrouwbaarheid. Innovatie stopt niet, maar wordt sterker aan veiligheidsdrempels gekoppeld. In Europa sluit dit aan bij de wettelijke routekaart van de AI-verordening. De inzet: vooruitgang met controle, in plaats van risico’s achteraf repareren.