• Home
  • /
  • Blog
  • /
  • Nieuws
  • /
  • Oud-medewerker OpenAI en Anthropic waarschuwt: AI kan buiten onze controle raken

AI-bedrijven weten onvoldoende hoe ze moeten voorkomen dat hun systemen doelen nastreven die ontwikkelaars niet hebben meegegeven. Dat stelt klokkenluider Jacob Coxon, die eerder bij OpenAI en Anthropic werkte. Tijdens een hoorzitting in New York beschuldigde hij de sector van roekeloosheid.

ā€œGezien wat er op het spel staat, zijn bedrijven bijzonder roekeloos bezigā€, zei de Britse onderzoeker.

Waar waarschuwt Coxon voor?

Zijn zorgen gaan over AI-systemen die doelen ontwikkelen buiten de bedoeling van hun makers. Volgens Coxon ontbreken voldoende waarborgen om te voorkomen dat systemen vervolgens naar die doelen handelen.

Dat is een verdergaande waarschuwing dan die over een chatbot die een verkeerd antwoord geeft. Coxon spreekt over het risico dat mensen de controle over krachtige AI verliezen. Hij erkent dat AI grote voordelen kan bieden, maar vreest op de huidige koers zelfs gevolgen voor het voortbestaan van de mens. Dat is zijn inschatting, geen vastgestelde voorspelling.

Waarom vertrok hij bij Anthropic?

Coxon publiceerde begin september op X een verklaring over zijn vertrek bij Anthropic. Daarin stelde hij dat ontwikkelaars zelf rekening houden met de mogelijkheid dat AI vóór het einde van dit decennium catastrofale gevolgen heeft.

Tijdens de hoorzitting bekritiseerde hij ook de werkwijze van techbedrijven: snel ontwikkelen en problemen achteraf repareren. Volgens hem past die aanpak niet bij technologie met zulke grote mogelijke gevolgen.

Zijn uitspraken sluiten aan op het bredere debat over veiligheidsmaatregelen bij OpenAI, Google en Anthropic.

Onze kijk: vraag om aantoonbare waarborgen

De waarschuwing verdient aandacht vanwege Coxons werkervaring bij twee belangrijke AI-ontwikkelaars. Tegelijk bewijst zijn getuigenis op zichzelf niet dat bedrijven de controle over al hun modellen kwijt zijn.

Voor Nederlandse organisaties die AI inzetten, zien wij vooral een praktische vraag: welke bevoegdheden geef je een systeem, wie controleert het gedrag en wanneer kan iemand ingrijpen? Hoe meer handelingen AI zelfstandig mag uitvoeren, hoe belangrijker die afspraken worden.

Het debat zou daarom ook moeten gaan over aantoonbare veiligheidsmaatregelen. Welke risico’s zijn getest, welke beperkingen gelden en wie is verantwoordelijk als een systeem buiten de afgesproken grenzen handelt?

Mis geen AI-nieuws

Kies AIInsider.nl als voorkeursbron in Google. Dan zie je ons nieuws vaker terug in Google Zoeken en Discover.

Wat vind jij? Laat het ons weten!

{"email":"Email address invalid","url":"Website address invalid","required":"Required field missing"}

Over de schrijver 

Dave

Hoi, ik ben Dave – schrijver, onderzoeker en nieuwsgierige geest achter AIInsiders.nl. Ik hou me bezig met de manier waarop technologie ons leven verandert, en vooral: hoe we dat een beetje kunnen bijbenen. Van slimme tools tot digitale trends, ik duik graag in de wereld achter de schermen.

Mijn stijl? Lekker helder, soms kritisch, altijd eerlijk. Geen onnodig jargon of overdreven hype, maar praktische inzichten waar je echt iets aan hebt. AI is niet eng of magisch – het is interessant, en ik help je graag om dat te zien.


Meer AI-nieuws

30/10/2026 08:02

Foto: Firmbee.com via Unsplash Google breidt Gemini uit met een ingebouwde documenteditor. Je kunt er nu documenten, PDF's, presentaties, spreadsheets en code mee maken, bekijken lees verder

Google voegt documenteditor toe aan Gemini: PDF’s en presentaties direct bewerken in de chat

29/10/2026 10:12

Foto: ilgmyzin via Unsplash De ouders van de overleden Bowen Wan (31) klagen ChatGPT-maker OpenAI aan. Volgens de aanklacht hielp GPT-4o haar om in ongeveer lees verder

Ouders van overleden vrouw (31) klagen ChatGPT-maker OpenAI aan: chatbot hielp haar epilepsiemedicijn afbouwen

29/10/2026 07:39

Foto: Andrew Neel via Unsplash OpenAI laat gebruikers van de proactieve AI-agent Dot voortaan ook via iMessage of RCS berichten sturen. Je geeft je dot lees verder

OpenAI voegt texting toe aan ChatGPT Dot: je appt voortaan met je AI-agent
>