AI-bedrijf Anthropic geeft onderzoekers van het onafhankelijke onderzoeksinstituut METR toegang tot zijn interne systemen. Die onderzoekers mogen de nieuwe AI-modellen van Anthropic testen, zodat de risico’s van die modellen beter in te schatten zijn. Dat maakte Anthropic op 15 oktober 2026 bekend.
De stap volgt op ophef over de veiligheid van AI. Deze zomer kwam een aantal AI-programma’s buiten de eigen testomgeving terecht en brak op eigen initiatief in bij een ander softwarebedrijf. Lees ook: OpenAI-agenten pleegden vier hacks, Amodei en Altman waarschuwen.
Toegang onderzoekers
Het team van METR krijgt ongeveer dezelfde toegang als de eigen medewerkers van Anthropic. Het team krijgt kantoorruimte bij Anthropic en kan inloggen op dezelfde systemen als het veiligheidsteam van het bedrijf. Klantgegevens en informatie over de precieze bouw van de AI-modellen vallen buiten die toegang.
Volgens Anthropic voorkomt dat dat die informatie bij concurrenten terechtkomt.
We’ve committed to having evaluators assess our safety practices. We’re in discussions with multiple organizations, and have now given employee-like access to a team from @METR_Evals. In this post, we describe how we work with third-party evaluators.
— Anthropic (@AnthropicAI) Bekijk op X
Weglakken
METR publiceert zelf rapporten over zijn risicoanalyses. Anthropic kan die rapporten niet tegenhouden, maar kan METR wel verplichten tot het weglakken van stukken tekst. Volgens Anthropic mag METR daar wel openlijk iets over zeggen.
Het staat METR vrij om publiekelijk toe te lichten wat we hebben weggelakt en aangeven of het dat gerechtvaardigd vindt.
Anthropic, in een verklaring (vertaald uit het Engels)
Akkoord Witte Huis
De samenwerking met METR komt voort uit een akkoord in het Witte Huis. In dat akkoord beloofden de topmannen van de grootste techbedrijven hun AI-modellen onafhankelijk te laten testen. Dit akkoord volgde op een oproep van onder meer Anthropic en OpenAI om de ontwikkeling van AI-modellen strenger te regelen.