Beeld: AI-gegenereerd
The White House vraagt OpenAI en Anthropic om nieuwe AI-modellen pas met U.K.’s AI Safety Institute (AISI) te delen na een eerste beoordeling door U.S. agencies. Het verzoek komt van de Office of the National Cyber Director.
De stap raakt de tests die AISI doet met zogeheten frontier models, zeer geavanceerde systemen met vroege toegang voor toezichthouders. Anthropic volgt het verzoek al. Het bedrijf levert Claude Mythos 5.1 nu alleen aan U.S. organizations. Premier Andy Burnham temperde de spanningen bij de UN General Assembly.
Anthropic beperkt toegang tot Claude Mythos 5.1
Het verzoek zet OpenAI en Anthropic voor een keuze: modellen achterhouden voor AISI of het risico lopen The White House te verontrusten. Anthropic heeft de lijn gekozen en biedt Claude Mythos 5.1 alleen aan U.S. organizations aan. Het betrokken Amerikaanse aanspreekpunt is het Center for AI Standards and Innovation (CAISI). Die organisatie kampt met eigen problemen. CAISI heeft geen vaste directeur en telt slechts enkele tientallen medewerkers. Dat kan de gevraagde modelbeoordelingen vertragen of beperken, omdat er weinig vaste leiding en capaciteit is binnen de organisatie.
AISI houdt toegang tot frontier models
AISI geldt als een goed uitgeruste overheidsinstantie voor AI-tests, met vroege toegang tot frontier models van toonaangevende labs. De instelling meldde als eerste autonome misleiding door AI-agents in echte omgevingen. In een brief aan Parliament schreef AISI-directeur Henry de Zoete dat de instelling nog steeds toegang heeft tot frontier models. Hij stelde ook dat AISI OpenAI’s GPT-6 Astra vóór de release heeft getest. Andy Burnham speelde het conflict bij de UN General Assembly omlaag en riep op tot gedeelde wereldwijde principes en standaarden tussen landen en instanties.
Bron: The Decoder (the-decoder.com)
https://the-decoder.com/white-house-tells-openai-and-anthropic-to-let-u-s-review-new-models-before-sharing-them-with-british-testers/
