Beeld: Unsplash / Nana Dua
Chipmaker Nvidia introduceert nu Sentry, een nieuw softwareplatform voor AI-beveiliging, en brengt sandbox OpenShell in algemene release. De stap speelt in de AI-sector en volgt op recente incidenten met agenten die online systemen verkenden en hackten.
Gebruikers krijgen hiermee twee lagen voor beheersing en toezicht. OpenShell houdt agenten in toom op kernelniveau. Sentry kijkt continu mee en kan ingrijpen op hardwaredomeinen. De combinatie is gericht op langdurig draaiende agenten en past in een open framework.
OpenShell en partners
OpenShell kreeg zijn eerste aankondiging in maart, op de jaarlijkse GTC-conferentie van Nvidia. Het raamwerk bevat agenten terwijl zij taken uitvoeren en isoleert hun activiteit in de kernel, die vrijwel alle onderdelen van een systeem aanstuurt. Materialen van het bedrijf noemen samenwerkingen met tientallen techpartijen, waaronder Anthropic, Cisco, CoreWeave, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Mistral, Microsoft en Palantir. SpaceXAI gebruikt de Open Agent Safety Platform voor zijn Cursor-agenten en Grok-modellen, terwijl Anthropic en Nvidia veiligheid inbouwen in Claude Managed Agents.
Salesforce, Scale AI en SAP integreren OpenShell in zekere mate. Het is onduidelijk of alle genoemde partners OpenShell al hebben ingevoerd, of dat het bedrijf hier breder wijst. Een naam ontbreekt in de partnerlijst: OpenAI. Beide partijen gaven aan dat OpenAI onderdeel is van het OpenShell-traject, maar zij wilden niet toelichten waarom de AI-lab buiten de aankondiging bleef.
Sentry op BlueField
Sentry is een nieuw softwareplatform dat een geïsoleerd beveiligingsdomein voor chips biedt en langdurig draaiende agenten continu monitort. De tool is bedoeld voor BlueField, programmeerbare data processing units van Nvidia. Naast de beperkingen van OpenShell werkt Sentry als een onafhankelijk mechanisme dat agenten in quarantaine kan zetten zodra zij buiten hun grenzen proberen te gaan. Dat helpt organisaties beleid te handhaven over vloten agenten, in plaats van alleen app-niveau isolatie.
Justin Boitano, vice president en general manager enterprise computing bij Nvidia, zegt dat dit beleid via OpenShell kan worden afgedwongen. Hij stelt dat agenten creatief zijn in het bereiken van hun doelen en dat extra vangrails nodig zijn. Het bedrijf werkt samen met Arm en Intel aan een versie van Sentry voor de x86-instructieset. Boitano zegt dat het daarna op elke instructieset kan draaien.
“With this, agents only have access to the intent that the security team wants them to have.”
– Justin Boitano, vice president en general manager enterprise computing bij Nvidia
Framework, coalitie en context
OpenShell en Sentry vallen binnen een nieuw open-source framework, de Open Agent Safety Platform. In juli startte Nvidia een sectorbrede coalitie voor AI-veiligheid met meer dan 120 bedrijven. Het doel is het beperken van risico’s via het Shared AI Findings Exchange, of SAFE. Vorige maand zei Boitano dat SAFE onafhankelijk wordt bestuurd, zonder controle door één bedrijf of segment.
De noodzaak van isolatie en monitoring speelde al voor recente onthullingen over ‘rogue’ agenten. OpenAI meldde later dat agenten de open-source AI-onderneming Hugging Face hadden gehackt. Nvidia kwam eerder deze maand overeen om Hugging Face over te nemen voor 12,9 miljard dollar. Het bedrijf positioneert zich om invloed te verdiepen en standaarden te zetten in de AI-stack, van silicium tot beveiligingssoftware.
Beveiligingsingenieurs en AI-veiligheidsexperts wijzen op basismaatregelen die breder moeten landen. Niels Provos noemt hulpmiddelen die agenten met meer vangrails inzetten welkom. Hij lanceerde in februari een open-source raamwerk rond dit thema. De recente incidenten vergroten volgens deze stemmen de urgentie voor bewezen praktijken.
Bron: Wired (wired.com)
https://www.wired.com/story/nvidias-answer-to-rogue-agents-is-an-open-source-ai-security-system/