Palo Alto Networks neemt AI-start-up Portkey over om zijn beveiliging voor generatieve AI te versterken. Het Amerikaanse cybersecuritybedrijf wil zo risico’s rond datamodellen en chatbots beter beheersen. De stap is ook relevant voor organisaties die moeten voldoen aan de Europese AI-verordening (AI Act) en de AVG. De overnameprijs is op het moment van schrijven niet bekendgemaakt.
Palo Alto koopt Portkey
Portkey bouwt software om toepassingen met grote taalmodellen te beheren en te bewaken. Dit heet observability: inzicht in verkeer, prestaties en fouten van AI-systemen. De start-up biedt ook functies voor beleid, zoals toegangsregels en kostenplafonds.
Met de overname krijgt Palo Alto Networks extra gereedschap om AI-verkeer te controleren. Bedrijven gebruiken steeds meer modellen tegelijk, van leveranciers als OpenAI of open-source varianten. Eén centrale laag helpt dan bij auditing, beveiliging en kostenbeheer.
Palo Alto Networks zegt met Portkey sneller te kunnen inspelen op nieuwe AI-risico’s. Denk aan misbruik van prompts of het lekken van vertrouwelijke data. Klanten krijgen hiermee meer grip op wie welke algoritmen gebruikt en met welke gegevens.
Focus op veilige AI
Generatieve AI brengt nieuwe aanvalsvectoren mee. Prompt-injectie is een techniek waarbij een aanvaller een model verleidt om regels te negeren. Ook kunnen modellen gevoelige gegevens onthullen of hallucineren, wat leidt tot fouten in processen.
Portkey levert functies om zulke risico’s te beperken. Voorbeelden zijn input- en outputfilters, detectie van afwijkend gedrag en het maskeren van persoonsgegevens voordat ze naar een model gaan. Logging bewaart daarbij het spoor van alle AI-verzoeken en antwoorden.
Die combinatie maakt beleid afdwingbaar en toetsbaar. Beheerders kunnen regels instellen per team, toepassing of datatype. Ook kan verkeer automatisch worden omgeleid naar een veiliger of goedkoper model als dat nodig is.
Koppeling aan bestaand aanbod
Palo Alto Networks verkoopt al beveiliging voor netwerken, cloud en SOC-automatisering. De Portkey-techniek kan deze platformen aanvullen met AI-specifieke bewaking. Daardoor ontstaat één zichtlijn van gebruiker tot en met het datamodel.
Het ligt voor de hand dat de AI-bewaking wordt gekoppeld aan bestaande detectie- en responsfuncties. Zo kunnen incidenten uit AI-toepassingen in hetzelfde dashboard landen als andere cyberdreigingen. Dit versnelt triage en onderzoek door één team.
Voor klanten is integratie praktisch, maar het kost tijd. API-koppelingen, rechten en datastromen moeten veilig worden samengebracht. Tot die tijd kan Portkey waarschijnlijk ook zelfstandig blijven draaien naast huidige tools.
Voldoen aan AI-verordening
De Europese AI-verordening stelt vanaf 2025-2026 gefaseerde regels aan AI-systemen. Voor hoogrisico-toepassingen zijn risicobeheer, documentatie, logging en menselijke controle vereist. Bewijslast speelt daarbij een grote rol voor audits en toezichthouders.
Met centrale observability kunnen organisaties aantonen hoe modellen werken en welke data zijn gebruikt. Dit helpt bij modelkaarten, impactanalyses en incidentrapportage. Ook maakt het beleid per risicoklasse beter uitvoerbaar.
De AVG blijft daarnaast leidend voor persoonsgegevens. Dataminimalisatie, versleuteling en bewaartermijnen moeten ook bij AI gelden. Functies als PII-masking en toegangscontrole ondersteunen deze plichten in de keten.
Definitie: dataminimalisatie betekent dat u niet meer persoonsgegevens verwerkt dan strikt nodig is voor het doel.
Gevolgen voor EU-organisaties
Nederlandse instellingen in zorg, overheid en finance werken al met chatbots en beslissingsondersteuning. Zij moeten rekening houden met de Europese AI-verordening en de AVG, plus sectorregels. Een centrale AI-beveiligingslaag kan dan helpen om beleid uniform af te dwingen.
Praktisch betekent dit: inventariseer alle AI-gebruik, stel toegangsregels op en log elk modelverzoek. Gebruik waar mogelijk EU-hosting en duidelijke verwerkersovereenkomsten. Voer vooraf een DPIA uit als persoonsgegevens betrokken zijn.
Voor de overheid zijn transparantie en herleidbaarheid extra belangrijk. Uitleg over gebruikte modellen en versies hoort in het dossier. Bewaar ook testresultaten en evaluaties, zodat beslissingen te controleren zijn.
Open punten en risico’s
De integratie van Portkey in het portfolio van Palo Alto Networks kan maanden duren. In die periode kunnen functies overlappen of ontbreken. Organisaties doen er goed aan een migratiepad en tijdelijke maatregelen te plannen.
Leveranciersafhankelijkheid is een aandachtspunt. Een centrale laag voor modelroutering en beleid maakt wisselen lastiger. Kies daarom voor open standaarden en exporteerbare logs en policies.
Tot slot spelen dataresidentie en modelkeuze een rol. Niet elk AI-model heeft een EU-variant of passende contracten. Controleer daarom waar data staan, welke waarborgen gelden en hoe verkeer wordt versleuteld, end-to-end.