De Nederlandse startup Deeploy lanceert deze week een platform dat AI-besluiten controleerbaar maakt. Het systeem registreert keuzes van algoritmen en geeft uitleg bij uitkomsten. Het richt zich op organisaties die moeten voldoen aan de Europese AI-verordening en de AVG. Doel is veilig gebruik van kunstmatige intelligentie in sectoren als overheid, zorg en finance.
Platform maakt keuzes inzichtelijk
Deeploy biedt een controlepaneel voor modellen, ook wel algoritmen of datamodellen genoemd. Gebruikers zien per beslissing welke factoren het meest hebben meegewogen. Het platform toont ook welke versie van een model is gebruikt en in welke context.
Met audit-trails wordt elke stap vastgelegd. Dat is een digitaal logboek met tijdstempels van invoer, uitkomst en eventuele tussenstappen. Zo kunnen organisaties beslissingen later terugzoeken en controleren.
De tool ondersteunt een menselijke controle voor gevoelige beslissingen. Een medewerker kan dan beoordelen of een automatisch advies klopt. Dit helpt fouten te voorkomen en vergroot het vertrouwen in het systeem.
Uitleg en logging centraal
Uitlegbaarheid betekent dat je kunt zien waarom een model tot een uitkomst komt. Deeploy toont bijvoorbeeld de belangrijkste kenmerken die de voorspelling sturen. Dit maakt het gesprek met klanten, patiënten of toezichthouders eenvoudiger.
Logging is verplicht documenteren wat het systeem doet. Het platform legt daarom vast welke data zijn gebruikt, welke regels golden en wat het eindresultaat was. Dat maakt testen en herhalen van beslissingen mogelijk.
De aanpak helpt ook bij kwaliteitsbeheer. Teams kunnen modellen vergelijken, prestaties volgen en tijdig bijsturen. Zo blijft het systeem stabiel bij wijzigingen in data of wetgeving.
“Een controleerbaar AI-besluit is een uitkomst die je kunt herleiden en uitleggen, inclusief wie wat wanneer heeft gedaan en waarom.”
Aansluiting op EU-regels
De Europese AI-verordening (AI Act) vraagt om uitleg, logging en menselijk toezicht bij hoog-risico systemen, op het moment van schrijven met toepassing vanaf 2026. Denk aan modellen voor kredietbeoordeling, medische triage of selectie bij onderwijs en werk. Deeploy sluit met zijn audit- en uitlegfuncties aan op die eisen.
De verordening verlangt ook technische documentatie en risicobeheer. Het platform ondersteunt dit met versiebeheer, testresultaten en duidelijke rollen. Dat kan certificering en interne audits versnellen.
Voor Nederlandse overheden is transparantie extra belangrijk. Gemeenten en ministeries publiceren steeds vaker systemen in het Algoritmeregister. Een controleerbare keten van data tot besluit maakt die publicatie concreet en verifieerbaar.
Privacy en AVG geborgd
De AVG vereist dataminimalisatie: alleen gegevens vastleggen die nodig zijn. Deeploy zegt logdata versleuteld op te slaan en toegangen te scheiden per rol. Zo kunnen organisaties aantonen wie rechtmatig inzage heeft.
Logboeken kunnen persoonsgegevens bevatten, bijvoorbeeld klantnummers of dossiers. Het platform ondersteunt daarom bewaartermijnen en pseudonimisering, waarbij direct herleidbare gegevens worden vervangen. Dit verlaagt risico’s bij incidenten.
Verantwoordelijkheden blijven bij de gebruiker liggen. Organisaties moeten DPIA’s uitvoeren, dat zijn privacybeoordelingen, en afspraken vastleggen in verwerkersovereenkomsten. De tool helpt met bewijs, maar neemt die plichten niet over.
Toepassing in zorg en overheid
In ziekenhuizen kan een triagesysteem advies geven, terwijl een arts het laatste woord heeft. Met een vastgelegd spoor is achteraf te zien waarom een advies kwam en of de arts afweek. Dat ondersteunt kwaliteit en patiëntveiligheid.
Bij gemeenten spelen vergelijkbare vragen rond vergunningen en handhaving. Impactbeoordelingen, zoals de Nederlandse IAMA voor mensenrechten en algoritmes, vragen om transparante onderbouwing. Een controleerbare besluitketen maakt die onderbouwing concreet.
Financiële instellingen moeten hun modellen voor toezicht kunnen uitleggen. Denk aan fraude- of kredietscoring. Met reproduceerbare beslissingen wordt toezicht door interne audit en externe toezichthouders werkbaar.
Grenzen en open vragen
Niet elk model is volledig uitlegbaar. Bij complexe ‘black box’-systemen geeft de uitleg vaak een benadering, geen volledige waarheid. Organisaties moeten daarom afwegen of eenvoud en uitlegbaarheid zwaarder wegen dan ruwe voorspellingskracht.
Integratie kost tijd en discipline. Teams moeten data goed labelen, versies vastleggen en processen aanpassen. Zonder die basis levert een platform minder waarde op.
Standaarden blijven in beweging, zoals ISO/IEC 42001 voor AI-managementsystemen. Op het moment van schrijven is nog niet alles uitgekristalliseerd. Interoperabiliteit met bestaande tools en toekomstige audits blijft daarmee een aandachtspunt.