Veel financiële directeuren in Nederland en Europa kunnen beslissingen van algoritmen niet duidelijk uitleggen aan hun accountant. Uit recent onderzoek blijkt dat dit vooral speelt bij systemen met machinelearning en generatieve AI in ERP- en boekhoudsoftware. Dit veroorzaakt spanning in controles van jaarrekeningen en interne audits. Het onderwerp is actueel door strengere eisen uit de Europese AI-verordening en de AVG.
Auditors eisen heldere uitleg
Accountants moeten begrijpen hoe cijfers tot stand komen om betrouwbaar te kunnen controleren. Bij inzet van kunstmatige intelligentie wordt die keten lastiger te volgen. Modellen nemen stappen die voor gebruikers niet altijd zichtbaar zijn. Dat maakt het moeilijk om controle-informatie te verzamelen.
In auditwerk gelden standaarden die vragen om inzicht in IT-processen en risico’s. De Nederlandse beroepsorganisatie NBA en toezichthouder AFM benadrukken al langer het belang van transparantie. Wie AI inzet voor journaalposten, schattingen of risicoanalyse, moet kunnen aantonen wat het systeem deed. Zonder uitleg groeit het controlerisico.
Veel finance-afdelingen gebruiken nu AI-functies in software van SAP, Oracle, Microsoft Dynamics 365, Workday of BlackLine. Die functies detecteren patronen of doen voorstellen. Handig, maar vaak een “zwarte doos”. Als de herkomst van een voorstel niet duidelijk is, stokt de audittrail.
“Uitlegbaarheid betekent dat een bedrijf in gewone taal kan beschrijven hoe een model tot een uitkomst kwam, inclusief gebruikte data, aannames en beperkingen.”
AI-verordening verhoogt druk
De Europese AI-verordening (AI Act) stelt eisen aan transparantie, risicobeheer en documentatie. Toepassingen in financiële processen vallen niet altijd in de hoogste risicoklasse, maar leveranciers en gebruikers moeten wel basisinformatie kunnen leveren. Denk aan modeldoel, databronnen, prestatietesten en menselijk toezicht. Dit sluit direct aan op wat accountants vragen tijdens controles.
De AVG blijft daarnaast leidend bij persoonsgegevens. Organisaties moeten dataminimalisatie toepassen en versleuteling waar nodig inzetten. Ook moet duidelijk zijn welke data een systeem gebruikt en hoe lang die worden bewaard. Onvoldoende grip op data maakt zowel privacy- als auditrisico’s groter.
Inkoopteams doen er goed aan om bij contracten met softwareleveranciers specifieke AI-clausules op te nemen. Vraag om technische documentatie, logbestanden en uitlegmethoden. Europese organisaties hebben hier een sterkere positie, omdat de AI Act dit soort informatieplicht ondersteunt. Zo wordt uitlegbaarheid een onderdeel van de SLA.
Wat nu ontbreekt in finance
Veel organisaties missen een volledig log: welke versie van het model draaide, met welke instellingen, op welke data en door wie gevalideerd. Zonder die gegevens is terugzoeken onmogelijk. Dat maakt fouten lastig te herstellen en discussies met de accountant langer. De doorlooptijd van de controle loopt dan op.
Ook is er vaak geen modelregister. Zo’n register is een simpel overzicht van alle gebruikte modellen, hun doel en eigenaar. Het helpt bij periodieke reviews en bij overdracht tussen teams. Voor auditors is het een startpunt voor vragen en steekproeven.
Ten slotte ontbreekt vaak een standaard manier om AI-uitkomsten uit te leggen. Er zijn technieken zoals “feature importance”, SHAP of LIME die invloed van variabelen zichtbaar maken. Een korte samenvatting in begrijpelijke taal hoort daarbij. Zonder deze uitleg blijft de uitkomst een black box.
Gevolgen voor de jaarrekening
Als bestuurders AI-beslissingen niet kunnen toelichten, neemt het risico op fouten in schattingen toe. Denk aan voorzieningen, waarderingen of omzetherkenning die met modellen worden ondersteund. De accountant kan dan extra werkzaamheden eisen of meer voorbehouden opnemen. Dat kan de publicatie van de jaarrekening vertragen.
Interne beheersing krijgt ook een tik. Bekende raamwerken zoals COSO beschrijven dat beheersmaatregelen “ontwerp” én “werking” moeten aantonen. Bij AI is dat lastiger zonder documentatie en testresultaten. De managementletter zal dan aanbevelingen bevatten en soms harde verbeterpunten.
Voor beursgenoteerde ondernemingen komen hier rapportageverwachtingen bij. Auditcommissies vragen steeds vaker om AI-risico-overzichten. Europese beleggers en toezichthouders letten op betrouwbaarheid en herleidbaarheid. Een zwakke uitlegcultuur vertaalt zich zo in governance-risico.
Stappen naar uitlegbare AI
Begin met beleid: leg vast wanneer en hoe AI in finance mag worden gebruikt. Benoem dat elke modeluitkomst te herleiden moet zijn, met menselijk toezicht bij materialiteit. Richt een modelregister in en wijs een eigenaar aan per toepassing. Maak periodieke evaluaties onderdeel van de planning- en controlcyclus.
Bouw een audittrail. Log data-invoer, modelversies, parameters en uitkomsten. Sla steekproeven en validaties op in een centraal systeem. Zorg dat auditors veilige leesrechten krijgen.
Werk met uitlegmateriaal op twee niveaus: technisch en niet-technisch. Technische notities beschrijven data, testen en beperkingen. Niet-technische samenvattingen geven in gewone taal de kern en risico’s. Train finance-teams om die uitleg kort en consistent te geven.
Betrek leveranciers vroeg in het proces. Vraag SAP, Oracle, Microsoft, Workday of niche-aanbieders om modelkaarten, bias-tests en beveiligingsdetails. Leg in contracten vast dat deze informatie actueel blijft en deelbaar is met de accountant. Dit voorkomt discussies in de drukste fase van de jaarafsluiting.
Nederlandse context en toezicht
De NBA werkt aan handreikingen voor gebruik van data en algoritmen in de controlepraktijk. De AFM let op kwaliteit van audits en kan ingrijpen bij tekortschietende dossiervorming. Dit zet bedrijven aan om hun AI-dossiers op orde te brengen. Het sluit aan op de Europese AI Act, die uitlegbaarheid stimuleert.
Voor publieke instellingen en zorgorganisaties gelden extra eisen rond transparantie en privacy. De Europese AI-verordening gevolgen overheid betekenen onder meer dat algoritmeregisters en DPIA’s op orde moeten zijn. Ook gemeenten en uitvoeringsorganisaties moeten AI-besluiten kunnen uitleggen. Burgers hebben recht op begrijpelijke toelichting.
Wie nu investeert in documentatie en uitleg, plukt daar snel de vruchten van. Audits verlopen soepeler en sneller. Bestuurders nemen beslissingen met meer vertrouwen. En het risico op verrassingen in de dichte van de jaarrekening daalt.