In de Nederlandse accountancy klinkt een duidelijke oproep: koester de weerstand tegen kunstmatige intelligentie. Teams en klanten die kritisch zijn, helpen fouten en risico’s in tools als ChatGPT en Microsoft Copilot vroeg te vinden. Dat is actueel, omdat de Europese AI-verordening en de AVG de inzet van algoritmen bij bedrijven en overheid strenger maken. Weerstand maakt AI-toepassingen veiliger, zorgvuldiger en juridisch houdbaar.
Weerstand verbetert AI-beslissingen
Kritische vragen uit een team werken als een vroeg waarschuwingssysteem. Zij leggen datalekken, vooroordelen in data en zogenoemde ‘hallucinaties’ van generatieve modellen bloot. In het accountantsvak past dit bij professionele scepsis: altijd toetsen, nooit blind vertrouwen op een systeem.
Organisaties kunnen weerstand organiseren, bijvoorbeeld met toetsmomenten en een ‘challenge’-groep bij elk AI-project. Zo wordt tegenspraak een vaste stap naast datakwaliteit, beveiliging en juridische check. Het resultaat is een robuuster besluit en minder herstelwerk achteraf.
Weerstand is daarmee geen rem, maar een ontwerpprincipe. Het maakt de inzet van ChatGPT, Google Gemini of Anthropic Claude aantoonbaar controleerbaar. Dat is nodig om conclusies richting klanten en toezichthouders te onderbouwen.
AVG stelt duidelijke grenzen
De Algemene verordening gegevensbescherming (AVG) verplicht tot dataminimalisatie en goede beveiliging. Wie klantdata in AI-tools verwerkt, moet een DPIA uitvoeren; dat is een risicoanalyse voor privacy. Ook zijn afspraken met leveranciers nodig over opslag, versleuteling en het niet hergebruiken van prompts voor training.
Bij cloudproducten zoals Microsoft Copilot en Azure OpenAI telt opslaglocatie mee. ‘Data residency’ betekent dat gegevens in de EU blijven, met Europese waarborgen. Logbestanden en bewaartermijnen moeten passen bij geheimhouding en dossiervorming in de controlepraktijk.
Transparantie naar betrokkenen is verplicht als profilering plaatsvindt. Een mens moet uitkomsten kunnen uitleggen en corrigeren; dat heet ‘human-in-the-loop’. Zonder deze waarborgen is gebruik van het algoritme in strijd met de AVG.
Europese AI-verordening: gevolgen overheid
De AI-verordening (AI Act) deelt systemen in naar risico. Hoog-risico-toepassingen krijgen strenge eisen voor data, documentatie, toezicht en kwaliteitsmanagement. Op het moment van schrijven gaan de zwaarste verplichtingen grotendeels vanaf 2026 gelden; enkele verboden treden eerder in werking.
Hoog-risico AI: systemen die meebeslissen over werk, krediet, onderwijs of toegang tot essentiële diensten moeten aan strikte eisen voldoen.
Voor Nederlandse overheden en uitvoerders betekent dit een scherpere dossiervorming, registratie in Europese databases en duidelijke rolverdeling. Gemeenten en ZBO’s die algoritmen gebruiken voor selectie of toezicht moeten kunnen uitleggen hoe het model werkt en wordt getest. Dit sluit aan bij bestaande registers voor algoritmen en de toezichtpraktijk van de Autoriteit Persoonsgegevens.
Accountants en IT-auditors (NBA en NOREA) krijgen hierdoor vaker vragen over assurance op datamodellen. Denk aan controles op datakwaliteit, modelversies en incidentafhandeling. Ook financiële instellingen vallen onder principes van DNB en Europese toezichthouders over betrouwbare AI.
Generatieve AI blijft feilbaar
Modellen als OpenAI’s ChatGPT en Google Gemini genereren overtuigende tekst, maar maken nog steeds feitelijke fouten. Dit heet hallucineren: het systeem vult ontbrekende kennis creatief in. Daarom mag AI-uitvoer nooit zonder menselijke toets als bewijs in een controle of advies.
Uitlegbaarheid is vaak beperkt bij grote taalmodellen. Gebruik daarom duidelijke bronnen en ‘retrieval augmented generation’ (RAG): het model zoekt eerst in een gecontroleerde kennisbank. Zo verklein je fouten en kun je onderbouwen waar een antwoord op steunt.
Beveiligingsrisico’s vragen ook aandacht. Prompt-injectie kan een model ongewenste stappen laten nemen, en gevoelige data kunnen per ongeluk worden gedeeld. Strikte toegangsrechten, versleuteling en red-teaming helpen deze risico’s te beperken.
Stappenplan voor accountantskantoren
Begin met een inventarisatie van AI-gebruik: welke processen, welke data en welke leveranciers. Wijs eigenaarschap toe voor modelbeheer, privacy en informatiebeveiliging. Stel acceptatiecriteria op voor kwaliteit, uitleg en logging, passend bij beroepsregels en klantverwachting.
Voer kleine pilots uit met afgebakende taken, zoals conceptteksten of zoekwerk in dossiervoering. Meet nauwkeurig: tijdswinst, foutmarges, herstelkosten en klantimpact. Laat een onafhankelijke collega systematisch tegenspraak organiseren bij elk beslismoment.
Leg afspraken met leveranciers vast: EU-datacenters, geen trainingsgebruik van prompts, incidentmelding en duidelijke auditlogs. Train medewerkers in veilige prompts en vertrouwelijk omgaan met gegevens. Evalueer jaarlijks op basis van de AI-verordening en de AVG, en pas processen en tooling tijdig aan.