In Nederlandse organisaties groeit “shadow AI”: medewerkers gebruiken ChatGPT, Microsoft Copilot en Google Gemini zonder toezicht. Dat gebeurt op kantoor en thuis, vaak buiten zicht van IT en compliance. Bestuurders vragen nu om grip, vanwege datalekken en juridische risico’s. Dit speelt terwijl de Europese AI-verordening ingaat en gevolgen voor overheid en bedrijfsleven duidelijker worden, op het moment van schrijven.
Shadow AI rukt op
Shadow AI is het gebruik van AI-tools buiten beleid en toezicht. Medewerkers plakken tekst of data in een chatbot om sneller te werken. Het lijkt onschuldig, maar het omzeilt bestaande veiligheidsmaatregelen. Daardoor verliezen organisaties zicht op wie welke gegevens waarheen stuurt.
Shadow AI is het gebruik van AI-tools buiten zicht van de organisatie, zonder duidelijke afspraken over data, veiligheid en risico’s.
De praktijk groeit snel door laagdrempelige tools als ChatGPT (OpenAI), Microsoft Copilot en Google Gemini. Ze helpen met e-mails, codevoorbeelden, samenvattingen en analyses. Maar privé-accounts en browserextensies maken het lastig om te zien wat er gebeurt. Zo ontstaat een grijze zone naast het officiële IT-landschap.
Hybride werken vergroot het probleem. Thuis zijn er minder technische beperkingen en meer verleiding om “even” een model te vragen om hulp. Ook managers hebben soms geen duidelijk beleid gedeeld. Daardoor voelt eigen initiatief logisch, maar blijft de organisatie juridisch verantwoordelijk.
Privacy en AVG in gevaar
Bij shadow AI kunnen persoonsgegevens, bedrijfsgeheimen en bronbestanden in externe systemen belanden. De Algemene verordening gegevensbescherming (AVG) eist een grondslag, dataminimalisatie en goede beveiliging. Vaak ontbreekt een verwerkersovereenkomst en is onduidelijk waar data worden opgeslagen. Dat vergroot de kans op datalekken en onrechtmatige doorgifte buiten de EU.
Een Data Protection Impact Assessment (DPIA) — een privacy-risicoanalyse — is verplicht bij hoog risico. Zonder toestemming en logging is zo’n DPIA niet mogelijk. De Autoriteit Persoonsgegevens kan boetes opleggen bij overtredingen, op het moment van schrijven. Ook kan vertrouwelijke klantinformatie onbedoeld in trainingsdata of supportkanalen terechtkomen.
Mitigatie vraagt technische en organisatorische maatregelen. Denk aan het anonimiseren van invoer en het blokkeren van upload van bronbestanden. Gebruik bij voorkeur enterprise-versies waarin training op klantdata is uitgeschakeld en logging is ingeschakeld. Maar zelfs dan blijft menselijk toezicht nodig op uitkomsten van het algoritme.
Europese AI-verordening gevolgen overheid
De AI-verordening (AI Act) introduceert een risico-gericht kader in de EU. Leveranciers en gebruikers van hoge-risico systemen krijgen strikte plichten, zoals documentatie, kwaliteitsdata en menselijk toezicht. Ook het gebruik van general-purpose modellen, zoals GPT-4 of Gemini, kent regels voor aanbieders en extra plichten als ze in hoog-risico toepassingen worden ingezet. Shadow AI ondermijnt deze aantoonbare beheersing.
De regels gaan gefaseerd gelden tussen 2025 en 2027, op het moment van schrijven. Overheden die AI inzetten voor besluiten over burgers vallen vaak in de hoog-risico klasse. Zij moeten loggen, testen en kunnen uitleggen hoe het systeem tot een uitkomst kwam. Ongecontroleerde inzet door medewerkers past daar niet bij en verhoogt nalevingsrisico’s.
Inkoop en aanbesteding moeten daarom eisen stellen aan datamodellen en leveranciers. Denk aan transparantie over trainingsdata, beveiligingscertificeringen en ondersteuning voor auditing. Instellingen moeten vastleggen welke AI-toepassingen zijn toegestaan en wie verantwoordelijk is. Dit geldt ook voor onderwijs, zorg en gemeentelijke diensten.
Financiële sector voelt druk
Accountants, controllers en auditors werken met zeer gevoelige cijfers en klantdossiers. Onbedoelde invoer van deze data in een chatbot kan het beroepsgeheim schenden. Beroepsregels vragen zorgvuldigheid, herleidbaarheid en dossiervorming. Zonder zicht op gebruikte systemen is dat niet te borgen.
Daarnaast geldt in de EU de Digital Operational Resilience Act (DORA) voor financiële instellingen vanaf 2025. Die wet vereist strakke ICT-risicobeheersing, leverancierscontrole en incidentrespons. Een “vrije” inzet van AI-diensten via privé-accounts past daar niet bij. Toezichthouders als DNB en AFM verwachten aantoonbare grip op uitbestede IT-risico’s.
Ook de audittrail komt in het geding. Als een model berekeningen of memo’s opstelt, moet de organisatie versies, bronnen en controles vastleggen. Zonder dit is herhaalbaarheid lastig en neemt het controlerisico toe. Dit raakt direct de kwaliteit van de jaarrekeningcontrole en interne beheersing.
Aanpak: beleid en beheer
Begin met een duidelijk AI-gebruiksbeleid. Benoem wat mag, welke tools zijn toegestaan en met welk doel. Leg vast welke data nooit in externe modellen mogen worden ingevoerd. Richt een register in van goedgekeurde systemen met bijbehorende risicoklassen.
Voeg technische waarborgen toe. Single sign-on (SSO), rolgebaseerde toegang en data loss prevention (DLP) beperken dataverlies. Zet logging en versleuteling aan, en blokkeer onbekende AI-domeinen in de browser. Overweeg een bedrijfsproxy voor AI waarmee prompts worden geanonimiseerd en opgeslagen voor audit.
Investeer in training en cultuur. Leg uit wat een model wel en niet kan, en waarom menselijk nazicht verplicht is. Maak melden van near-misses laagdrempelig en oefen met “red teaming” van uitkomsten. Laat teams voorbeelden zien van veilige prompts en van fouten die snel ontstaan.
Tot slot: toets leveranciers op beveiliging, locatie van data en juridische waarborgen. Controleer standaardcontractbepalingen voor doorgifte buiten de EU en vraag om duidelijke opt-out van training op klantdata. Meet naleving met KPI’s en voer periodiek steekproeven uit op gebruik. Zo wordt schaduwgebruik teruggedrongen en blijft innovatie binnen de lijnen van AVG en AI-verordening.