Bedrijven in België en Nederland gebruiken steeds vaker kunstmatige intelligentie om beslissingen te ondersteunen. In de praktijk bepaalt het systeem vaak de uitkomst, van werving tot klantenservice. Dat maakt verantwoordelijkheid en toezicht urgent, nu de Europese AI-verordening gevolgen heeft voor overheid en bedrijven. Organisaties willen snelheid en efficiëntie, maar lopen risico op fouten, vooringenomenheid en privacyproblemen.
Algoritmen sturen al besluiten
Beslissingsondersteuning klinkt menselijk, maar een score of aanbeveling stuurt gedrag sterk. Medewerkers hebben weinig tijd, worden op prestaties gemeten en volgen het systeem. Zo ontstaat stilzwijgende besluitvorming: het algoritme beslist feitelijk mee, zonder dat het zo heet. De lijn tussen advies en besluit vervaagt op de werkvloer.
Stilzwijgende besluitvorming: wanneer een ‘advies’ van een algoritme de feitelijke uitkomst bepaalt, omdat afwijken niet realistisch is.
Voorbeelden zijn wervingspakketten zoals Workday en SAP SuccessFactors die cv’s rangschikken. Verkoopteams gebruiken scores van Salesforce Einstein of Microsoft Dynamics 365 Copilot om leads te kiezen. Contactcenters sturen gesprekken met Genesys AI of Google Contact Center AI. Leveranciers presenteren dit als hulp, maar de ranking stuurt wat iemand in de praktijk doet.
Dat schuurt met verantwoordelijkheid en uitleg. Een manager kan zeggen dat hij zelf beslist, terwijl het dashboard de ruimte om af te wijken klein maakt. In audits is dan onduidelijk wie waarvoor tekent: mens, leverancier of model. Dit kan problemen geven bij klachten, discriminatieclaims of toezicht door de privacy-autoriteit.
Risico’s voor werk en klant
Algoritmen leren van data uit het verleden en kunnen vooringenomen zijn. Een cv-filter kan bepaalde profielen wegduwen als die minder voorkwamen in historische data. Zonder corrigerende controles krijgt de bias een formeel jasje. Dat botst met gelijke behandeling in werving en selectie.
Op de werkvloer kan voortdurende meting leiden tot stress en ongezonde druk. Productiviteitsscans of risicoscores beïnvloeden planning, bonussen en training. Werknemers weten vaak niet welke gegevens worden gebruikt, of hoe lang die bewaard blijven. Transparantie en duidelijke regels zijn daarom nodig voor veiligheid en welzijn.
Klanten merken het via fraude- en risicomodellen, bijvoorbeeld bij verzekeringen of krediet. Een fout-positieve melding kan tot vertraging, weigering of extra controles leiden. Onder de AVG hebben mensen rechten bij geautomatiseerde besluitvorming met grote gevolgen. Als “ondersteuning” in feite bindend is, hoort daar menselijke herbeoordeling en uitleg bij.
Europese AI-verordening eist toezicht
De Europese AI-verordening (AI Act) plaatst systemen voor arbeid en toegang tot essentiële diensten in de categorie hoog risico. Dat vereist aantoonbaar risicobeheer, goede data, logboeken en menselijk toezicht. Ook moeten gebruikers weten dat zij met AI te maken hebben als dat relevant is. Leveranciers en afnemers delen verantwoordelijkheden en kunnen worden beboet bij overtreding.
Leveranciers moeten technische documentatie en conformiteitsbeoordeling leveren, vaak met CE-markering. Afnemers moeten het gebruik passend inrichten, personeel trainen en prestaties van het systeem volgen. Incidenten en ernstige storingen moeten worden gemeld. Dit maakt zwakke plekken in processen en data al snel zichtbaar.
De regels treden gefaseerd in werking op het moment van schrijven. Verboden praktijken worden als eerste aangepakt, gevolgd door eisen voor hoog-risicosystemen. Bedrijven die nu “alleen ondersteuning” inzetten, doen er goed aan te toetsen of dat in de praktijk geen besluitvorming is. Wie tijdig voorbereidt, beperkt juridische en operationele verrassingen.
AVG begrenst data op werk
De AVG vraagt om dataminimalisatie, doelbinding en een passende grondslag. Toestemming van werknemers is zelden geldig door machtsongelijkheid; organisaties leunen vaker op gerechtvaardigd belang of noodzaak voor de arbeidsovereenkomst. Dan moet de inbreuk op privacy wel zo klein mogelijk zijn. Versleuteling, pseudonimisering en strikte bewaartermijnen horen daarbij.
Voor grootschalige of systematische monitoring is een Data Protection Impact Assessment (DPIA) verplicht. Daarin beschrijf je risico’s en maatregelen, inclusief rechten van werknemers en klanten. Ook moet je bijhouden welke systemen persoonsgegevens verwerken en met welk doel. Zonder deze basis is inzet van AI op de werkvloer moeilijk te rechtvaardigen.
In Nederland houdt de Autoriteit Persoonsgegevens toezicht; in België doet dat de Gegevensbeschermingsautoriteit. Zij zien toe op transparantie en “zinvolle informatie” over de logica van een systeem. Een volledige broncode is niet nodig, maar wel begrijpelijke uitleg over factoren die het besluit sturen. Dat sluit aan bij de behoefte aan uitlegbaarheid in organisaties.
Governance in vijf concrete stappen
Begin met een inventaris van alle algoritmen, ook “ondersteunende” dashboards en scores. Koppel elk systeem aan een doel, datastromen en een eigenaar in de organisatie. Classificeer het risico volgens de AI-verordening en voer waar nodig een DPIA uit. Leg vast wanneer een systeem feitelijk de uitkomst bepaalt.
Richt menselijk toezicht in met duidelijke drempels en een echte override-knop. Train medewerkers om outputs te bevragen en afwijkingen te documenteren. Bewaar logbestanden voor audits en foutanalyse, met aandacht voor privacy. Test modellen regelmatig op bias, robuustheid en veroudering van data.
Wees transparant naar werknemers en klanten over gebruik, gegevens en rechten. Publiceer waar mogelijk een beknopte modelkaart of neem het systeem op in een algoritmeregister, zoals overheden in Nederland al doen. Betrek de ondernemingsraad vroeg; in Nederland geldt instemmingsrecht bij regelingen voor personeelsbeoordeling en datagebruik. Leg met leveranciers vast dat uitlegbaarheid, updates en incidentmelding contractueel zijn geborgd.