Het College voor de Rechten van de Mens schetst nieuwe plichten voor organisaties die kunstmatige intelligentie inzetten. Het gaat om duidelijke informatie aan klanten en burgers over het gebruik van algoritmen. De regels gelden in Nederland en de EU, met name door de AVG en de Europese AI‑verordening (AI Act). De toelichting is recent gedeeld om misverstanden te voorkomen en grondrechten te beschermen.
Transparantie nu wettelijke plicht
De Europese AI‑verordening maakt transparantie een basisregel. Wie een chatbot inzet, moet mensen laten weten dat zij met een systeem praten. Dat geldt ook voor AI die emoties probeert te herkennen, of voor synthetische beelden en stemmen. Het doel is dat mensen niet worden misleid en regie houden.
De AI‑verordening werkt met risicoklassen. Bij “beperkt risico” horen vooral informatieplichten, zoals herkenbaar maken dat content door een model is gemaakt. Bij “hoog risico” komen daar zwaardere eisen bij, zoals documentatie en toezicht. Verboden toepassingen, zoals manipulatieve technieken die schade kunnen veroorzaken, zijn helemaal niet toegestaan.
Op het moment van schrijven treedt de AI‑verordening gefaseerd in werking in de komende jaren. Organisaties moeten daarom nu al plannen maken. Zij moeten uitzoeken welke systemen zij gebruiken en welke plichten daarbij horen. Dit voorkomt noodoperaties zodra regels bindend worden.
Transparantie betekent dat mensen weten dát AI meebeslist, op welke gronden dat gebeurt en wat hun rechten zijn.
Wat organisaties moeten melden
Een organisatie moet duidelijk zeggen wanneer een gebruiker met een AI‑systeem communiceert. Dat kan in een melding bij de start van een chat of in het scherm van een spraakassistent. De uitleg hoort in eenvoudige taal te zijn en goed zichtbaar. Verstopte of onduidelijke waarschuwingen voldoen niet.
Bij AI‑gegenereerde media, zoals een nagebootste stem of een synthetische foto, is aanduiden verplicht. Een label of tekst als “gegenereerd door AI” is nodig, tenzij een wettelijke uitzondering geldt, bijvoorbeeld voor journalistieke of artistieke expressie met passende waarborgen. Ook intern moet worden vastgelegd hoe en wanneer de organisatie labelt. Dit helpt bij audits en klachtenafhandeling.
Gebruikt een organisatie een aanbevelingssysteem of profielanalyse, dan moeten mensen weten hoe dat ongeveer werkt. Leg in gewone woorden uit welke gegevens het model gebruikt en waarom. Geef ook opties om instellingen aan te passen of aanbevelingen uit te zetten, als dat kan. Zo kunnen mensen invloed houden op wat zij te zien krijgen.
AVG vraagt extra uitleg
De AVG geldt zodra er persoonsgegevens worden verwerkt. Dat zijn gegevens die herleidbaar zijn tot een persoon, zoals locatie, klikgedrag of stemopnames. De AVG eist dataminimalisatie: gebruik niet meer data dan nodig. Ook moeten gegevens goed worden beveiligd, bijvoorbeeld met versleuteling.
Bij geautomatiseerde besluitvorming met “aanzienlijke gevolgen” gelden zwaardere regels. Denk aan kredietbeoordeling, selectie voor een baan of toewijzing van een voorziening. Mensen hebben recht op uitleg over de logica, het belang en de gevolgen. Zij mogen beslissingen aanvechten en om een menselijke beoordeling vragen.
Voor risicovolle verwerkingen is een Data Protection Impact Assessment (DPIA) verplicht. Dat is een risicoanalyse op privacy en rechten. De Autoriteit Persoonsgegevens beveelt aan dit vroeg in een project te doen. Zo kunnen organisaties maatregelen nemen vóórdat schade ontstaat.
Europese AI-verordening gevolgen overheid
Overheden en uitvoeringsorganisaties krijgen extra taken onder de AI‑verordening. Voor hoog‑risico systemen is een fundamentele‑rechten‑toets nodig. Die kijkt naar impact op gelijke behandeling, toegang tot diensten en due process. Dit komt bovenop de bestaande privacy‑toets uit de AVG.
Transparantie richting burgers moet publiek en toegankelijk zijn. Beschrijf het algoritme in een register of op de website, in begrijpelijke taal. In Nederland bestaat hiervoor al het Algoritmeregister van de overheid en lokale varianten bij gemeenten. Het helpt inwoners om te zien waar en hoe systemen worden gebruikt.
De Digital Services Act verplicht grote platforms om hun aanbevelingssystemen uit te leggen en keuzemogelijkheden te bieden. Publieke instellingen die die platforms inzetten, moeten dat weten en hierop sturen. Denk aan communicatie, moderatie en advertentie‑inkoop. Zo blijft de keten transparant.
Deepfakes en labeling verplicht
Generatieve AI, zoals GPT‑4, Gemini of Llama 3, kan overtuigende tekst, beeld en audio maken. De AI‑verordening verplicht aanbieders en gebruikers om misleiding te voorkomen. Dat betekent labelen of markeren van synthetische content, en waar mogelijk technische herkenning toepassen. Dit verkleint risico’s op nepnieuws, fraude en reputatieschade.
Voor aanbieders van algemene AI‑modellen gelden aparte informatieplichten. Zij moeten onder andere gebruiksinstructies, beperkingen en bekende risico’s delen. Organisaties die zulke modellen inzetten, moeten die informatie opvolgen. Documenteer keuzes over prompts, filters en post‑bewerking.
Er zijn uitzonderingen, bijvoorbeeld voor rechtshandhaving of onderzoeksjournalistiek, als er passende waarborgen zijn. Maar ook dan blijft het uitgangspunt: misleiding voorkomen en rechten beschermen. Maak daarom een afwegingskader en leg beslissingen vast. Dat helpt bij toezicht en verantwoording.
Zo voorkomt u fouten
Begin met een inventarisatie van alle algoritmen in uw organisatie. Noteer per systeem doel, gegevens, leverancier en risico’s. Koppel hieraan de juiste wettelijke basis en transparantie‑maatregelen. Werk dit bij zodra systemen of processen veranderen.
Maak transparantie zichtbaar in de interface. Plaats een duidelijke melding bij chatbots en AI‑assistenten. Label gegenereerde content consequent. Bied daarnaast een menselijk alternatief voor wie dat nodig heeft, bijvoorbeeld via telefoon of balie.
Voer tijdig een DPIA en, waar nodig, een fundamentele‑rechten‑toets uit. Leg resultaten en maatregelen vast en wijs een verantwoordelijke aan. Train medewerkers in duidelijke taal en bias‑bewustzijn. Zo verkleint u juridische én maatschappelijke risico’s.
Niet‑naleving kan leiden tot boetes onder de AVG en de AI‑verordening. Belangrijker nog: het tast vertrouwen van klanten en burgers aan. Door vroeg te voldoen aan de regels, bouwt u aan kwaliteit en legitimiteit. Dat is op lange termijn de goedkoopste optie.