Het Europees Parlement heeft deze week ingestemd met aanpassingen aan de Europese AI-verordening (AI Act). De wijzigingen moeten regels verduidelijken en de balans verbeteren tussen innovatie en grondrechten. Het besluit valt in Brussel en is relevant voor alle EU-lidstaten, inclusief Nederland. Het College voor de Rechten van de Mens waarschuwt tegelijk dat zorgen over privacy en discriminatie blijven bestaan.
Parlement scherpt AI-regels aan
De AI-verordening werkt met risicoklassen, van laag tot onaanvaardbaar risico. Systemen met een te hoog risico, zoals sommige vormen van biometrische bewaking, worden verboden. Hoogrisico-toepassingen mogen alleen nog onder strikte voorwaarden worden gebruikt, met toezicht en documentatie.
Met de aanpassingen komen er extra duidelijke plichten voor aanbieders en gebruikers van AI. Denk aan transparantie over werking, testen op bias (vooroordeel) en menselijk toezicht. Ook komen er hoge boetes bij overtredingen, oplopend tot een deel van de wereldwijde omzet.
Generatieve modellen en zogeheten foundation models krijgen specifieke regels. Deze datamodellen, zoals GPT-4, Gemini en Llama, moeten informatie geven over trainingsdata en technische risico’s. Voor zeer krachtige modellen met “systemische risico’s” gelden extra veiligheidsmaatregelen.
Zorgen om grondrechten blijven
Het College voor de Rechten van de Mens ziet blijvende risico’s voor privacy, gelijke behandeling en toegang tot recht. Vooral biometrische identificatie en emotieherkenning kunnen leiden tot massasurveillance en uitsluiting. Uitzonderingen voor opsporing verdienen volgens het College strakke begrenzing en onafhankelijke controle.
Ook het gebruik van algoritmen bij publieke taken vraagt om meer waarborgen. Als AI beslissingen ondersteunt over burgers, moet dat eerlijk, uitlegbaar en controleerbaar zijn. Zonder heldere uitleg en bezwaarroute kunnen mensen hun rechten moeilijk uitoefenen.
De AVG blijft onverminderd gelden naast de AI-verordening. Dat betekent onder meer dataminimalisatie, doelbinding en versleuteling bij gegevensverwerking. Samenloop van regels vraagt om goede richtsnoeren voor uitvoerders, zodat privacy en veiligheid niet tussen wal en schip vallen.
Hoogrisico-systemen zijn toepassingen die een grote invloed kunnen hebben op de veiligheid of grondrechten, zoals AI in politie, zorg, onderwijs of HR.
Gevolgen voor overheid en bedrijven
Belangrijk voor de praktijk: Europese AI-verordening gevolgen overheid zijn direct voelbaar. Overheden en bedrijven moeten hun AI-inzet inventariseren, de risicoklasse bepalen en waar nodig conformiteitsbeoordelingen uitvoeren. Publieke instanties die hoogrisico-AI inzetten, moeten een effectbeoordeling voor grondrechten doen.
Gemeenten die algoritmen gebruiken voor bijvoorbeeld fraude-aanpak of toewijzing van voorzieningen, moeten transparanter worden. Registratie in een openbaar register, duidelijke uitleg aan burgers en menselijk toezicht worden de norm. Dit sluit aan bij Nederlandse initiatieven zoals het algoritmeregister.
Nationale toezichthouders gaan handhaven, op het moment van schrijven onder aansturing van een Europees AI Office bij de Europese Commissie. In Nederland ligt een rol bij de Autoriteit Persoonsgegevens en markttoezichthouders voor productveiligheid. Samenwerking tussen toezichthouders is nodig om dubbel werk en hiaten te voorkomen.
Generatieve AI krijgt plichten
Voor makers van generatieve AI gelden transparantie-eisen over trainingsdata en modelcapaciteiten. Publicatie van technische documentatie, risicobeperking en incidentmelding worden standaard. Ook moeten aanbieders maatregelen nemen tegen misleiding, zoals watermerken voor synthetische media.
Gebruikers van modellen als GPT-4, Gemini of Llama in klantcontact of contentproductie moeten AI-gebruik herkenbaar maken. Dat helpt mensen te weten wanneer zij met een systeem praten of AI-gegenereerde inhoud zien. In sectoren met kwetsbare groepen, zoals zorg en onderwijs, gelden extra zorgvuldigheidseisen.
Het auteursrecht blijft van kracht, ook bij training en output van modellen. Organisaties doen er goed aan licenties te controleren en verzoeken tot uitsluiting van datasets te respecteren. Dit beperkt juridische risico’s en ondersteunt een eerlijke datasamenleving.
Handhaving en openstaande vragen
De regels treden gefaseerd in werking, op het moment van schrijven gespreid over de komende jaren. Verboden toepassingen gaan als eerste gelden, gevolgd door eisen voor hoogrisico-systemen en generatieve AI. Europese normalisatie-instituten CEN en CENELEC werken aan technische standaarden die uitvoering moeten vergemakkelijken.
Er blijven vragen over de afbakening van biometrische systemen, emotieherkenning en uitzonderingen voor opsporing. Heldere definities en praktische richtsnoeren zijn nodig om willekeur te voorkomen. Zonder die duidelijkheid is het risico op uiteenlopende nationale interpretaties groot.
Burgers krijgen het recht om te klagen bij toezichthouders over AI-systemen die hen raken. Voor instellingen betekent dit betere dossiervorming, uitleg aan betrokkenen en toegankelijke bezwaarprocedures. Zo raken techniek en recht elkaar in de dagelijkse praktijk, van gemeentehuis tot ziekenhuis en school.