Gezichtsherkenningssystemen blijken op het moment van schrijven nog eenvoudig te misleiden met AI-bewerkte beelden. Onderzoekers en beveiligingsteams tonen aan dat deepfakes en ‘morphing’-foto’s vaak door controles glippen. Dat is een direct risico voor toegangscontrole, grenspassage en online identificatie in Europa en Nederland. De Europese AI-verordening en de AVG leggen hier extra eisen op, maar de praktijk hapert nog.
AI-gezichten misleiden controles
Met generatieve modellen zoals StyleGAN en Stable Diffusion kunnen aanvallers hyperrealistische gezichten maken of bestaande foto’s subtiel aanpassen. Een morphing-foto combineert twee gezichten tot één pasfoto die op beide personen lijkt. Daardoor kan één document meerdere mensen toegang geven. Dit ondermijnt het doel van biometrie: dat één uniek mens aan één identiteit is gekoppeld.
Veel gebruikte diensten zoals Microsoft Azure Face API, Amazon Rekognition en Face++ bieden drempels en liveness-opties. Toch blijft de uitkomst afhankelijk van instellingen, beeldkwaliteit en omgevingslicht. Een ‘te soepele’ matchdrempel verhoogt comfort, maar ook het risico op fout-positieven. In praktijk wisselen organisaties deze parameters, met onbedoelde gaten in de beveiliging als gevolg.
Ook sociale media en smartphonecamera’s leveren genoeg bronmateriaal voor manipulatie. Met open-source tools is ruis te verwijderen en belichting te corrigeren, wat gezichtsalgoritmen verder in de kaart speelt. Juist omdat de aanvalsmiddelen goedkoop en wijd beschikbaar zijn, groeit het risico sneller dan de verdediging. Dat zet druk op ontwikkelaars én gebruikers van deze systemen.
Morphing blijft groot risico
Bij een morphing-aanval wordt al in de aanvraagfase van een ID-document een gemanipuleerde foto ingediend. De pasfoto lijkt op twee personen, maar oogt voor een mens én de meeste algoritmen geloofwaardig. Dit is lastig te ontdekken als de uitgevende instantie geen sterke broncontrole heeft. Het gevolg kan pas bij grenscontrole of onboarding aan het licht komen.
Internationale testprogramma’s zoals NIST FRVT laten zien dat detectie van morphs en andere manipulaties sterk varieert per model. Sommige systemen herkennen kunstmatige artefacten, andere niet of alleen onder ideale omstandigheden. Voor operationeel gebruik in grens- of identiteitsprocessen is die variatie problematisch. Betrouwbaarheid moet immers ook bij slechte belichting en alledaagse camera’s overeind blijven.
In Europa spelen e-passports en eGates een rol bij het beperken van dit risico. Het uitlezen van de NFC-chip en het verifiëren van de beveiligingskenmerken in het document versterken de check. Maar als de bronfoto al gemanipuleerd is, werkt die bescherming slechts deels. Daarom verplaatst de aandacht naar strengere intake en aanvullende liveness-tests.
Liveness-detectie schiet tekort
Liveness-detectie is een controle die checkt of er een echte, levende persoon voor de camera staat. Dat kan via bewegingen, dieptemetingen of analyse van huidtextuur. Toch zijn 3D-maskers, hoogwaardige ‘replay’-video’s en real-time deepfakes soms genoeg om deze tests te misleiden. Vooral mobiele onboarding met alleen een selfie blijft kwetsbaar.
Leveranciers als iProov, FaceTec en Onfido bieden geavanceerde presentatie-aanval-detectie (PAD). Zij combineren meerdere signalen en risicomodellen. Maar geen enkele methode is waterdicht, zeker niet bij slecht licht, lage bandbreedte of goedkope camera’s. Organisaties die alleen op één selfie-check vertrouwen, lopen daarom een verhoogd risico.
De meest robuuste praktijk is meervoudige verificatie. Denk aan het scannen van de NFC-chip van het paspoort, gecombineerd met een actieve liveness-test en menselijk toezicht bij twijfel. Ook periodieke ‘red teaming’ met gesimuleerde aanvallen is nodig. Zo blijft het niveau aansluiten bij steeds betere AI-manipulatie.
Europese AI-verordening gevolgen overheid
De Europese AI-verordening (AI Act) classificeert veel biometrische toepassingen als hoog risico. Dat betekent verplichte risicobeoordeling, gegevensgovernance, robuustheidstests tegen manipulatie en uitgebreide logging. Voor publieke inzet, zoals cameratoezicht en grenspassage, gelden extra beperkingen en transparantie-eisen. Real-time identificatie in de openbare ruimte is in principe verboden, met smalle uitzonderingen.
De AVG ziet biometrie als bijzondere persoonsgegevens. Verwerking is in principe verboden, tenzij er een specifieke wettelijke grondslag is, zoals uitdrukkelijke toestemming of zwaarwegend publiek belang. Organisaties moeten dataminimalisatie toepassen, sterkte versleuteling gebruiken en een DPIA uitvoeren. Voor Nederlandse overheden en uitvoeringsdiensten betekent dit strengere inkoop, documentatie en toezicht.
Ook private sectoren zoals banken, verzekeraars en telecom krijgen hiermee te maken. Online klantidentificatie met gezichtsherkenning vraagt aantoonbare noodzaak en veilige verwerking. Zonder alternatieve route kan uitsluiting ontstaan voor mensen die geen biometrie willen of kunnen delen. Dat raakt direct aan consumentenrechten en toegankelijkheid.
Impact voor Nederland en EU
In Nederland gebruiken luchthavens eGates en airlines ‘smart boarding’ met gezichtsherkenning. Gemeenten en uitvoeringsorganisaties digitaliseren meer identiteitsprocessen. AI-manipulatie tast het vertrouwen in deze ketens aan, van aanvraag tot controle bij de poort. Dat maakt incidenten niet alleen een security-, maar ook een reputatierisico.
De Autoriteit Persoonsgegevens benadrukt dat biometrie in arbeidssituaties vrijwel altijd verboden is, behalve bij strikte noodzaak. Dat beleid beperkt ondoordachte inzet van gezichtsherkenning op werkvloeren. Tegelijk dwingt het organisaties om naar alternatieven te kijken, zoals fysieke passen of sterke wachtwoordloze methoden. Zo blijft de balans tussen veiligheid en privacy behouden.
Voor grens- en veiligheidsdiensten geldt dat betrouwbaarheid cruciaal is. Menselijk toezicht en opleiding blijven nodig, naast technologische verbeteringen. Europese samenwerking in testprogramma’s en gedeelde datasets kan de kwaliteit versnellen. Dat helpt ook kleinere lidstaten om dezelfde weerbaarheid te halen als grotere landen.
Wat organisaties nu kunnen doen
Begin met een actuele risicoanalyse: welke aanvalspaden zijn reëel in uw proces? Stel matchdrempels conservatief af en audit die keuzes periodiek. Combineer meerdere signalen: documentchip via NFC, actieve liveness en eventueel een tweede kanaal. Zorg voor een mens-in-de-lus bij afwijkingen of hoge waarde transacties.
Neem robuustheid op in inkoop en aanbesteding. Vraag leveranciers om onafhankelijke testresultaten, bijvoorbeeld deelname aan NIST-evaluaties of vergelijkbare Europese benchmarks. Leg prestatie-eisen vast voor uiteenlopende omstandigheden, zoals lage lichtniveaus en mobiele netwerken. En verplicht regelmatig ‘adversarial’ testen met synthetische en gemorphte beelden.
Borg privacy en rechtmatigheid vanaf het ontwerp. Minimaliseer opslag van biometrie, versleutel data end-to-end en verwerk lokaal waar mogelijk. Bied altijd een evenwaardig niet-biometrisch alternatief aan gebruikers. Documenteer keuzes voor de AVG en de AI-verordening, inclusief continu monitoren en incidentrespons.
Definitie: biometrische gegevens zijn persoonsgegevens die het mogelijk maken een persoon uniek te identificeren, zoals gezichtsafbeeldingen of vingerafdrukken. Onder de AVG vallen deze in een bijzondere categorie en geldt een verwerkingsverbod, tenzij een specifieke uitzondering van toepassing is.