Een katholieke priester is recent bijna misleid door een beller die klonk als paus Franciscus. De stem was met kunstmatige intelligentie nagemaakt om vertrouwen te winnen. De poging gebeurde online en had als doel geld of gevoelige gegevens. De zaak laat zien dat AI-oplichting in Europa snel slimmer en persoonlijker wordt.
Oplichter gebruikte paus-stem
De dader deed zich voor als de paus en sprak de priester direct aan. Dit is een bekende truc: een gezaghebbende stem schept urgentie en druk. Vaak volgt dan een verzoek om geld, cadeaubonnen of interne informatie. In dit geval werd de misleiding op tijd herkend.
De aanpak combineert sociale manipulatie met een geloofwaardige imitatie. De oplichter bouwt een relatie op en verhoogt de druk stap voor stap. Hij schakelt tussen e-mail, WhatsApp of een telefoontje. Zo wordt het voor het slachtoffer lastig om te pauzeren en te controleren.
Telefoonnummers en profielfoto’s zijn eenvoudig te vervalsen. Dat heet spoofing: een systeem laat het lijken alsof het contact echt is. Ook korte voicememo’s klinken al overtuigend. Zonder duidelijke verificatie gaat het dan snel mis.
Deepfake-stemmen overtuigen snel
Een deepfake is een nagemaakte audio of video die echt lijkt. Met zogeheten voice cloning kan een algoritme iemands stem kopiëren. Daarvoor is soms maar dertig seconden bronmateriaal nodig. Openbare toespraken of video’s leveren die fragmenten vaak al.
Consumenten-tools verlagen de drempel. Diensten zoals ElevenLabs en vergelijkbare tekst-naar-spraaksoftware kunnen accenten, intonatie en pauzes namaken. Het resultaat klinkt natuurlijk en emotioneel. Daardoor werken deze nepstemmen ook in korte telefoontjes of spraakberichten.
Detectie van deepfakes blijft lastig. Kleine haperingen of vreemde ademhaling geven soms nog iets weg. Maar achtergrondruis en compressie verbergen fouten. Daarom is procedurele controle belangrijker dan technische oor-testen.
Een deepfake is digitaal nagemaakte audio of video die voor de meeste mensen niet van echt te onderscheiden is.
AI-verordening verplicht transparantie
De Europese AI-verordening (AI Act) verplicht dat deepfakes duidelijk als kunstmatig worden gemarkeerd. Dat geldt wanneer mensen ermee in contact komen, bijvoorbeeld via audio of video. Voor algemene AI-systemen (GPAI) komen er extra plichten rond documentatie en misbruikbeperking. Op het moment van schrijven treden de regels gefaseerd in werking tot en met 2026.
Gebruik van iemands stem of beeld raakt ook de AVG. Een stemopname is persoonlijke data en soms zelfs biometrisch. Zonder rechtmatige grondslag verwerken of publiceren mag niet. Voor oplichters is dit simpelweg strafbaar, bovenop bestaande fraude- en oplichtingsartikelen.
Voor kerken en goede doelen in Nederland betekent dit: leveranciers toetsen, medewerkers trainen en procedures vastleggen. Denk aan dataminimalisatie en versleuteling bij mobiele communicatie. En aan duidelijke instructies voor geldverzoeken en externe contacten. Zo komt beleid en technologie samen in de praktijk.
Kerken en goede doelen kwetsbaar
Religieuze organisaties werken met veel vertrouwen en korte lijnen. Een bericht “van de pastoor” of “van de bisschop” weegt zwaar. Dat maakt imitatie met een nepstem of nepaccount extra effectief. Zeker als er haast wordt gesuggereerd.
Vrijwilligers en oudere bestuursleden gebruiken vaak WhatsApp en e-mail. Dat is handig, maar ook een ingang voor spoofing. Een profielfoto en naam zijn snel gekopieerd. Zonder terugbel- of vierogenprincipe kan één bericht genoeg zijn.
Nederlandse banken en de politie waarschuwen al langer voor spoofing en telefonische betaalfraude. AI-stemmen versterken die risico’s. Ze klinken geruststellend en bekend. Daardoor vallen klassieke waarschuwingssignalen minder op.
Wat organisaties nu kunnen doen
Spreek af: geen financiële verzoeken via spraakbericht of chat. Gebruik altijd een tweede kanaal om te controleren, bijvoorbeeld terugbellen via het bekende secretariaatsnummer. Leg vast wie welke betalingen mag goedkeuren. Hanteer standaard het vierogenprincipe.
Maak een kort crisisprotocol voor “dringende” instructies. Een simpele checklist helpt al: klopt het nummer, is er haast, wijkt de toon af, is er een alternatief contact? Zet waarschuwingen in nieuwsbrief en parochie-app. Herhaal dit elk kwartaal.
Technisch helpt het om nummerherkenning kritisch te bekijken en ongebruikelijke inloglocaties te monitoren. Zet multifactor-authenticatie aan op mail en cloud. Overweeg content-credentials (C2PA) in beeld- en videowerkstromen. Zo wordt herkomst van eigen materiaal aantoonbaar.
Detectie blijft beperkt inzetbaar
Automatische deepfakedetectie is op dit moment wisselvallig. Filters missen slimme vervalsingen of slaan juist vals alarm. Watermerken en audiokenmerken zijn nog niet breed ingevoerd. Daarom kan niemand blind vertrouwen op een scanner.
Platformen zoals Meta en X verwijderen soms gemelde nepcontent, maar vaak pas na schade. Snelle interne validatie is dus cruciaal. Een korte wachttijd en een extra check voorkomen impulsbeslissingen. Dat remt 90% van de druktechnieken.
Uiteindelijk draait het om weerbaarheid. Combineer duidelijke procedures met basisveiligheid en training. Wetgeving zoals de AI Act en de AVG biedt een kader, maar organisaties moeten nu handelen. Zo blijft een nagebootste stem geen toegangsbewijs.