Banken slaan alarm over een nieuw AI-model met de naam Mythos, gelinkt aan Anthropic. Zij vrezen dat criminelen het systeem gebruiken voor slimmere phishing, spoofing en deepfake-oplichting. In Europa en Nederland leidt dit tot extra aandacht voor regels en weerbaarheid. Dit speelt op het moment van schrijven terwijl de Europese AI-verordening en DORA stap voor stap ingaan.
Banken zien nieuw AI-risico
Mythos wordt genoemd als een krachtig generatief model dat tekst en mogelijk audio kan maken. Generatieve AI is software die nieuwe inhoud produceert op basis van voorbeelden. Banken zijn bang dat hiermee zeer overtuigende nepmails en belscripts ontstaan. Dat vergroot de kans dat klanten en medewerkers toch happen.
Fraudeteams zien dat oplichtingspogingen minder taalfouten bevatten en persoonlijker zijn. Het model kan scenario’s uitschrijven die lijken op echte bankprocessen. Daardoor wordt het voor mensen lastiger om rode vlaggen te herkennen. Het menselijk oordeel komt onder druk te staan.
Organisaties verhogen training en monitoring om dit te pareren. Ze testen systemen met eigen “red teams” die AI-gestuurde aanvallen nabootsen. Leveranciers worden gevraagd om functies voor detectie van synthetische media en verdachte patronen.
Generatieve modellen voeden fraude
Moderne modellen zoals Claude, GPT-4 en soortgenoten kunnen plannen, toon kiezen en code produceren. Dat maakt voorbereiden van phishing en vishing sneller en goedkoper. Technische drempels verdwijnen voor kwaadwillenden. De combinatie met gelekte of publiek vindbare gegevens maakt aanvallen maatwerk.
De naam Mythos staat symbool voor deze verschuiving. Ook open modellen zijn inzetbaar als ze worden fijn-afgesteld op social engineering. Misbruik komt vaak niet door één tool, maar door slimme ketens van prompts, scripts en gestolen data.
Deepfake-audio en -video spelen hierin een groeiende rol. Stemklonen kunnen contactcenters misleiden of autorisaties nabootsen. Banken onderzoeken daarom extra verificatiestappen, zoals terugbelprocedures, codewoorden en vertraging bij risicovolle opdrachten.
“Deepfake-audio is nagebootste spraak, gemaakt door een algoritme dat iemands stem leert uit korte fragmenten.”
Europese AI-verordening raakt sector
De Europese AI-verordening (AI Act) legt plichten op voor algemene AI-systemen en hoogrisico-toepassingen. Banken die AI gebruiken voor bijvoorbeeld kredietbeoordeling of fraude-opsporing vallen sneller onder strenge eisen. Zij moeten risicobeheer, logging en menselijk toezicht inrichten en kunnen aantonen.
Voor generatieve modellen gelden transparantie-eisen, zoals documentatie over capaciteiten en beperkingen. Inkopende banken moeten due diligence doen op leveranciers en modellen. Contracten moeten misbruikbeperking, auditrechten en beveiligde data-interfaces regelen.
De AVG blijft leidend voor klantgegevens. Dataminimalisatie en versleuteling zijn verplicht, ook bij modeltraining. Het hergebruiken van klantopnames om stemmodellen te trainen vraagt een duidelijke rechtsgrond en zorgvuldige toestemming.
DORA en PSD2 sturen beveiliging
De Digital Operational Resilience Act (DORA) verplicht op het moment van schrijven financiële instellingen tot sterkere cyberweerbaarheid. Denk aan scenario- en pentests, incidentmelding en streng derdepartij-toezicht. Dit raakt direct het gebruik van AI-diensten in de cloud.
PSD2 en sterke klantauthenticatie verlagen het risico bij betalingen. Toch omzeilt social engineering vaak techniek via de mens. Banken bouwen daarom extra frictie in, zoals waarschuwingen, wachttijden en aanvullende checks bij ongebruikelijke transacties.
Toezichthouders zoals De Nederlandsche Bank en de Europese Bankautoriteit vragen om oefening met realistische aanvallen, inclusief deepfakes. TIBER-EU en TIBER-NL bieden raamwerken voor zulke tests. Lessen daaruit worden sectorbreed gedeeld.
Nederlandse banken scherpen controles
In Nederland zetten banken meer in op realtime gedragsanalyse. Afwijkende apparaten, locaties of transactiepatronen wegen zwaarder mee. Bij twijfel volgt extra verificatie via een tweede kanaal of een blokkade met terugbelactie.
Contactcenters verlaten enkelvoudige spraakherkenning als verificatie. Ze combineren kennisvragen, contextsignalen en device-informatie. Medewerkers krijgen korte, concrete scripts om druk van oplichters te doorbreken.
Publieksvoorlichting blijft essentieel. Banken en Betaalvereniging Nederland wijzen op stem- en video-fraude en de risico’s van “vriend-in-nood”-berichten. Advies aan klanten: deel nooit codes, verbreek het gesprek en bel zelf terug via het officiële nummer.
Leveranciers moeten misbruik beperken
Anthropic staat bekend om een veiligheidsaanpak die het “Constitutional AI” noemt. Dat is een trainingsmethode waarbij het model zichzelf corrigeert op basis van vastgelegde principes. Toch zoeken aanvallers vaak omwegen via creatieve opdrachten of toolketens.
Leveranciers kunnen misbruik beperken met inhoudsfilters, throttling en detectie van geautomatiseerde aanvalspatronen. Heldere transparantierapporten helpen inkopers om aan de AI-verordening te voldoen. Snelle meldingen over misbruikcases versnellen verbeteringen.
Banken vragen om instelbare guardrails en forensische logs in AI-diensten. Zo is achteraf te onderzoeken welke prompts risicovol waren. Dit sluit aan bij de documentatie- en rapportageplichten uit de AI Act en DORA.