De AI-securitytool Mythos meldde deze week vijf kwetsbaarheden in curl, het veelgebruikte open-source downloadprogramma. De hoofdontwikkelaar van curl beoordeelde vier meldingen als onterecht. Eén melding blijft vooralsnog staan voor verder onderzoek door het project. De kwestie toont de grenzen van AI-gestuurde bugjacht en raakt aan eisen uit de Europese AI-verordening en de Cyber Resilience Act, met gevolgen voor overheid en bedrijven in de EU.
AI-tool meldt vijf lekken
Mythos is een beveiligingstool die met kunstmatige intelligentie broncode scant op zwakke plekken. Zulke systemen zoeken naar patronen die kunnen wijzen op fouten, zoals onjuiste invoercontrole of geheugenfouten. Het doel is ontwikkelaars sneller te waarschuwen. Bij curl leverde dat vijf afzonderlijke meldingen op.
Curl is een command-line programma om data via internetprotocollen te versturen en te ontvangen. Het zit in veel besturingssystemen en softwarepakketten. Daardoor kan een fout in curl een groot bereik hebben. Beheerders reageren daarom meestal snel op veiligheidsmeldingen.
Een kwetsbaarheid is een fout in software die misbruik mogelijk maakt. Denk aan het uitvoeren van ongewenste code of het uitlezen van gevoelige gegevens. AI-systemen kunnen zulke patronen opsporen in grote hoeveelheden code. Toch is een menselijke controle daarna cruciaal.
Vier claims zijn onjuist
Na beoordeling concludeerde het curl-team dat vier van de vijf Mythos-meldingen geen echte kwetsbaarheid beschrijven. De onderbouwing bleek onvolledig of ging uit van onrealistische aannames. Soms was de beschreven code niet bereikbaar of ontbrak een werkbare aanvalsvector. Dit zijn klassieke valse positieven, oftewel foutieve alarmen.
Valse positieven kosten tijd. Onderhouders moeten elke claim nameten, testen en documenteren. Die triage vergt uren werk, zeker bij populaire projecten met veel gebruikers. Dat vertraagt het oplossen van wél echte problemen.
De overgebleven melding wordt op het moment van schrijven nog opgevolgd binnen het reguliere proces. Dat betekent doorgaans herhaalbare stappen, een test, en zo nodig een patch. Pas daarna volgt eventuele toewijzing van een CVE, de standaardnaam voor een gedocumenteerde kwetsbaarheid.
Druk op open-source teams
Open-source projecten draaien vaak op vrijwilligers of kleine teams. Een plotselinge stroom onjuiste meldingen kan die teams overbelasten. AI-tools vergroten de schaal van detectie, maar dus ook de ruis. Zonder goede filters neemt de werkdruk hard toe.
Verantwoord melden, ook wel responsible disclosure genoemd, helpt de schade te beperken. Melders geven dan genoeg details om het probleem na te maken, zonder publiek misbruik te vergemakkelijken. Dat versnelt de beoordeling en verkleint de kans op misverstanden. Voor maintainers scheelt dat kostbare tijd.
Coordinated Vulnerability Disclosure (CVD) is de afspraak dat onderzoekers en leveranciers eerst onderling een lek oplossen en pas daarna publiek maken, met duidelijke details en een CVE-nummer.
Voor gebruikers blijft het advies gelijk: volg de beveiligingsadviezen van het project en update tijdig. Verstuur geen gevoelige data via oude of niet-ondersteunde builds. En behandel publiek geworden proof-of-concepts altijd als risicosignaal om snel te patchen.
EU-regels vragen zorgvuldigheid
De Europese Cyber Resilience Act verplicht leveranciers straks tot een proces voor kwetsbaarheidsbeheer en -melding. Dat betekent: triage, snelle patches en duidelijke communicatie. Onzorgvuldige of onduidelijke meldingen, ook als ze door AI worden gegenereerd, passen daar niet bij. Kwaliteit gaat vóór kwantiteit.
De AI-verordening (AI Act) legt daarnaast transparantie-eisen op aan aanbieders van generieke AI-systemen. Ook al valt een AI-scanner waarschijnlijk niet in een hoogrisicoklasse, documentatie van prestaties en beperkingen wordt belangrijker. Organisaties moeten kunnen uitleggen hoe hun algoritmen tot een conclusie komen. Dat helpt bij het beoordelen van foutkansen en bij aansprakelijkheid.
NIS2, de Europese netwerk- en informatiebeveiligingsrichtlijn, verhoogt intussen de lat voor essentiële en belangrijke entiteiten. Zij moeten incidenten melden en risico’s beheersen. Een betrouwbare keten van tools en leveranciers, inclusief AI-gedreven scanners, is daarvoor nodig.
Gevolgen voor overheid en EU
Overheidsorganisaties en publieke instellingen in Nederland en Europa krijgen vaker met geautomatiseerde meldingen te maken. Zij doen er goed aan een vast intake- en triageproces te hebben. Denk aan het valideren van AI-rapporten door een securityspecialist, voordat ze in grote systemen worden doorgevoerd. Dat voorkomt onnodige verstoringen.
Bij inkoop van securitytools loont het om te vragen naar valse-positiefpercentages en voorbeeldrapporten. Leveranciers moeten kunnen aantonen hoe hun model is getest en welke datasets zijn gebruikt. Logging en reproduceerbare resultaten zijn hierbij belangrijk. Zo blijven beslissingen controleerbaar en auditbaar.
Voor softwarebeheerders is het verstandig om curl en aanverwante libraries up-to-date te houden. Volg de beveiligingsmailinglijsten en advisories van het project. Leg intern vast wanneer en hoe CVE’s worden beoordeeld. En zorg dat experimentele AI-hulpmiddelen niet automatisch tot change requests leiden zonder menselijke review.
Valse positieven beperken nodig
AI kan de eerste schifting in codebeveiliging versnellen, maar niet de laatste toets. Een goede workflow combineert AI-detectie met statische analyse, fuzzing en code-review. Zo ontstaat een breder beeld en daalt het aantal foutieve alarmen. Dat maakt de inzet van AI echt waardevol.
Leveranciers zoals Mythos kunnen de kwaliteit verhogen met strengere verificatie vóór melding. Bijvoorbeeld door proof-of-concepts mee te leveren of door scenario’s te laten valideren door een mens. Ook het aangeven van onzekerheidsscores helpt ontvangers prioriteren. Transparantie over modelgrenzen is daarbij essentieel.
Voor het open-source ecosysteem is samenwerking de sleutel. Heldere templates, standaardvelden voor reproduceerbaarheid en gezamenlijke testcases verkleinen miscommunicatie. Daarmee blijven de voordelen van AI overeind, terwijl de nadelen beheersbaar blijven. Dat is in het belang van alle Europese gebruikers en leveranciers.