Defensiespecialisten waarschuwen dat niet het algoritme, maar de mens het grootste risico vormt bij militaire kunstmatige intelligentie. In Nederland en Europa groeit de inzet van AI voor verkenning, besluitondersteuning en drones. Op het moment van schrijven versnellen NAVO-landen hun proeven en inkoop. Daarom klinkt de roep om betere training, toezicht en duidelijke regels harder.
Menselijke factor bepaalt risico
Legers voeren steeds meer algoritmen in voor herkenning van doelen, planning en navigatie. De grootste fouten ontstaan vaak niet door de code zelf, maar door slecht gebruik. Onvoldoende training, tijdsdruk en gebrekkige procedures vergroten dat gevaar. De combinatie van mens en model is dan kwetsbaar.
Veel systemen werken als een “zwarte doos”, waarvan de redenatie niet zichtbaar is. Dat maakt het lastig voor operators om uitkomsten te controleren. Onder stress neemt de foutkans toe. Vooral wanneer schermen vertrouwen uitstralen met kleuren en waarschijnlijkheden.
Automation bias is de neiging van mensen om de uitkomst van een systeem te volgen, ook als die fout is.
Defensie spreekt daarom over “human-in-the-loop” en “human-on-the-loop”. Dat betekent dat een mens beslist of toezicht houdt op elke belangrijke stap. Zonder duidelijke checks kunnen verkeerde labels of sensorruis snel leiden tot misidentificatie. In een gevechtssituatie kan dat dodelijk uitpakken.
AI-verordening laat defensie buiten
De Europese AI-verordening (AI Act) geldt niet voor puur militaire toepassingen. Dat creëert een leemte in toezicht en aansprakelijkheid. Toch raken sommige regels defensie indirect. Denk aan inkoop, dual-use technologie en gebruik in Europa buiten oorlogssituaties.
NAVO heeft daarom eigen “Principles of Responsible Use” voor kunstmatige intelligentie. De Europese Defensieagentschap (EDA) werkt aan ethische kaders en kennisdeling. Nederland zette met Zuid-Korea het internationale REAIM-initiatief op voor verantwoord militair AI-gebruik. Deze kaders vragen om testen, transparantie en menselijk toezicht.
Voor overheden in Europa is de samenloop belangrijk. De Europese AI-verordening en de gevolgen voor overheid en defensie lopen uiteen. Een algoritme voor grensbewaking of basisbeveiliging kan wel onder de wet vallen. Dan zijn risicobeoordeling, dataminimalisatie en logging verplicht.
Het Nederlandse Ministerie van Defensie werkt, op het moment van schrijven, aan richtlijnen en experimenteert met onderzoeksorganisaties zoals TNO. In contracten kunnen eisen komen voor uitlegbaarheid en audittrail. Ook kan men vastleggen dat een commandant eindverantwoordelijk blijft. Dat vertaalt normen naar operationele praktijk.
Training en testen tekort
Veel eenheden krijgen nog te weinig scholing in AI-gebruik. Interfacekennis en scenario-oefening blijven achter. Updates van modellen veranderen bovendien het gedrag. Zonder hertraining snapt de operator de nieuwe grenzen niet.
Betrouwbaarheid vraagt om harde tests met realistische data. Denk aan slecht weer, rook, misleiding en vijandelijke tegenmaatregelen. Red teaming, waarbij een team actief zwakke plekken zoekt, hoort daar standaard bij. Dat geldt voor software én voor procedures.
Datakwaliteit is een blijvend probleem. Labels kunnen scheef zijn, sensoren kunnen driften en velddata wijkt af van oefenmateriaal. Continu monitoren en terugmelden van fouten is noodzakelijk. Anders zakt de prestatie in zodra het systeem buiten het lab komt.
Ook de inkoop moet testkosten en certificering meerekenen. Fragmentatie tussen landen bemoeilijkt standaardisatie. Gedeelde methoden via EDA, PESCO of NAVO kunnen helpen. Incidentrapportage tussen partners voorkomt dat iedereen dezelfde fouten maakt.
Toepassingen blijven voorlopig beperkt
In Europa gaat militaire AI nu vooral over verkenning, beeldanalyse en logistiek. Besluitondersteuning helpt met prioriteiten en risico-inschatting. Volledig autonome wapens zijn politiek gevoelig. De meeste landen kiezen daarom voor beperkte autonomie met terugvalopties.
Bedrijven als Helsing en Thales ontwikkelen systemen voor detectie en sensorfusie. Zulke datamodellen combineren radar, camera en radio. Ze markeren vermoedelijke doelen, maar vuren niet zelf. De operator beslist, en kan altijd ingrijpen.
Parlementen in EU-landen vragen om “meaningful human control”. Dat is menselijk toezicht met echte invloed op de uitkomst. Het dwingt tot heldere grenzen in software en doctrine. Zo blijft de juridische en morele verantwoordelijkheid bij de krijgsmacht.
Door deze beperkingen gaat invoering stap voor stap. Dat kost tijd, maar verkleint het risico op escalatie en vergissingen. In missiegebieden weegt dat zwaar. Zeker waar ook burgers aanwezig zijn.
Transparantie en toezicht nodig
Heldere werkafspraken zijn cruciaal. Checklists, logging en versiebeheer maken beslissingen herleidbaar. Dat helpt bij interne controle en bij onderzoek na een incident. Zonder sporen is leren onmogelijk.
Toezicht moet technisch én organisatorisch zijn. Onafhankelijke testen en audits vergroten vertrouwen. Commandanten houden de eindverantwoordelijkheid. Maar zij moeten wel de juiste informatie en bevoegdheden krijgen.
Waar systemen in Europa persoonsgegevens verwerken, geldt de AVG. Dan zijn dataminimalisatie, versleuteling en doelbinding nodig. Dat raakt bijvoorbeeld basisbeveiliging of training met echte videobeelden. Juridische afdekking hoort dus in het projectplan.
Europa kan voortbouwen op NAVO-kaders en REAIM-afspraken. Maak eisen voor uitlegbaarheid, failsafes en incidentmelding verplicht in defensie-inkoop. Deel testresultaten via EDA-programma’s om dubbel werk te voorkomen. Zo verklein je het echte risico: menselijke incompetentie rond krachtige systemen.