Derk Boswijk waarschuwt dat innovatie in militaire kunstmatige intelligentie zonder duidelijke ethiek gevaarlijk is. Hij sprak daarover deze week in Den Haag, tijdens een bijeenkomst over defensie-innovatie van het Ministerie van Defensie. Het doel is om veilige grenzen te stellen aan autonome systemen op het slagveld. Dit sluit aan bij Europese discussies over de AI-verordening en de gevolgen voor overheid en krijgsmacht.
Ethische randvoorwaarden centraal
Boswijk benadrukte dat defensie-technologie alleen nuttig is als deze past binnen het recht en duidelijke waarden. Hij koppelt vernieuwing daarom aan toetsing op veiligheid, proportionaliteit en transparantie. Dat zijn normen die ook in het humanitair oorlogsrecht en in NAVO-richtlijnen terugkomen.
De grootste risico’s zitten volgens hem in systemen die zelf doelen selecteren en aanvallen kunnen sturen. Zulke algoritmen nemen beslissingen op basis van datapatronen. Fouten, vooroordelen in data of onduidelijke uitleg kunnen dan direct levens raken.
“Innovatie zonder ethiek is gevaarlijk.” — Derk Boswijk
Hij schetst een praktische lijn: ontwikkel sneller, maar toets strenger. Dat betekent duidelijke plichten voor ontwerpers en commandanten. En zicht op wat een model wel en niet kan, met logboeken en evaluaties.
Menselijke controle blijft vereist
Centraal staat “menselijke controle”. Dat is het principe dat een mens cruciale stappen kan sturen of stoppen. In de praktijk gaat het om human-in-the-loop (de mens beslist) of human-on-the-loop (de mens kan ingrijpen).
Voor Defensie betekent dit technische en operationele waarborgen. Denk aan noodstops, duidelijke grenzen in software en heldere regels voor inzet. Ook training is nodig, zodat militairen de beperkingen van een systeem begrijpen.
De keerzijde is dat oorlog soms snel verloopt. Dat geeft druk om meer te automatiseren. Boswijk maakt daarom de balans expliciet: snelheid mag niet ten koste gaan van controle en zorgvuldigheid.
Europese AI-verordening en defensie
De Europese AI-verordening (AI Act) sluit militaire systemen formeel uit, op het moment van schrijven. Toch beïnvloedt de wet de overheid en leveranciers sterk, ook bij dual-use technologie. Eisen rond risicobeheersing, documentatie en transparantie worden de norm in de keten.
Voor Nederlandse overheden betekent dit strakkere inkoop en toetsing van datamodellen. De “Europese AI-verordening gevolgen overheid” raken ook kennisinstellingen en bedrijven die voor Defensie werken. Denk aan risicoklassen, technische documentatie en uitleg over uitkomsten.
De AVG blijft daarnaast leidend bij niet-operationele gegevens, zoals training en testen. Dat vraagt om dataminimalisatie, versleuteling en duidelijke doelen voor datagebruik. Zo komt privacy in beeld nog vóór inzet in missies.
Testen, data en aansprakelijkheid
Betrouwbare militaire AI begint bij goede data en streng testen. Systemen moeten vooraf worden “geredteamd”: actief zoeken naar fouten en misbruik. Ook in gebruik is continue monitoring nodig, met verbetercycli en updates.
Transparantie vraagt om audit-trails en reproduceerbare resultaten. Logboeken maken zichtbaar welke data en instellingen tot een besluit leidden. Dat helpt bij verantwoording richting commandanten, toezichthouders en politiek.
Aansprakelijkheid moet helder zijn in elke fase: ontwerp, inkoop, inzet en evaluatie. Boswijk legt de lat bij zowel leverancier als gebruiker. Alleen zo blijft het duidelijk wie handelt, beslist en corrigeert.
NAVO-kaders geven richting
De NAVO hanteert sinds 2021 principes voor verantwoorde AI in defensie. Het gaat om wettelijkheid, verantwoordelijkheid, uitlegbaarheid, betrouwbaarheid en bestuurbaarheid. Nederland werkt binnen deze kaders voor interoperabiliteit met bondgenoten.
Programma’s als DIANA en het NAVO Innovatiefonds stimuleren testen en opschalen van veilige systemen. Dat versnelt ontwikkeling zonder de ethische lat te verlagen. Voor Nederland biedt dit toegang tot kennis, proefomgevingen en gezamenlijke standaarden.
Boswijks boodschap sluit hierop aan: samenwerken en borgen tegelijk. Hij bepleit tempo met remmen die werken. Zo blijft Europese veiligheid verenigbaar met rechtsstatelijke waarden.
Wat nu verandert
Voor Defensie betekent dit concreet: eerder toetsen, scherper documenteren en gericht opleiden. Inkoopcontracten zullen vaker eisen opnemen over uitlegbaarheid, datahygiëne en menselijke controle. Leveranciers van algoritmen moeten rekenen op strengere evaluaties.
Voor de politiek en samenleving levert dit meer houvast op. Heldere normen maken debat over autonome systemen concreter. En ze verkleinen het risico op misbruik of ongewenste escalatie.
De kern: innovatie blijft nodig, maar niet blind. Met Europese kaders en NAVO-richtlijnen is de route bekend. Nu is het zaak die lijn consequent door te voeren in projecten en operaties.