In Oekraïne lijkt een Russische AI-drone voor het eerst zelf een burger te hebben gekozen als doelwit. Deze week doken online beelden op van een aanval door een Lancet-drone van ZALA Aero, onderdeel van Kalashnikov Concern. Analisten zien tekenen dat nieuwe software voor automatische doelherkenning meebesliste over het schot. Het voorval markeert een nieuwe stap in oorlogsvoering en raakt aan de Europese AI-verordening (AI Act) en de gevolgen voor overheid en defensie.
Drone lijkt autonoom te kiezen
De video toont hoe een kleine drone lange tijd een individu volgt en daarna toeslaat. Er is geen zichtbare militaire uitrusting of voertuig rond het doelwit te zien. Dat voedt de zorg dat het systeem een burger selecteerde, wat in strijd is met het oorlogsrecht.
Of de aanval volledig autonoom was, is niet vast te stellen. Veel systemen werken “human-on-the-loop”: een mens kan ingrijpen, maar het algoritme doet het voorwerk. In dit geval lijkt de selectie vooral door software te zijn gestuurd, terwijl de mens mogelijk alleen nog bevestigde.
Als dit klopt, is het een duidelijke verschuiving in Russische inzet van onbemande systemen. Tot nu toe leek de Lancet vooral handmatig te worden bestuurd. Autonome selectie vergroot snelheid, maar ook het risico op fouten met grote gevolgen.
Lancet krijgt herkenningssoftware
De Lancet is een zogenoemde loitering munition: een drone die cirkelt, zoekt en zichzelf in het doel boort. ZALA Aero rustte recente versies uit met automatische doelherkenning, een algoritme dat objecten zoals voertuigen of personen herkent in camerabeelden. Dit heet ook wel “automatic target recognition” (ATR).
ATR werkt met computervisie: het model is getraind op duizenden voorbeelden om patronen te herkennen. Het systeem koppelt een waarschijnlijkheid aan wat het ziet, zoals “tank”, “vrachtwagen” of “persoon”. Bij slechte belichting, rook of onvolledige beelden kan die inschatting misgaan.
De stap naar softwaregestuurde selectie verandert de rol van de operator. In plaats van actief te zoeken, krijgt die vooral kandidaten aangereikt door het model. Als de drempelwaarde te laag staat, kan het systeem te snel een onschuldige beweging als dreiging zien.
Video roept juridische vragen op
Het humanitair oorlogsrecht eist onderscheid tussen strijders en burgers, en verbiedt aanvallen op burgers. Een algoritme dat zelfstandig mensen aanwijst als doel vergroot de kans op schendingen. De kernvraag is wie verantwoordelijk is als de selectie fout is: ontwikkelaar, bevelhebber of operator.
Transparantie is hier cruciaal. Zonder logbestanden en instellingen van het systeem is niet te beoordelen wat het algoritme precies deed. Ook is het onduidelijk of een bevel aan de software gold om alleen voertuigen te selecteren, of ook personen.
“Meaningful human control” betekent dat een mens tijdig, geïnformeerd en effectief kan ingrijpen in het beslisproces.
Als de Lancet zelfstandig een burger selecteerde, is dat niet alleen moreel problematisch, maar ook een bewijsprobleem voor latere verantwoording. Juristen pleiten daarom voor verplichte auditlogs in autonome wapensystemen. Zonder die sporen is toetsing van proportionaliteit en onderscheid vrijwel onmogelijk.
EU-wetgeving kent uitzondering
De Europese AI-verordening (AI Act) sluit militaire en nationale veiligheidsdoeleinden uit. De regels voor verboden en hoog-risico AI gelden dus niet voor wapensystemen. Dat maakt nationale kaders en defensieafspraken extra belangrijk.
EU-lidstaten, waaronder Nederland, steunen op het moment van schrijven internationale principes voor verantwoord gebruik van militaire AI. Het gaat om eisen aan testen, validatie, menselijk toezicht en duidelijke verantwoordelijkheden. Deze principes zijn geen wet, maar zetten wel een norm voor inkoop en inzet.
Voor civiele overheden verandert er wél iets. Dual-use technologie, zoals dezelfde beeldherkenning in politie- of grenssystemen, valt onder de AI Act en de AVG. Overheden moeten dan rekening houden met risicoklassen, dataminimalisatie en strikte documentatieplicht.
Nederland wil mens houdt controle
De Nederlandse Defensie stelt als uitgangspunt dat de mens de beslissende stap houdt. Dat heet “mens in de lus”: de operator moet een geïnformeerde keuze kunnen maken, met voldoende tijd en informatie. Ook vraagt Den Haag om onafhankelijke testprocedures en herleidbare beslissingen.
Voor de Nederlandse industrie betekent dit extra eisen aan ontwerp en software. Denk aan uitlegbare modellen, veilige drempelwaarden en uitgebreide loggingsystemen. Zulke eisen kunnen later ook doorwerken in NAVO-standaarden en Europese inkoop.
Voor burgers draait het om vertrouwen en veiligheid. Wanneer algoritmen in militaire context fouten maken, straalt dat af op civiel gebruik van AI. Heldere scheidslijnen en transparante verantwoording moeten dat risico beperken.
Gevolgen voor oorlogsvoering en defensie
Autonome selectie maakt wapens sneller en goedkoper inzetbaar. Tegelijk stijgt het risico op verkeerde doelen en escalatie. Staten zullen daarom investeren in tegenmaatregelen zoals stoorzenders en detectiesystemen, ook rond Europees kritieke infrastructuur.
De Russische inzet zet druk op innovatie bij Europese defensie. Verwachting is dat meer systemen “on-the-loop” komen, met menselijk toezicht maar softwaregestuurde voorselectie. Dat vraagt om strengere tests, realtime fallback-opties en duidelijke regels over wanneer een aanval moet worden afgebroken.
Voor beleidsmakers is de les helder. Zonder juridische kaders en technische waarborgen schuift de beslisruimte ongezien naar het algoritme. Nederland en Europa zullen moeten aantonen hoe “menselijke controle” er in de praktijk uitziet, voordat de technologie de norm bepaalt.