De Verenigde Naties uiten deze week opnieuw grote zorgen over de snelle opkomst van wapens met kunstmatige inteligentie. Diplomaten en experts spreken in Genève over strengere regels voor autonome wapens, zoals drones die zelf doelen kunnen selecteren. De VN wil tempo maken omdat dergelijke systemen al in conflicten worden getest. De Europese AI-verordening en de gevolgen voor overheid en defensie spelen mee, want militaire systemen vallen buiten die wet.
VN wil bindende afspraken
De VN waarschuwt dat algoritmen in wapens het risico op fouten en snelle escalatie vergroten. Het doel is een verdrag dat “menselijke controle” bij het gebruik van dodelijk geweld verplicht stelt. Zo’n afspraak moet ook duidelijk maken wie aansprakelijk is als een systeem faalt. De VN vraagt landen om voor 2026 zichtbare stappen te zetten.
In Genève bespreekt het verdrag over bepaalde conventionele wapens (CCW) al jaren de inzet van autonome wapens. De gesprekken gaan traag, terwijl de technologie sneller wordt ingevoerd. De Algemene Vergadering riep landen recent op om risico’s in kaart te brengen en regulering uit te werken. Meerdere staten pleiten intussen voor een juridisch bindend instrument, niet alleen vrijwillige richtlijnen.
De Internationale Rode Kruis (ICRC) steunt een combinatie van verboden en beperkingen. Volledig autonome dodelijke wapens zouden niet zijn te verenigen met het humanitair oorlogsrecht. Voor ondersteunende functies ziet de ICRC strikte voorwaarden, zoals doelbeperkingen en realtime toezicht. Dat sluit aan bij het VN-pleidooi voor betekenisvolle menselijke controle.
Drones worden zelfstandiger
Autonome functies betekenen dat een systeem taken uitvoert zonder directe menselijke sturing. Bij wapens gaat het om het herkennen en volgen van doelen, of om zwermen drones die onderling samenwerken. Zulke functies gebruiken sensoren en computervisie, een techniek die beelden automatisch analyseert. Daardoor kunnen systemen sneller reageren dan een mens.
De praktijk is grillig. Herkenning kan mislukken door rook, regen of afwijkende camerahoeken. Ook kunnen tegenstanders sensoren misleiden met lokmiddelen of nepdoelen. Foutpositieven zijn dan een reëel risico, met mogelijk dodelijke gevolgen.
Loitering munitions en onbemande vliegtuigen krijgen steeds meer autonomie in navigatie en doelopsporing. Vaak blijft de mens formeel “in de lus” bij de uiteindelijke aanval. Maar de scheidslijn verschuift als systemen zelf prioriteiten stellen of dure beslissingen voorbereiden. Dan is toezicht in de praktijk lastiger, zeker bij snelheid en massa-inzet.
Regels en aansprakelijkheid knellen
Het humanitair oorlogsrecht eist onderscheid tussen strijders en burgers en een evenredige inzet van geweld. Een algoritme kan die juridische afweging niet zelfstandig maken. Commandanten blijven dus verantwoordelijk, ook als een model meebeslist. Zonder inzicht in trainingsdata en besluitlogica is die verantwoordelijkheid moeilijk te dragen.
Defensieorganisaties vragen daarom om auditlogs, testscenario’s en beperkingen per inzetgebied. “Kill switches” en geofencing moeten de controle vergroten. Toch blijft een keten van leveranciers, software-updates en datamodellen een uitdaging voor toezicht. Certificering en herbeoordeling in operatiegebieden worden onmisbaar.
Lethal autonomous weapons zijn systemen die doelen selecteren en aanvallen zonder menselijke tussenkomst. De kern van het debat is of en hoe menselijk oordeel bij dodelijke beslissingen geborgd blijft.
AI-verordening geldt niet militair
De Europese AI-verordening (AI Act) geldt op het moment van schrijven niet voor militaire, defensie- of nationale veiligheidsdoelen. Dat betekent dat de belangrijkste Europese AI-regels geen directe dekking bieden bij wapens met algoritmen. Gevolg: landen moeten eigen normen opstellen, of internationale afspraken maken via de VN of NAVO. Voor burgers en overheid blijft de vraag hoe toezicht toch geborgd wordt.
Het Europees Parlement riep eerder op tot een verbod op volledig autonome wapens zonder betekenisvolle menselijke controle. Sommige EU-lidstaten steunen dat, anderen willen eerst niet-bindende principes. De NAVO publiceerde principes voor verantwoord gebruik, zoals menselijke verantwoordelijkheid en traceerbaarheid. Die principes zijn nuttig, maar lossen geen juridische leemtes op.
Nederland zette het onderwerp hoog op de agenda met de REAIM-top in Den Haag in 2023. Het kabinet spreekt zich uit voor menselijke controle en transparantie bij inzet van AI door Defensie. Tegelijk investeert Defensie in testprogramma’s voor onbemande systemen. Daarom groeit de behoefte aan heldere inkoopnormen en operationele waarborgen.
Druk op industrie en export
Wapenleveranciers en softwarebedrijven krijgen meer verantwoordelijkheid. Zij moeten aantonen dat datamodellen robuust zijn en dat beperkingen technisch afdwingbaar zijn. Red-teaming, onafhankelijke tests en veilige updateprocessen worden standaard. Ook duidelijke gebruikersinterfaces voor commandanten zijn nodig, met waarschuwingen en uitleg.
Europese bedrijven zoals Thales en Rheinmetall ontwikkelen onbemande systemen met algoritmen voor navigatie en doelherkenning. Dat zijn vaak dual-use technologieën die ook civiel worden gebruikt. Exporttoetsing en eindgebruikerscontroles worden daardoor complexer. Een strengere uitleg van de EU-criteria voor wapenexport kan uitkomst bieden.
Transparantie speelt een rol bij maatschappelijk draagvlak. Heldere productinformatie, inclusief bekende beperkingen, helpt parlementen en toezichthouders. Overheden kunnen rapportageplichten opnemen in contracten. Zo ontstaat vanaf het ontwerp meer aandacht voor menselijk toezicht en het voorkomen van misbruik.