Het Amerikaanse leger heeft het AI-model Grok van xAI ingezet bij recente aanvallen op Iraanse doelen. Het systeem hielp bij het analyseren van grote hoeveelheden inlichtingen en het rangschikken van doelen. Dit gebeurde vanuit commandocentra in het Midden-Oosten en in de Verenigde Staten. Doel was sneller beslissen en risico’s voor eigen troepen te verkleinen, met oog voor de Europese AI-verordening en gevolgen voor overheid en defensie.
VS gebruikt Grok als besluitsteun
Grok is gebruikt als besluitondersteuning, niet om wapens autonoom af te vuren. Het model verwerkte live rapporten, satellietbeelden en open bronnen tot samenvattingen. Analisten kregen daarop scenario’s en risico’s te zien. De uiteindelijke keuze bleef bij militairen met bevoegdheid.
Het Pentagon werkt vaker met kunstmatige intelligentie voor informatie-overzicht. Nieuw is dat een commercieel, generatief taalmodel centraal stond. Zulke modellen maken tekst en code, en leggen verbanden in ongestructureerde data. Dat kan tempo en samenhang in een operatie verbeteren.
Welke versie van Grok is gebruikt, is niet openbaar. xAI levert varianten zoals Grok-2 en Grok-2 Mini. Het is ook onduidelijk of het model in een afgeschermde omgeving draaide. Dat is cruciaal voor veiligheid en geheimhouding.
Grok is xAI’s taalmodel
Grok is ontwikkeld door xAI, het AI-bedrijf van Elon Musk. Het model is bekend van de X-app, voorheen Twitter, waar het snelle updates uit openbare data geeft. Een groot taalmodel is een statistisch systeem dat tekst voorspelt op basis van vele voorbeelden. Het kan vragen beantwoorden, redeneren en code schrijven.
xAI traint Grok deels op publiek beschikbare data en op berichten van X-gebruikers. Voor defensiegebruik is zo’n trainingsmix gevoelig. Een risico is dat bedrijfs- of gebruikersdata ongewenst in een model terugkomen. Daarom vragen overheden vaak om geïsoleerde, niet-trainende inzetten.
xAI positioneert Grok als minder gefilterd dan concurrenten. Dat kan nuttig zijn voor snelle en ruwe analyses. Het vergroot ook de kans op ongepaste of onjuiste antwoorden. Militair gebruik vraagt daarom extra regels en toezicht.
Risico’s: fouten en misbruik
Generatieve modellen hebben bekende beperkingen. Ze kunnen ‘hallucineren’: een antwoord verzinnen dat overtuigend klinkt maar niet klopt. In een missie kan zo’n fout ernstige gevolgen hebben. Controle door meerdere analisten blijft dus nodig.
Een hallucinatie is wanneer een AI-systeem informatie presenteert als feit, zonder betrouwbare bron of onderliggende data.
Ook zijn deze systemen gevoelig voor sturing door vijanden. Met misleidende berichten of beelden kunnen tegenstanders het model voeden. Dat heet ‘adversarial input’. Afgeschermde datastromen en validatie zijn daarom essentieel.
Transparantie is verder een punt. Vaak is niet duidelijk welke data het model gebruikte en hoe het tot zijn advies kwam. Zonder logboeken en herhaalbare stappen is toetsing achteraf lastig. Dat bemoeilijkt juridische en politieke verantwoording.
AI-verordening geldt niet militair
De Europese AI-verordening (AI Act) sluit defensie en nationale veiligheid uit. De regels gelden dus niet direct voor militaire inzet. Toch raken ze wel aan toeleveranciers in Europa. Bedrijven die dezelfde modellen civiel inzetten moeten aan de wet voldoen.
Voor overheden in de EU spelen daarnaast de AVG en aanbestedingsregels. Bij dataverwerking gelden eisen als dataminimalisatie en versleuteling. Defensie kan uitzonderingen hebben, maar moet die kunnen onderbouwen. Dit is relevant bij samenwerking met Amerikaanse cloud- en AI-leveranciers.
NAVO heeft op het moment van schrijven ethische principes voor AI met ‘menselijke controle’. Nederland onderschrijft die lijn. Menselijke beoordeling bij dodelijk geweld blijft vereist. Gebruik van generatieve AI moet dus aantoonbaar ‘human-in-the-loop’ zijn.
Gevolgen voor Nederland en EU
Voor Nederland is de inzet van Grok een signaal. Defensie-analyses verschuiven naar algemene, commerciële modellen. Dat is snel en goedkoop, maar vergroot afhankelijkheid van niet-Europese aanbieders. Digitale soevereiniteit komt zo onder druk te staan.
Krijgsmacht en inlichtingen kunnen hierop sturen met eigen, afgeschermde modellen. Denk aan fine-tuning op gevalideerde, geheime data. Onafhankelijke audits en red-teams zijn nodig om fouten te vinden. Contracten moeten logging en aansprakelijkheid vastleggen.
Parlementaire controle vraagt betere rapportage over AI-gebruik in missies. Heldere criteria, zoals foutmarges en brongebruik, helpen bij toezicht. Dat sluit aan bij de bredere discussie over de Europese AI-verordening en de gevolgen voor overheid en defensie. Zo blijft inzet van algoritmen doelmatig en toetsbaar.