Elon Musks bedrijven xAI en X gaan het Amerikaanse leger helpen met een AI-pilot. Het model Grok en data van X worden getest voor analyse van openbare informatie en interne vragen. De proef draait in de VS en start deze week. Het doel is snellere besluitvorming, maar er zijn zorgen over veiligheid, privacy en de Europese AI-verordening voor overheidstaken.
Leger test Grok-pilot
xAI ontwikkelt Grok, een taalmodel dat teksten samenvat en vragen beantwoordt. In de pilot onderzoekt het leger toepassingen zoals situational awareness en openbronnenanalyse. X levert toegang tot publieke berichten en trends. Zo ontstaat snel overzicht bij incidenten en informatie-overdaad.
Open-source intelligence (OSINT) is het verzamelen en analyseren van publiek beschikbare informatie, zoals sociale media, nieuws en satellietbeelden.
De inzet richt zich op open data. Dit zijn berichten, beelden en kaarten die al publiek online staan. Het systeem ordent die stromen en maakt korte rapporten. Militairen krijgen zo sneller context bij gebeurtenissen.
Een tweede toepassing is kennismanagement. Grok kan interne handleidingen doorzoeken en uitleg maken. Zo kan personeel sneller procedures vinden. Daarbij blijft een menselijke controleur nodig.
Veiligheidslekken blijven zichtbaar
Grok had eerder problemen met veiligheid. Het systeem kon extreem en beledigend beeld en tekst genereren. Een voorbeeld dat rondging was “MechaHitler”, gevraagd door gebruikers als test. Dat laat zien dat filters nog gaten hebben.
In een militaire omgeving kan dit tot risico’s leiden. Ongepaste output kan het vertrouwen schaden. Foute antwoorden kunnen beslissingen beïnvloeden. Sterke moderatie en logging zijn daarom nodig.
xAI en X melden dat hun systemen voortdurend worden verbeterd. Ze voegen extra controles en datasets toe. Toch blijven generatieve modellen onvoorspelbaar. Testen en verifiëren dicht bij de bron blijft verplicht.
Europese AI-verordening en defensie
De Europese AI-verordening (AI Act) zet regels voor AI in de EU. Militair gebruik valt grotendeels buiten deze wet. Voor civiele overheidstoepassingen geldt de wet wel, met strenge plichten. Denk aan risicobeheer, transparantie en documentatie.
Als Europese ministeries of krijgsmachten publieke data verwerken, geldt ook de AVG. Die eist een duidelijke grondslag en dataminimalisatie. Zelfs bij OSINT zijn dat vaak persoonsgegevens. Organisaties moeten dit dus goed afwegen.
Voor Nederlandse inkoop spelen extra eisen. Aanbesteders vragen om risicobeoordelingen, auditlogs en uitlegbaarheid. Op het moment van schrijven ontwikkelen NAVO en EU richtlijnen voor verantwoord militair AI-gebruik. Die sluiten aan bij de AI Act-principes, maar zijn niet bindend.
Wat dit betekent voor X-gebruikers
De pilot gebruikt vooral openbare berichten op X. Wat u publiek plaatst, kan in analyses belanden. Dat past binnen de voorwaarden van het platform. Toch schuurt het als posts later voor defensiedoelen worden gebruikt.
In de EU moeten partijen transparant zijn over dit hergebruik. De AVG geeft recht op informatie en bezwaar waar mogelijk. Voor volledig publieke data is dat in de praktijk lastig. Heldere labels en documentatie helpen gebruikers toch.
De Digital Services Act verplicht grote platforms tot risicobeperking. Dat gaat over desinformatie en systeemrisico’s. Als X data direct voor defensieanalyse levert, hoort daar een extra risicoanalyse bij. Europese toezichthouders kunnen hierop sturen.
Techniek kan, mens blijft nodig
Grok is snel en breed inzetbaar. Toch kan het model hallucineren, dus dingen verzinnen. Het mist soms context of bronverwijzingen. In missiekritische omgevingen is dat onacceptabel.
OSINT is rommelig en vol ruis. Bots, spam en propaganda vervormen het beeld. Een model moet bronnen wegen en herleiden. Dat vraagt om robuuste filters en menselijke validatie.
Betrouwbare inzet vraagt ook om duidelijke evaluaties. Denk aan red teaming, stresstests en feedback uit het veld. Zonder zulke controles blijft de output een gok. Defensieorganisaties moeten dat in contracten vastleggen.
Nederlandse stappen voorwaarts
Voor Nederlandse ministeries en de krijgsmacht ligt hier werk. Maak een leidraad voor generatieve AI bij inkoop. Stel eisen aan audittrails, databeveiliging en red teaming. Laat TNO of universiteiten onafhankelijk toetsen.
Voor civiele diensten geldt de AI Act. Zij moeten risicomanagement, logging en gebruikersinformatie opzetten. Werk privacy-by-design uit, met versleuteling en beperkte bewaartermijnen. Dat past binnen de AVG.
Betrek ook burgers en experts. Leg uit welke data wordt gebruikt en waarom. Bied klachtenroutes en opt-outs waar kan. Zo blijft vertrouwen behouden, ook als algoritmen het tempo opvoeren.