Foto: BoliviaInteligente via Unsplash
Twee AI-onderzoekers van Google DeepMind, het team achter Gemini, zijn opgestapt omdat het Amerikaanse leger de AI van Google mag gebruiken. Google kan volgens hen niet tegenhouden waarvoor het Pentagon die AI inzet. Een van hen zegt zich te schamen, en praat terwijl haar contract kritiek op Google voor de rest van haar leven verbiedt.
Het gaat om research engineer Sofia Liguori uit Londen, die deze week vertrok, en AI-onderzoeker Andreas Kirsch, die eind september stopte. Ze vertellen hun verhaal aan de BBC. Aanleiding is het contract dat Google dit voorjaar tekende met het Pentagon, het Amerikaanse ministerie van Defensie. Daarmee mag het leger de AI-modellen van Google ook in geheime omgevingen gebruiken, voor ‘elk wettig overheidsdoel’.
Als ik zie dat mijn bedrijf steeds harder duwt op AI in militaire operaties, schaam ik me om bij Google te werken.
Sofia Liguori, oud-research engineer bij Google DeepMind (vertaald uit het Engels)
Google heeft geen veto over hoe het Pentagon zijn AI inzet
Volgens het contract is de AI niet bedoeld voor massasurveillance in de VS of voor autonome wapens ‘zonder passend menselijk toezicht’. Maar een vetorecht over wat het leger ermee doet, krijgt Google niet. Kirsch, die aan Gemini werkte, zegt dat Google ook nauwelijks kan zien waar de AI gebruikt wordt.
Hij zei dat kort voor zijn vertrek al op X, nadrukkelijk op persoonlijke titel. In het onderstaande bericht schrijft hij dat Google niet de race naar superintelligente AI zou moeten leiden, omdat echt toezicht ontbreekt:
Thank you for speaking out and following your conscience š«”
— Andreas Kirsch šŗš¦ (@BlackHC) September 25, 2026
Speaking for myself as an AI researcher, not on behalf of Google: I donāt believe Google should be leading the race to ASI. It lacks the meaningful governance and independent oversight this requires, and its publicā¦ https://t.co/UwTKSMUWW1
Google zegt dat het elk overheidscontract op dezelfde manier toetst, ook aan de eigen AI-principes. Daarin belooft het bedrijf menselijk toezicht en respect voor internationaal recht. Ook OpenAI, Microsoft, Amazon en Nvidia tekenden dit jaar vergelijkbare contracten met het Pentagon. Over de deal van Google schreven we in april al dat honderden medewerkers er vooraf tegen protesteerden.
Medewerkers mogen Google ‘hun hele leven’ niet bekritiseren
Liguori zegt dat ze in principe nooit meer kritiek op Google mag geven. Ze doet het toch, omdat ze vindt dat ‘over feiten praten geen kritiek is’. Volgens haar durven collega’s niets te zeggen: ‘Je voelt dat je in de gaten wordt gehouden.’
Twee medewerkers die nog bij DeepMind werken, praten alleen anoniem. Een van hen zegt dat al veel mensen zijn vertrokken die zich hier sterk over voelen. Google zegt dat medewerkers zorgen veilig kunnen melden en dat vergelding verboden is.
Wat het leger met AI doet, is geen theorie. Het Amerikaanse leger kiest doelen mede met Maven, een systeem van Palantir waarin AI van meerdere techbedrijven zit. Hoe dat werkt, lees je in ons stuk over Project Maven in Iran.
Nederland begon in 2023 de wereldtop over AI in oorlog
De vraag hoeveel een mens nog meebeslist als AI doelen kiest, staat ook in Den Haag op de agenda. In februari 2023 organiseerde Nederland de eerste wereldtop over verantwoord gebruik van AI door legers, REAIM. Zo’n 60 landen onderschreven daar een oproep om AI in oorlog onder menselijke controle te houden.
Nederland was ook mede-gastheer van de derde top, op 4 en 5 februari 2026 in het Spaanse A CoruƱa. Die afspraken zijn niet bindend. Wat ‘passend menselijk toezicht’ is, bepaalt in het contract van Google het leger zelf.
Wij zien hier een belofte die botst met de praktijk. Google noemt menselijke controle een kernprincipe, maar de mensen die Gemini bouwden zeggen dat het bedrijf niet kan zien wat het Pentagon met hun werk doet.
Bronnen: BBC (21 oktober 2026), Andreas Kirsch (X, 25 september en 1 oktober 2026), Google AI-principes, The Information (april 2026), REAIM.