Oorlogsvoering Nederland begint nog dit jaar een pilot om te experimenten met Maven Smart System: een AI-gestuurd systeem om militaire doelwitten te selecteren. Sneller en beter, hopen militairen. Critici zien grote ethische en juridische problemen.
Door het Amerikaanse leger vrijgegeven beeld van de lancering van Tomahawk-raketten op 28 februari, vanaf de USS Frank E. Petersen Jr.
Het Nederlandse ministerie van Defensie wil nog dit jaar starten met een ‘pilot’ met het Maven Smart System (MSS), de software van het omstreden Amerikaanse bedrijf Palantir voor het identificeren van militaire doelen met behulp van AI, zo bevestigt de hoogste IT-baas van het departement Jeroen van der Vlugt tegenover NRC. Tegelijkertijd blijft Defensie kijken naar alternatieve systemen.
De directe aanleiding voor de pilot is de introductie van Maven bij de hoofdkwartieren van de NAVO, vorig jaar. IT-baas Van der Vlugt: „Dat roept de vraag op of wij ook Maven Smart System nodig hebben om onze operaties aan te kunnen sturen.”
Het eerste slachtoffer van oorlogsvoering met behulp van AI was een plastic opblaastank op een oefenterrein in North Carolina.
In het najaar van 2020 experimenteerden Amerikaanse militairen van het 18e Airborne Corps op Fort Bragg voor het eerst met kunstmatige intelligentie bij het identificeren én uitschakelen van vijandelijke doelen.
Het algoritme voor beeldherkenning herkende in een grote hoeveelheid satellietfoto’s de plastic ’tank’ op het oefenterrein. Nadat de commandant op de vuurknop had gedrukt, berekende de software de coördinaten voor de raketinstallatie, vele kilometers verderop. Een HIMARS-raket bezegelde daarop het lot van de kunststof ‘dummy’. Target destroyed.
Doelherkenning, of targeting, was tot dan toe een uiterst arbeidsintensief proces geweest. Tijdens de oorlog in Irak in 2003 werkte een targeting cell van ongeveer 2.000 Amerikaanse specialisten dag en nacht aan het analyseren van luchtfoto’s en het opstellen van doellijsten. Tijdens de eerste dag van operatie Iraqi Freedom konden daardoor zo’n 500 doelen worden gebombardeerd – een record. De Amerikaanse president George W. Bush sprak van „shock and awe”.
Maar sinds de Irakoorlog was de hoeveelheid beschikbare data voor analisten exponentieel toegenomen. Onbemande drones boven Afghanistan en Irak produceerden per missie soms honderden uren aan videomateriaal, dat onmogelijk allemaal door mensenogen bekeken kon worden. Slimme, zelflerende algoritmes zouden een oplossing bieden, zo hoopte het Pentagon.
Het Algorithmic Warfare Cross Functional Team, beter bekend als Project ‘Maven’, dat in 2017 werd gestart, was in de eerste plaats bedoeld voor het stroomlijnen van het inlichtingenproces, of in Engels militair jargon: Intelligence, Surveillance and Reconaissance (ISR).
„Project Maven is begonnen als niet meer dan een ISR-programma”, zegt Jessica Dorsey, universitair docent Internationaal Recht in Utrecht, gespecialiseerd in oorlogsvoering met AI. „Maar gaandeweg werden er steeds meer functies toegevoegd, totdat het werd wat het Maven Smart System nu is: een totaaloplossing voor al uw kill chain-behoeften.”
De kill chain – de serie beslissingen die leidt van de eerste waarneming tot het bombarderen en uitschakelen van het doel – is inmiddels een obsessie voor Amerikaanse militaire planners. Radars, drones en een explosieve toename van het aantal waarnemingsatellieten hebben het het slagveld ’transparant’ gemaakt, waardoor het bijna onmogelijk is geworden om je voor de vijand te verbergen. Nu camouflage en deceptie geen optie meer zijn, is degene die het eerst schiet, de winnaar. Find, fix and finish: hoe sneller hoe beter.
Automatisering leek het logische antwoord, maar was vanaf het begin omstreden. In 2018 trok tech-gigant Google zich terug uit project Maven nadat duizenden medewerkers in een brief aan de directie hadden geprotesteerd. Googles opvolger, softwarebedrijf Palantir, had minder scrupules. Het door miljardair en Trump-aanhanger Peter Thiel opgerichte Palantir kent een lange geschiedenis van samenwerking met de CIA, de Amerikaanse strijdkrachten, inlichtingendiensten en immigratiedienst ICE. Palantir-directeur Alex Karp praat in zijn talrijke mediaoptredens met zichtbaar genoegen over het intimideren en doden van de vijanden van de VS.
Op het eerste gezicht zijn de bouwstenen van Maven niet heel spectaculair. In de jaren 50 ontwikkelden wiskundigen de statische modellen die een algoritme in staat stellen om te ‘leren’ door kansberekening – en eindeloze trial and error. Al in 1996 wist schaakcomputer Deep Blue te winnen van wereldkampioen Garry Kasparov, zij het in een tweekamp waarin de grootmeester uiteindelijk de overwinning naar zich toe trok met 4-2. De revolutie in de ontwikkeling van microchips maakte een exponentiële groei van het aantal berekeningen – en dus ook van het leervermogen van de algoritmes – mogelijk.
Tegenwoordig is machine learning onderdeel van controlesystemen in zowel de industrie als de dienstensector. Oliemaatschappij Shell gebruikt slimme algoritmes om het raffinageproces te perfectioneren. De NS zet ze in voor het optimaliseren van het treinverkeer. Algoritmes voor beeldherkenning zijn al een groot aantal jaren aantoonbaar beter dan de mens als het gaat omhet herkennen van objecten, ook onder moeilijke omstandigheden.
Palantirs kracht schuilt niet in slimme algoritmes, maar het bij elkaar brengen van enorme hoeveelheden data en die doorzoekbaar maken. Dat doet het bedrijf door ruwe data te ordenen in categorieën die van belang zijn voor de gebruiker, waardoor ze kunnen worden geanalyseerd en er verbanden kunnen worden gelegd. „In essentie werkt het niet anders dan bijvoorbeeld de datasoftware van SAP”, zegt Jeroen van der Vlugt, de hoogste IT-baas op het Nederlandse ministerie van Defensie. „SAP gebruiken we al sinds 2000 voor onze boekhouding, logistiek en materieel.”
Sinds 2010, zo bevestigde Defensie aan Follow the Money, werkt het departement ook met software van Palantir voor het analyseren van inlichtingen voor speciale, geheime operaties van het Korps Mariniers en het Korps Commandotroepen. De programma’s ‘Foundry’ en ‘Gotham’ kunnen doelen identificeren in een enorme hoeveelheden data uit allerlei bronnen, van satellietbeelden tot afgeluisterde telefoongesprekken. De informatie wordt geïntegreerd in een compleet overzicht van het slagveld. Dergelijke battle management-systemen zijn inmiddels door een groot aantal landen ontwikkeld, waaronder Oekraïne.
Maar Maven is van een andere orde. Sinds het afgelopen jaar is ook het Large Language Model (LLM) Claude, van AI-bedrijf Anthropic, in de software geïntegreerd. Anders dan de gespecialiseerde algoritmes die één taak kunnen uitvoeren binnen een specifieke dataset, is ‘generatieve AI’ in staat om algemeen geformuleerde opdrachten te begrijpen en uit te voeren. Via een simpel chat-menu kunnen militaire commandanten belangrijke strategische beslissingen voorleggen zoals: ‘waar bevindt zich het zwaartepunt van de vijandelijke troepen’ of ‘geef me een lijst met de tien belangrijkste doelen om aan te vallen’. Binnen een minuut levert Maven niet alleen de doelenlijst, maar ook een juridische toets aan het humanitair oorlogsrecht en een aanvalsplan.
Tekst gaat door onder de afbeelding (5 stappen)
Claude heeft voor een doorbraak gezorgd, zegt IT-baas Jeroen van der Vlugt: „De basisfunctionaliteit van Maven is misschien niet revolutionair, maar door het gebruik van LLM’s is de schaal en de snelheid van het systeem enorm vergroot.”
Online is een clipje van twee minuten te vinden van een demonstratie van Maven door Stanley Cameron, Chief Digital and Artificial Intelligence Officer van het Amerikaanse ministerie van Defensie. We zien hoe er wordt ingezoomd op een bedrijventerrein waar een vrachtwagen de parkeerplaats oprijdt. Op het scherm verschijnt een boxje: ‘computer vision detection: vehicle’. „Left click – right click – left click”, zegt Cameron, en voilà, het doelwit is toegevoegd aan de targeting work flow. Daarna volgt een infraroodbeeld vanuit de lucht, een explosie: target destroyed.
Voormalig topambtenaar op het Amerikaanse ministerie van Defensie Michael Horowitz was onder de regering-Biden nauw betrokken bij technologische innovatie. Maven, zo zegt Horowitz, kun je het beste vergelijken met een ‘assistent’: „Vroeger had je honderden mensen die zich over alle informatie bogen om powerpoint-slides op te maken voor de commandant met mogelijke doelen. Maven heeft dat proces dramatisch gesimplificeerd.”
Sinds 2024 is het Maven Smart System in gebruik bij de Amerikaanse strijdkrachten. Tijdens de eerste dag van de oorlog tegen Iran voerden de VS ruim 1.000 luchtaanvallen uit – twee keer zoveel als tijdens het eerste etmaal van Iraqi Freedom. Grootste flessenhals was niet het aantal doelen dat Maven genereerde, maar het aantal inzetbare gevechtsvliegtuigen en kruisvluchtwapens. Op termijn moet Maven gevechtseenheden in staat te stellen om duizend ‘geïnformeerde beslissingen’ te nemen (vuren of niet vuren) per uur.
Op dag 1 van operatie Epic Fury in Iran bombardeerden de Amerikanen een meisjesschool naast een kazerne van de Iraanse Republikeinse Garde. Naar schatting 175 mensen, vooral kinderen, kwamen om het leven. De oorzaak van de blunder is nog niet vastgesteld, maar onderzoek van OSINT-onderzoekers van NRC en The Guardian wees uit dat het terrein dat werd geraakt vroeger op de basis van de Republikeinse Garde lag, maar al sinds 2016 buiten de omheining stond.
Fouten, zo zegt AI-expert Sofia Romansky van het (HCSS) zijn een essentieel onderdeel van kunstmatige intelligentie. „AI-modellen werken op grond van kansberekening en statistiek. Er is dus altijd een foutmarge.” Bij gespecialiseerde en goed getrainde algoritmes, zoals voor beeldherkenning, kan die marge heel klein zijn, maar hoe algemener het model is, hoe sneller er vergissingen kunnen worden gemaakt. LLM’s als Claude en Chat GPT kunnen ‘hallucineren’. „Militaire commandanten leven in de veronderstelling dat het systeem in verreweg de meeste gevallen gelijk heeft”, zegt Romansky, „maar dat is niet geval.”
Jessica Dorsey spreekt regelmatig met voormaligmedewerkers van Open AI, het bedrijf achter Chat GPT. „Iemand zei laatst: ‘We zouden LLM’s niet eens in de buurt van targeting moeten laten komen’.”
Explosies in Teheran op 1 maart
Bij Anthropic lijken ze die conclusie inmiddels ook te hebben getrokken. Nadat Axios afgelopen februari had gemeld dat het Pentagon Claude had gebruikt bij de interventie in Venezuela, liet het AI-bedrijf weten de samenwerking met het Amerikaanse ministerie van Defensie te herzien. Het was de culminatie van een al langer smeulend conflict met minister van Defensie Pete Hegseth, die het gebruik van AI in zoveel mogelijk domeinen wil uitbreiden – waaronder dat van autonome wapens. Door het vertrek van Anthropic kan Claude daarom niet langer deel uit maken van Maven. Daarop sloot het Pentagon een overeenkomst met OpenAI.
Voormalig top-ambtenaar Horowitz, tegenwoordig hoogleraar aan de Universiteit van Pennsylvania, is optimistischer. „Ik denk dat veel mensen onderschatten hoe foutgevoelig het oude de systeem was.” Tijdens de Kosovo-oorlog in 1999 bombardeerden de Amerikanen per ongeluk de Chinese ambassade in Belgrado. In 2015 vielen er naar schatting 85 burgerslachtoffers nadat Nederlandse F-16’s een bommenfabriek van IS in het Iraakse Hawija onder vuur hadden genomen. Targeteers van het Amerikaanse hoofdkwartier in Qatar hadden de hoeveelheid opgeslagen springstof niet goed ingeschat. Horowitz: „Je mag hopen dat de integratie van AI er juist toe leidt dat dit soort fouten worden voorkomen.”
Inmiddels wordt het Maven Smart System niet alleen uitgerold binnen de Amerikaanse krijgsmacht, maar ook binnen de NAVO. In mei 2025 oefenden stafofficieren van het het Supreme Headquarters Allied Powers Europe (SHAPE) in het Noorse Stavanger met het gebruik van Maven voor „planning, targeting en logistiek”, zo meldt een NAVO-publicatie: „We leven in spannende tijden om te kunnen experimenteren met cutting edge-technologie als onderdeel van de digitalisering van het bondgenootschap”.
Ook het Nederlandse ministerie van Defensie onderzoekt Maven. Chief Information Officier (CIO) Jeroen van der Vlugt bevestigt dat het departement nog dit jaar wil beginnen met een pilot. „Als dit systeem wordt gebruikt op de NAVO-hoofdkwartieren, roept dat de vraag op: hebben wij ook Maven Smart System nodig om onze operaties aan te kunnen sturen of zijn er alternatieven?” Volgens Van der Vlugt gaat het daarbij niet alleen om producten die nu op de markt zijn, maar ook om systemen die op termijn kunnen worden ontwikkeld.
Defensie wil ook graag weten hoe andere Navo-partners staan tegenover Maven. Vorige week reisde Van der Vlugt met een delegatie van het ministerie van Defensie naar Parijs voor een bezoek aan AMIAD, het Franse Agentschap voor AI en Defensie. Met Mistral AI beschikken de Fransen over een Europese uitdager van Amerikaanse techreuzen als OpenAI, Anthropic, Google en Meta.
De introductie van AI in de oorlogsvoering is nauw verbonden met grotere vraagstukken over strategische soevereiniteit, zegt Tim Sweijs, onderzoeker bij het HCSS. „Je ziet dat Palantir probeert zijn software binnen de NAVO uit te rollen zodat er een lock-in effect ontstaat, en niemand meer zonder Amerikaanse militaire tech kan.” Vanzelfsprekend is dat niet in een tijdsgewricht waarin de president van de Verenigde Staten bijna dagelijks het einde van de NAVO aankondigt en dreigt met de annexatie van Groenland.
En dan zijn er ethische bezwaren. Nederland is initiatiefnemer in REAIM (Responsible Artificial Intelligence in the Military Domain), een internationaal platform om te komen tot ‘verantwoordelijk’ gebruik van AI binnen de krijgsmacht. IT-baas Van der Vlugt is namens het ministerie verantwoordelijk voor REAIM. Uitgangspunt voor Nederland is dat er altijd „menselijk oordeelsvermogen en controle” moet zijn over de inzet van geweld, zo legt Van der Vlugt uit. Dat betekent dat een mens een reële beoordeling moet maken en dat de mens op de knop moet drukken. Bij Maven is dat volgens Van der Vlugt vooralsnog het geval. „Het systeem stuurt geen wapensysteem direct aan.”
Juriste Jessica Dorsey ziet echter de grens tussen mens en machine vervagen. „Als je targeting uitvoert met machine speed, dan kan er nauwelijks meer sprake zijn van menselijke controle, dat is onmogelijk. Vanuit moreel en juridisch perspectief is dat een levensgroot probleem.”
Doorzie de wereld van technologie elke week met NRC-redacteuren