AI in oorlogvoering
Dit is het dagelijkse commentaar van NRC. Het bevatmeningen, interpretaties en keuzes. Ze worden geschreven door een groepredacteuren, geselecteerd door de hoofdredacteur. In de commentaren laat NRC zien waar het voor staat. Commentaren bieden de lezer eenhandvat, een invalshoek, het is ‘eerste hulp’ bij het nieuws van de dag.
De vraag hoever de politie mag gaan in het opsporen van misdadigers is allesbehalve nieuw, maar moet toch steeds opnieuw worden gesteld. Zeker als de technologische ontwikkeling van opsporingsmethodes zo snel gaat als nu. En des te meer als één bedrijf daarin een duidelijke hoofdrol lijkt te spelen.
Het Amerikaanse Palantir, mede opgericht door de libertaire miljardair en Trump-fluisteraar Peter Thiel, levert sinds 2011 AI-software aan de Nederlandse politie. Daarmee worden gigantische hoeveelheden data aan elkaar geknoopt om patronen te vinden die wijzen op kindermisbruik, plannen voor terreuraanslagen, femicide en andere misdaden. Dat is mooi, maar het levert ook serieuze vragen op over de privacy van miljoenen burgers.
En dan is dit nog maar de ‘kleine’ variant van de dilemma’s die Palantir oproept. Ook in het groot, namelijk bij de inzet van deze software in oorlogvoering, is het tijd voor een debat over de macht van dit bedrijf.
NRC bezocht onlangs het Europese hoofdkantoor in Londen en kreeg daar een zeldzaam inkijkje in de werkwijze van Palantir. Zo levert het software aan Oekraïne, waarmee satellietbeelden van het slagveld worden gekoppeld aan geheime data van de Verenigde Staten en andere bondgenoten. Op die manier helpt de software bij het in razend tempo identificeren van Russische doelwitten, die Oekraïne dan gericht kan aanvallen.
Palantir is één van de hulpmiddelen die Oekraïne overeind houden in de oorlog, net als het Starlink-satellietnetwerk van Elon Musk. En aangezien Oekraïne niet alleen voor zijn eigen voortbestaan vecht, maar ook voor de veiligheid van Europa, heeft Europa alle belang bij deze inzet.
Maar dit gebruik van AI heeft ook een keerzijde, die onvoldoende aandacht krijgt. Veel betere targeting betekent in de praktijk dat oorlogen veel dodelijker worden. Dat is goed te zien in Gaza, waar Israël met zijn AI-programma Lavender tienduizenden Hamas-doelwitten identificeerde. Het tempo lag zo hoog dat Israëlische militairen nauwelijks nog tijd hadden om de resultaten van de machine te controleren. Wat volgde was een onaflatende bommenregen met tienduizenden Palestijnse burgerdoden.
Het lijkt er sterk op dat deze ‘targeting in het kwadraat’ de toekomst is van oorlogvoering. De technologische ontwikkeling laat zich niet zomaar tegenhouden en is in een bepaald opzicht ook bittere noodzaak, zie Oekraïne. Maar dat betekent niet dat democratische controle bijzaak is geworden. Integendeel, juist als de ontwikkeling razendsnel gaat, is het voor de politiek noodzakelijk om aan te haken en voldongen feiten te voorkomen.
Tal van NAVO-lidstaten, waaronder Nederland, gebruiken software van Palantir, maar in de Tweede Kamer wordt het debat hierover nauwelijks gevoerd. De politie en de betrokken ministeries zijn er uiterst gesloten over en Kamervragen kwamen tot nu toe alleen van Forum voor Democratie. Er zullen goede redenen zijn om niet alle ins en outs van het systeem openbaar te maken, maar de dilemma’s rond Palantir zijn te fundamenteel om niet te bespreken.
Het Westen is superieur en moet altijd winnen, zegt Palantir. Op dit moment pakt die filosofie gunstig uit in de strijd tegen Rusland, maar wat als het bedrijf van koers verandert en de software aan de hoogste bieder geeft? Daarnaast is ‘het Westen’ niet van onbesproken gedrag. Zo maakt de Amerikaanse immigratiedienst ICE voor haar genadeloze uitzettingscampagne gebruik van Palantir.
Heeft Palantir meer concurrentie nodig? Of maakt dat de wereld alleen maar gewelddadiger? Het is een van de grote vragen waar het Westen, en dus ook Nederland, een antwoord op moet vinden. Een debat om niet langer uit de weg te gaan.
NIEUW: Geef dit artikel cadeauAls NRC-abonnee kun je elke maand 10 artikelen cadeau geven aan iemand zonder NRC-abonnement. De ontvanger kan het artikel direct lezen, zonder betaalmuur.
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC