nieuwsbriefBroncode
Broncode Deze week presenteerde de Amerikaanse minister van Defensie Pete Hegseth zijn nieuwe AI-strategie. De boodschap was helder: we need to accelerate as hell.
Pete Hegseth, de Amerikaanse minister van Defensie (of Oorlog), is klaar met het slappe gedoe. Met de „peacetime science fair”, zoals Hegseth het dinsdag noemde tijdens een speech bij Musks ruimtevaartbedrijf SpaceX in Brownsville, Texas. „We need to accelerate as hell.”
Als de bliksem accelereren dus. Wat hij bedoelt: de VS zijn te lang te voorzichtig geweest als het aankomt op het gebruik van AI-technologie binnen defensie. Te veel bezig met veiligheid, opwerpen van barrières, uitbannen van risico’s, voorkomen van burgerslachtoffers. En te weinig met: experimenteren, vechten, winnen, actie. Te weinig met move fast and break things: de taal van start-ups die binnen de Amerikaanse overheid met de dag luider klinkt.
Je leest hier een artikelversie van onze nieuwsbrief NRC Broncode. Wekelijks schrijven wij over technologische ontwikkelingen die op de redactievloer tot opwinding leiden. Inschrijven (voor Plus-abonnees) doe je hier:
Inschrijven voor NRC Broncode
En dus wordt Emil Michael (ex-Uber) de nieuwe Chief Technology Officer voor het ministerie en wordt Cameron Stanley (ex-Amazon) de nieuwe Chief Digital and AI. Zij moeten de „innovatiepijpleiding” aanleggen om Amerika in staat te stellen zijn vijanden te verslaan met de nieuwste oorlogswapens van Palantir, Google en Amazon. Iedereen weet: de Amerikaanse overheid is definitief een techbedrijf geworden, met defensie als belangrijkste bedrijfsonderdeel.
Hegseth kwam met een aantal nieuwe projecten. Swarm forge: nieuwe manieren van vechten met AI-gestuurde zwermen drones. Of agent network: AI-assistenten die militairen helpen bij hun planning en beslissingen over leven en dood. Deze assistenten krijgen meer ruimte om „specifieke taken autonoom uit te voeren”, vertelde Hegseth. De droom van techbedrijven komt uit: toegang tot systemen wordt vereenvoudigd. Barrières worden weggenomen. Data worden toegankelijk en gecombineerd. De AI-assistent doet de rest. What could possibly go wrong?
Het is de absolute nachtmerrie van iemand als Stuart Russell, AI-wetenschapper aan Berkeley. Ik sprak hem in november 2023 en toen al zei hij te vrezen voor AI die militaire systemen overneemt. Hij riep om een kill switch: een knop om een AI-systeem altijd fysiek te kunnen uitschakelen, om te voorkomen dat computers ooit de controle overnemen. Over zo’n knop hoor je tegenwoordig niemand meer. Compleet omarmd is binnen de overheid het idee van Silicon Valley dat de VS superieur blijven als het land zo snel mogelijk superieure AI ontwikkelt.
Dat AI een steeds belangrijker rol krijgt binnen defensie, is niet nieuw; ook vorig president Joe Biden kondigde daarin investeringen aan. Met dit verschil: de regering-Trump heeft elk voorbehoud bij veiligheid of risicobeheersing laten varen. En ze geeft contracten aan bedrijven die zich ideologisch verwant voelen met de koers van de president.
Zo vertelde Hegseth dinsdag dat Grok, de AI-assistent van Elon Musk, vanaf deze maand toegang krijgt tot alle systemen van het Pentagon. Dat zijn systemen met „operationele data uit twee decennia aan militaire en inlichtingenoperaties”, waarbij bedrijven straks de ruimte krijgen om te opereren „zonder ideologische restricties die wettige militaire toepassingen beperken”.
Grok ligt in Europa intussen zwaar onder vuur omdat de chatbot op verzoek seksueel suggestieve afbeeldingen van minderjarigen kan genereren. Kan het Hegseth wat schelen? Zijn keuze voor Grok had een heel andere reden, zei hij tegen het publiek – met Elon Musk op de eerste rij. „Onze AI zal niet woke zijn.”
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC