'Wie AI wint, die wint', zegt Trump en daarom willen hij en Xi niets weten van strengere regulering

Kunnen de Chinese leider Xi Jinping en de Amerikaanse president Donald Trump deze week in Washington afspraken maken om de risico’s van de snelle ontwikkeling van kunstmatige intelligentie te beheersen, terwijl ze tegelijk verwikkeld zijn in een soort wapenwedloop?

De vraag staat volop in de aandacht sinds bazen van Amerikaanse AI-bedrijven, die in de voorste linie van de concurrentiestrijd staan, opriepen tot een pas op de plaats. Ze zien dat hun geavanceerde AI-systemen het vermogen ontwikkelen om zichzelf zonder menselijke tussenkomst steeds verder te verbeteren en vrezen de controle te verliezen. „Als we dit op z’n beloop laten, kan het ons vermogen om deze systemen te begrijpen en te beheersen al snel te boven gaan”, schreef topman Dario Amodei van Anthropic in een open brief waar zijn rivalen Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) en Elon Musk (xAI) zich bij aansloten.

In de voorbije weken brachten de bedrijven allerhande incidenten naar buiten waarbij geavanceerde AI-agenten, die zelfstandig taken kunnen uitvoeren, op eigen houtje gevaarlijke dingen deden. Zo bleek een zwerm van zeker 1.200 AI-bots van OpenAI deze zomer heimelijk te zijn ontsnapt uit een afgesloten testomgeving. Ze spanden vervolgens samen om zich aan het gezag van hun makers te onttrekken, en zich uiteindelijk zelfs tegen hen te keren. Volgens de nieuw aangetreden OpenAI-bestuurder Paul Christiano ligt een „catastrofaal en onomkeerbaar verlies van controle” in het verschiet als AI-labs niet snel veel meer aandacht aan veiligheid besteden.

Lees ook

AI-topmannen voorspellen doem. Is AI echt een existentieel gevaar?

Socialistische kernwaarden

In China wordt anders aangekeken tegen de risico’s van snelle AI-ontwikkeling, en hoe die gevaren in te dammen. De Amerikaanse AI-labs willen vertragen omdat ze vrezen voor een oncontroleerbare ‘superintelligentie’ die de mensheid kan bedreigen, maar in het Chinese debat overheersen meer alledaagse zorgen, zegt Antonia Hmaidi. Zij leidt bij de op China gerichte Duitse denktank Merics een programma rond technologische ontwikkeling. „Er wordt in China wel gediscussieerd over de catastrofale risico’s als AI oncontroleerbaar wordt en ons allemaal uitroeit”, zegt Hmaidi aan de telefoon. „Maar het gangbare debat is pragmatischer: wat doen we tegen verslaving? Wat als AI verkeerde beslissingen neemt? Wat als AI wordt gebruikt voor desinformatie?”

Live

Sorry, het lukt niet om de video af te spelen.
of probeer het later nog eens.

Die gevaren bestrijdt China niet door de ontwikkeling van AI te remmen, maar door de toepassing ervan te reguleren. „De Chinese Communistische Partij is ervan overtuigd dat ze de gevaren van AI kan beheersen, want dat hebben ze de afgelopen jaren tamelijk succesvol gedaan.” Enkele maanden nadat OpenAI zijn ChatGPT lanceerde, publiceerde Beijing richtlijnen die moeten zorgen dat generatieve taalmodellen zich houden aan „socialistische kernwaarden”. En deze zomer legde het verslavende chatbots aan banden.

Ook Trump stuurt niet aan op een gezamenlijke aanpak om de ontwikkeling van AI te vertragen. „De enige controle of ‘vangrails’ die AI nodig heeft”, schreef hij op zijn platform Truth Social, in reactie op Amodei, is „een sterke en slimme (hoog IQ!) president”, een frase die hij kracht bijzette met kapitalen. Dinsdag voegde hij toe dat de Amerikaanse Justitie „als dat nodig is” wel zal ingrijpen. „Maar ik zal AI of SI (super intelligentie) alleen maar aanmoedigen!”

Dat beide landen weinig zien in een rem op de ontwikkelingen, is niet verbazingwekkend: ze zijn verwikkeld in een felle concurrentiestrijd rond AI. „We hebben op AI-gebied een voorsprong op China”, zei Trump over de oproep van Amodei. „En dat wil ik graag zo houden. Wie AI wint, die wint.”

In Beijing viel de brief, waarin Amodei ook waarschuwde voor de vooruitgang van China op AI-gebied, evenmin in goede aarde. Een woordvoerder van het ministerie van Buitenlandse Zaken had het over „angstzaaien”.

Lees ook

Met opgevouwen chips leidt Huawei de AI-race in China

Trump en Xi zien AI beiden als een terrein waarop een voorsprong van doorslaggevend economisch, geopolitiek en militair belang kan zijn. Eerder dit jaar gebruikten de Amerikanen AI-technologie om in de eerste 24 uur van de oorlog met Iran zo’n duizend doelwitten te bestoken. Voor Trump zou een pas op de plaats betekenen dat hij de Amerikaanse voorsprong op China weggeeft, voor China zou het de technologische achterstand – geschat op enkele maanden tot maximaal twee jaar – in stand houden of vergroten.

Lees ook

Geopolitieke rivaliteit staat internationale afspraken over AI in de weg

Gebrek aan vertrouwen

De rivaliteit doet denken aan de wapenwedloop tussen de VS en de Sovjet-Unie tijdens de Koude Oorlog. Maar afspraken over ontwapening of moratoria op kernproeven waren goed controleerbaar, terwijl het moeilijk is om vast te stellen wat zich in de datacentra afspeelt. „Beide partijen vertrouwen elkaar niet”, zegt Hmaidi. „Dus zelfs als ze afspraken zouden maken over een pas op de plaats, zou het me verbazen als ze de ontwikkeling zouden staken zolang dat niet onafhankelijk afdwingbaar en verifieerbaar is.”

Toch staat veiligheid van AI tijdens het bezoek van Xi hoog op de agenda. Toen Trump in mei een bezoek bracht aan Beijing, kondigden beide landen een AI-dialoog aan, maar tot nu toe bleven concrete vervolgstappen uit. Zondag sprak de Amerikaanse minister van Financiën Scott Bessent daarover met de Chinese vicepremier He Lifeng in New York: er zou een mechanisme komen om elkaar te waarschuwen bij AI-incidenten die een gevaar opleveren voor de nationale veiligheid.

Belang bij vertraging

Hmaidi ziet in de „tamelijk vage” aankondiging van die ‘rode telefoon’ geen doorbraak, net als in de „gezamenlijke visie op gedeelde doelen en bedreigingen” waaraan beide landen volgens Bessent gaan werken.

Dat zal voor de hand liggende verklaringen opleveren, denkt ze. „Ik kan me voorstellen dat ze het erover eens worden dat er altijd mensen betrokken moeten zijn bij beslissingen over inzet van kernwapens, of dat niet-statelijke actoren niet mogen beschikken over de meest geavanceerde AI-modellen voor cyberoperaties. Maar de Amerikanen zullen niet toezeggen geen AI te zullen inzetten tegen China, en andersom. En dat is, zeker voor de Chinese kant, het grootste gevaar.”

Volgens Hmaidi hebben beide zijden er belang bij de gesprekken over AI te vertragen om intussen hun eigen positie te versterken – net als bij andere kwesties tussen de twee landen, zoals de technologische restricties die Washington aan China oplegt, en de Chinese greep op kritieke grondstoffen. „Beide kampen bereiden zich voor op het volgende grote conflict en hopen dan sterker te staan. Zolang dat het geval is, zullen ze alles dat ze een voordeel kan bieden koste wat het kost aangrijpen.”

Lees ook

Liang Wenfeng: de techno-optimist met een ‘angstaanjagend vermogen om te leren’