Kan AI op eigen houtje de wereld terroriseren?

Sinds de komst van ChatGPT is de geloofwaardigheid van elk citaat, elk artikel, elk geluid, elk kunstwerk en elke video twijfelachtig. Ogen en oren openhouden is niet meer voldoende; alle informatie kan door kunstmatige intelligentie (AI) verzonnen zijn of gemanipuleerd.

Soms is duidelijk dat het om een grap gaat – Trump met Poetin op zijn rug. Vaak is het subtieler, zoals bijvoorbeeld gold voor een in mei door de Thaise politie verspreide foto van vijf in feestelijke jurken gestoken mannelijke agenten die poseren bij een geboeide verdachte. Veel van deze AI-verzinsels gaan viraal en leiden een eigen leven. Zelfs de argwanende kijker of lezer kan op het verkeerde been worden gezet.

Niettemin storten investeerders zich op deze sector als hongerige leeuwen op een manke Thomsongazelle. Prins Bernhard jr. heeft met dat doel voor ogen zelfs al zijn pandjes verkocht.

De gevaren zijn evident. Een AI-agent van OpenAI, het bedrijf achter ChatGPT, brak onlangs uit zijn geïsoleerde testomgeving en hackte vervolgens op eigen houtje een platform van een ander AI-bedrijf; het richtte zich op Hugging Face, waar ontwikkelaars codes delen.

De wereld was in shock: nog even en een ontsnapt AI-model uit een IT-lab zal de aardbol kunnen terroriseren of vernietigen zonder dat de mensheid er iets aan kan doen.

De AI-agent zou zijn ontsnapt ‘uit een sandbox tijdens een securitybenchmark’, luidde de even onbegrijpelijke als angstaanjagende toelichting van OpenAI. Het bedrijf sprak van ‘een incident’. Het testprogramma was juist ontwikkeld om cyberkwetsbaarheden aan te tonen in een geïsoleerde omgeving.

De Nederlandse AI-expert Bert Hubert noemde in de Volkskrant de ontsnapte AI-agent ‘een ongeleid projectiel dat dingen hackt waar niemand om gevraagd heeft’. In enkele uren verrichtte de AI-agent met bovenmenselijke snelheid zeventienduizend handelingen in de binnengedrongen programma’s van Hugging Face.

OpenAI verontschuldigde zich en zei in innige samenwerking met Hugging Face lessen te willen trekken uit het voorval. ‘Het incident maakt duidelijk dat geavanceerde modellen nieuwe aanvalsroutes kunnen kiezen, zelfs zonder toegang tot de broncode’, aldus het bedrijf.

Inmiddels zijn er in de media twijfels geuit of het voorval wel echt onbedoeld was. Het zou een ordinaire publiciteitsstunt kunnen zijn geweest, suggereerde ook de Britse omroep BBC.

Volgens critici zou OpenAI ermee willen aantonen hoe krachtig zijn AI-modellen zijn, en tevens zijn eigen cybersecurityproducten willen propageren. Daarmee zou OpenAI’s grote concurrent Anthropic een oor zijn aangenaaid, mogelijk met medewerking van Hugging Face, dat dankzij het voorval in één klap een bekende naam werd in de AI-sector.

De voordelen van een dergelijk opzetje zijn echter niet evident. Krantenkoppen als ‘Vernietigend AI-model ontsnapt uit IT-laboratorium’ zijn voor OpenAI een vergelijkbaar ‘goede reclame’ als de ontsnapping van Bokito in 2007 was voor de Rotterdamse dierentuin Blijdorp.

Maar zoals het eraan toegaat in de wereld van AI, niemand weet meer wat de waarheid is en welke samenzweringstheorie wel of niet moet worden geloofd. Intussen gaan investeerders als prins Bernhard jr. er in dit riskante spel met de bal vandoor – overheden gaat het allang boven de pet.

De mensheid heeft nog in deze eeuw een nieuw zintuig nodig, omdat de andere vijf bij waarheidsvinding niet langer voldoen.