is economieredacteur en commentator van de Volkskrant.
Nog steeds valt er veel te grinniken over de verrassende domheid van kunstmatige intelligentie. Wie, om maar wat te noemen, wil weten hoe groot de basiliek in Oudenbosch is ten opzichte van het origineel in Rome, krijgt van Googles Gemini te horen dat die zestien keer zo klein is. Dat zou een koepeltje impliceren van tweeënhalve meter in diameter, in plaats van 22 meter. Zo’n opzichtige fout bij zo’n eenvoudige kwantitatieve vraag blijft een waarschuwing: niet op vertrouwen, op die zelfdenkende machines.
Maar geef ze een ambachtelijke routinetaak en ze storten zich er met zo veel overgave op, dat de mens het nakijken heeft. Programmeren, bijvoorbeeld, kunnen ze veel sneller en veel preciezer dan programmeurs van vlees en bloed. Dat kan handig zijn maar is, zo bleek deze week, ook levensgevaarlijk.
In het Volkskrant Commentaar wordt het standpunt van de krant verwoord. Het komt tot stand na een discussie tussen de commentatoren en de hoofdredactie.
Dinsdag bracht het Amerikaanse softwarebedrijf Anthropic het nieuws naar buiten dat zijn nieuwe AI-programmeerhulp Mythos (een variant van het al bekende Claude) nog niet wordt vrijgegeven, ondanks dat de software geweldig presteert. Te geweldig.
Mythos is namelijk zo goed, aldus Anthropic, dat het duizenden kwetsbaarheden in soms al decennia bestaande besturingssystemen en andere computerprogramma’s heeft gevonden. Die kwetsbaarheden, ook wel zero-days genaamd (omdat ze op het moment van ontdekken nul dagen bekend zijn), kunnen in handen van kwaadwillenden worden gebruikt om het systeem te saboteren.
Hackers zijn al jaren op zoek naar dit soort gaten. Criminele hackers (al dan niet gelieerd aan staten) om er doorheen te kruipen, ethische hackers om ze te dichten voordat dat gebeurt. Het leidde tot enkele grote hacks het afgelopen decennium, waarbij onder meer bestanden werden versleuteld om losgeld te vragen. Russische hackers gebruikten zero-days om Oekraïne te saboteren, de VS (in samenwerking met Nederland) om Iraanse nucleaire centrifuges dol te draaien.
Nu heeft een machine dus duizenden van die gaten ontdekt die mensen nooit gevonden hebben. Dat betekent dat AI, waarschijnlijk voor het eerst, wapens heeft gefabriceerd die menselijke intelligentie (nog) niet wist te bedenken.
Met die wapens kan in theorie elke zolderkamerterrorist grootschalige schade aanrichten. Deze week is de week waarin kunstmatige intelligentie, in combinatie met good old menselijke kwade wil, een bedreiging is geworden.
Anthropic gedraagt zich vooralsnog als ethische hacker. Het heeft softwarebedrijven om zich heen verzameld die een voorsprong krijgen en Mythos eerst mogen gebruiken om de gaten te dichten. Door deze uitgestelde vrijgave staan aspirant-saboteurs op achterstand.
Maar de risico’s zijn te groot om dergelijke maatregelen aan bedrijven over te laten. Want hoe ethisch is Anthropic precies? Waarom werkt het alleen samen met Amerikaanse bedrijven? Waarom niet ook met (internationale) maatschappelijke organisaties? Eerder, in zijn conflict met het Pentagon, leek Anthropic, hoe dapper ook, zich ook vooral druk te maken om de rechten van Amerikaanse burgers. Het bedrijf is niet de goedheid zelve.
De ontwikkeling van AI is niet tegen te houden. Wat misschien wel kan worden beperkt, is de verspreiding. Analoog aan de luchtvaart en de farmacie, zouden er nationale of internationale toezichthouders moeten worden opgericht die nieuwe software pas op de markt toelaten nadat de grootste gevaren en bijwerkingen zijn onderzocht en uitgebannen. Internationaal zouden, zoals ook is gebeurd met kernwapens, non-proliferatieverdragen moeten worden gesloten.
AI zelf gaat haar verantwoordelijkheid niet nemen.
Geselecteerd door de redactie
Source: Volkskrant