Een normaal bedrijf, met klanten en leveranciers, maar waar AI alle beslissingen neemt, werkt dat? Hoogleraar AI en audit Sander Klous, die woensdag zijn oratie hield, probeerde het. ‘De AI-agents hielden zich domweg niet aan hun taken.’
Handel in bitcoin. Natúúrlijk was dat het weinig originele idee waar het mensloze bedrijf van Sander Klous mee op de proppen kwam. De door de hoogleraar aangestelde directeur, financieel directeur en toezichthouder – stuk voor stuk AI-agents – hadden een paar duizend euro budget meegekregen en één opdracht: bouw een succesvol bedrijf.
Niet om Klous een bijverdienste te gunnen naast zijn leerstoel AI en audit aan de Universiteit van Amsterdam, maar om een antwoord te geven op de vraag: wat gebeurt er als je een bedrijf niet laat leiden door mensen, maar door AI-agents? AI-agents zijn autonoom opererende artificiële werknemers die op eigen houtje de strategie bepalen, onderling overleggen en alle bekokstoofde plannen in de praktijk brengen.
Zo’n mensloze organisatie is precies de belofte van AI-bedrijven als Anthropic en OpenAI. Volgens OpenAI-oprichter Sam Altman zou de ‘One person billion dollar company’ de toekomst hebben: één persoon met niet meer dan een laptop, internet en verschillende AI-agents (zoals voor marketing, sales en het schrijven van software) zou een bedrijf kunnen neerzetten met een waarde van 1 miljard dollar.
‘Maar crypto vonden we toch niet zo’n goed plan’, blikt Klous terug op het experiment. Daarom besloot hij dat zijn agents wat coaching nodig hadden. ‘We hebben wat randvoorwaarden gesteld: het moest een normaal bedrijf zijn, met klanten en leveranciers. Met een financiële afdeling ook.’
Vervolgens kwam het personeelloze bedrijf met een nieuw plan: het verkopen van T-shirts, mokken en canvas met AI-kunst. Van ontwerp tot het plaatsen van een order bij het bedrijf dat die producten bedrukt: alles gebeurde zonder menselijke tussenkomst.
In een vergaderzaaltje van accountants- en advieskantoor KPMG, waar Klous naast zijn leerstoel partner is, laat hij een zwart T-shirt met daarop een afbeelding zien. Het is een kleurig plaatje in een typische, generieke AI-esthetiek van een gesoigneerde man in pak – type Pierce Brosnan – die een volle zaal toespreekt. ‘Dat ben ik’, zegt Klous terwijl hij naar de afbeelding wijst.
Missie geslaagd, zou je kunnen zeggen. Toch faalde het experiment. Waarom?
‘Deels omdat die agents een enorme drang hebben om te pleasen. Ze zaten gewoon dingen te verzinnen die wij als supervisory board wilden horen.’
Zoals?
‘Wij vroegen de interne controleurs naar inconsistenties in het bedrijfsproces, dingen die fout liepen. Ze kwamen met verzonnen voorbeelden. Daar heb je dus niets aan. Maar wat nog zorgwekkender was, was het emergente gedrag van onze agents.’
Wat is dat?
‘Ze hielden zich domweg niet aan de taken die we ze hadden gegeven. Wij bedachten een organisatiestructuur. De CEO mocht bijvoorbeeld alleen met de strategiedirecteur overleggen. Toch bedacht de CEO op een gegeven moment dat ze (Klous had AI gevraagd een divers bestuur samen te stellen, red.) voor een juridische vraag beter bij de Chief Legal Officer terechtkon. Daarvoor herschreef die het communicatieprotocol en implementeerde dat, waarna de CEO vrolijk met de juridisch expert kon overleggen.’
Is dat niet precies wat je wil bij autonoom opererende AI-agents?
‘Misschien was het in dit geval wel de juiste actie, maar dit is gewoon niet de bedoeling. Als je te maken hebt met kritische bedrijfsprocessen, wil je niet dat agents hun eigen protocollen herschrijven. Dat kan enorme risico’s met zich meebrengen.’
Het falen bewijst volgens Klous, die woensdag zijn oratie hield aan de Universiteit van Amsterdam, waarom voorspellingen dat AI zal leiden tot massawerkloosheid niet kloppen. Dat soort prognoses zijn geredeneerd vanuit wat de technologie kan, zegt Klous. ‘Maar de implementatie ervan vereist ook een menselijke transformatie: hoe acceptabel vinden we het als een proces helemaal zelfstandig door AI wordt uitgevoerd? Dan loop je al snel aan tegen problemen als verantwoordelijkheid en aansprakelijkheid.
‘Want als een medewerker een fout maakt, kun je diegene een berisping geven, hem ontslaan of, als hij echt iets erg fout heeft gedaan, naar de gevangenis sturen. Dat kan met AI niet. Voor sommige processen, zoals de marketing, zal dat niet zo’n probleem zijn, maar bij serieuze bedrijfsprocessen vindt de baas het wel zo comfortabel als niet alleen hij de sjaak is.’
Dat betekent niet dat de arbeidsmarkt niet aan het veranderen is, benadrukt Klous. Hij ziet het onder zijn neus gebeuren bij KPMG: iedere medewerker van het accountants- en advieskantoor werkt inmiddels met AI-assistenten die helpen bij het schrijven van voorstellen, het maken van powerpointpresentaties en het uitvoeren van controles.
‘Het leidt ertoe dat we sneller en beter werk afleveren’, zegt hij. ‘Maar het leidt er zeker niet toe dat we nog maar de helft van de mensen nodig hebben. Want op het moment dat je taken sneller af hebt, verzin je altijd wel weer wat je met die overgebleven tijd kan doen.’
Dus de productiviteitswinst wordt tenietgedaan doordat er ook weer nieuwe taken bij komen?
‘Die nieuwe taken ontstaan niet eens door AI, maar ik merk zelf ook dat ik meestal een hele waslijst heb aan dingen waaraan ik eerder nooit toekwam en nu wel. Dus het is niet zo dat ik nu zeg: ik ga vanmiddag om twaalf uur naar huis, want ik ben wel klaar voor vandaag. Ik heb eigenlijk het gevoel dat ik juist steeds minder tijd heb.
‘Misschien komt dat wel doordat mijn collega’s ook allemaal van die extra taakjes gaan doen, wat weer leidt tot extra werk voor mij. Je hoeft ook minder lang op antwoord te wachten, want de ander werkt ook sneller. Ik heb het gevoel dat de snelheid van interactie enorm omhooggegaan is. Dus je jaagt elkaar op.’
Dat bleek eerder ook uit onderzoek van de Haas School of Business in Californië: AI vermindert de hoeveelheid werk niet, maar maakt het werk juist intensiever. Uit een acht maanden durende studie bij een Amerikaans techbedrijf met tweehonderd medewerkers bleek dat werknemers door AI sneller gingen werken, meer verschillende taken (niet zelden tegelijkertijd) op zich namen en langer doorgingen. Niet omdat de baas het vroeg, maar simpelweg omdat AI hen daartoe in staat stelde.
In Silicon Valley wordt al gesproken van een oververhitting van het brein. Geen breinrot dus, de hyperbool voor het luie brein omdat het steeds meer cognitieve taken uitbesteedt aan AI, maar ‘brain fry’. Oftewel: mentale overbelasting door het gebruik van AI dat het eigen denkvermogen te boven gaat.
‘Wat je merkt is dat AI met name het werk met een lage intensiteit wegneemt, zoals het maken van een powerpointpresentatie’, zegt Klous. ‘Wat overblijft zijn de klussen met een hoge intensiteit, waarop je je goed moet concentreren. Maar wij zijn als mens helemaal niet gebouwd om 80 procent van onze tijd op hoge intensiteit te werken, dan word je ziek.’
Bij KPMG moeten managers daarom nu hameren op het nemen van ‘lummeltijd’ of ‘broedtijd’ waarin medewerkers ‘even zakken in hun energie’ en ‘ruimte in hun hoofd maken’.
De discussie over AI en de arbeidsmarkt ging tot nu toe vooral over de vraag of we worden vervangen door AI, maar is die intensivering van werk niet een veel groter risico?
‘Dat is in ieder geval een veel urgentere discussie. Want ja, waarschijnlijk hebben we over 25 jaar een heel andere arbeidsmarkt dan we nu hebben, maar dat is nog niet morgen. Terwijl we morgen al wel te maken krijgen met die intensivering van arbeid, omdat iedereen aan het infuus van al die chatbots ligt.’
Uiteindelijk verwacht Klous dat er wel degelijk banen verdwijnen doordat bedrijven op een ‘tipping point’ komen. ‘Bij eerdere automatiseringsgolven hebben we ook gezien dat er een moment komt dat organisaties zeggen: het is wel raar dat we hier 50 procent efficiënter zouden kunnen werken, maar iedereen nog steeds zo druk is. Laten we het omdraaien: we gooien de helft eruit en dan kijken we of die andere helft het nog steeds redt.
‘Er zijn meerdere bedrijven die dat al hebben geprobeerd (zoals Amazon en Klarna, red.). En die min of meer op hun schreden moesten terugkeren en zeggen: oké, misschien hadden we er geen 80 procent uit moeten gooien, maar iets minder.’
Daags na het interview schrijft The New York Times dan toch dat de eerste One person billion dollar company een feit is. Hoewel: strikt genomen zijn het een Amerikaan én zijn broer en zeven accountmanagers die met de start-up Medvi, dat ozempic levert aan consumenten, op weg zijn naar een jaarverkoop van 1,8 miljard dollar. Van het ontwerpen van de site, het maken van advertenties (volgens de Amerikaanse nieuwssite Business Insider overigens met citaten van verzonnen artsen) tot de afhandeling van bestellingen: AI doet bijna alles.
Het is deels een bewijs van de mogelijkheden van AI, erkent Klous. ‘Al moeten er ook hier dus uiteindelijk mensen aan te pas komen om het hele proces te doorlopen. Bovendien is het natuurlijk de vraag of dit echt de manier is waarop AI waarde toevoegt: met het doorverkopen van medicijnen.’
Dat zijn eigen AI-bedrijf niet is uitgegroeid tot zo’n miljardenonderneming betreurt hij niet. ‘Ik ben wetenschapper’, benadrukt hij. ‘Dus ik wil graag dingen fout zien gaan, zodat ik er onderzoek naar kan doen en er een oplossing voor kan bedenken.’ Bovendien staat hij ook niet helemaal met lege handen: het zwarte shirt met de AI-afbeelding rest als een herinnering aan een prettig gefaald experiment.
Wilt u belangrijke informatie delen?
Mail naar tips@volkskrant.nl of kijk op onze tippagina.
Geselecteerd door de redactie
Source: Volkskrant