Kunstmatige intelligentie kost bedrijven steeds meer geld: is AI het wel waard?

Bij taxibedrijf Uber rinkelen in april de alarmbellen. Medewerkers hebben zich zo enthousiast op AI-assistenten gestort dat het volledige jaarlijkse AI-budget er binnen vier maanden doorheen is gejaagd. ‘Ik moet terug naar de tekentafel omdat het budget dat ik nodig dacht te hebben al weggevaagd is’, zegt technisch directeur Praveen Neppalli Naga tegen technieuwssite The Information.

Programmeurs bij Uber gebruiken massaal AI-modellen als Claude Code om de software achter de taxi-app van het bedrijf te schrijven. De bedrijfstop moedigt ze actief aan. Een intern scorebord toont zelfs wie zichzelf trots tot de grootverbruikers mag rekenen: hoe meer AI je hebt gebruikt, hoe beter.

Al gauw blijkt dat onbetaalbaar. En dat terwijl het bestuur van Uber naar eigen zeggen niet kon vaststellen dat programmeurs die meer AI gebruiken ook meer werk afleveren. Niet dat Uber AI afzweert, maar het gebruik gaat wel aan banden: sinds juni mogen medewerkers van het taxibedrijf maandelijks maximaal 1.500 dollar uitgeven per AI-tool, zoals Claude. Hoeveel het bedrijf precies heeft uitgegeven aan AI, is niet bekendgemaakt.

Dure modellen doen makkelijk werk

Ook andere bedrijven zijn de afgelopen jaren massaal AI-taalmodellen gaan gebruiken. Ze vatten er vergaderingen mee samen, baseren er hun helpdeskchatbots op en gebruiken ze voor het programmeren van software. Maar nu het gebruik van AI-assistenten als Claude, Gemini en ChatGPT sterk toeneemt, krijgen ze de rekening gepresenteerd.

Dat raakt aan de allesbepalende vraag over de rol die kunstmatige intelligentie kan gaan spelen: boeken medewerkers dankzij AI-assistenten zoveel tijdswinst dat dit opweegt tegen de kosten?

Bedrijven sluiten betaalde abonnementen af op modellen als Claude of ChatGPT, voor een vast bedrag per maand. Maar die abonnementen zijn niet onbeperkt: wie AI-modellen te vaak aan het werk zet, moet bijbetalen.

Niet alleen Uber liep tegen de grenzen aan. Bij Citigroup liep de AI-rekening zo hoog op dat de Amerikaanse bank de toegang tot de duurste en krachtigste modellen volledig heeft geblokkeerd voor medewerkers, meldt 404 Media. Medewerkers van consultancybureau Accenture bleken dure modellen te gebruiken voor triviale taken, zoals het omzetten van pdf-bestanden naar PowerPoint-slides, volgens interne informatie die naar het journalistieke platform is gelekt.

‘Tokenmaxxing’

De tijd van tokenmaxxing lijkt dan ook ten einde gekomen: het fenomeen waarbij bedrijven als Uber een zo hoog mogelijk AI-verbruik aanmoedigden. Een ‘token’ is een klein beetje data, zoals een paar letters tekst. Het is de eenheid waarmee wordt gemeten hoeveel AI iemand gebruikt.

Ook bij webwinkel- en cloudbedrijf Amazon, softwarebedrijf Salesforce en Meta, het moederbedrijf van Instagram en Facebook, verdwenen de scoreborden even snel als ze waren opgekomen. Intern ontmoedigt Amazon inmiddels ‘AI-gebruik om het AI-gebruik’, nadat was gerapporteerd dat medewerkers AI-agents – AI-assistenten die autonoom taken kunnen uitvoeren – gebruikten voor overbodige klusjes, om maar hoog te scoren.

Voor de in rap tempo uit de hand gelopen AI-uitgaven is een neologisme bedacht: tokenpocalypse.

AI in werkelijkheid nog duurder

En dan te bedenken dat AI-bedrijven het gebruik van AI nu nog zwaar subsidiëren. De werkelijke kosten zijn hoger dan wat klanten betalen. Het bouwen van datacenters, het ontwikkelen van AI-modellen en het uitvoeren van AI-berekeningen om deze modellen te laten draaien is duur, mede door de hoge kosten van chips en stroom. Alleen al Amerikaanse techbedrijven investeren hier jaarlijks honderden miljarden euro’s in.

Bedrijven als OpenAI, Anthropic en Google zijn bereid grote verliezen te slikken op hun AI-activiteiten om marktaandeel te veroveren. Ze verwachten het geld later dubbel en dwars terug te verdienen, als hun modellen beter en goedkoper worden, en betalende gebruikers niet meer zonder AI-gereedschap kunnen.

Als de huidige trends doorzetten, zijn bedrijven straks meer geld kwijt aan AI-tokens dan aan de salarissen van programmeurs, voorspelt Gartner, ’s werelds grootste adviesbureau op gebied van ICT in het bedrijfsleven. Volgens het adviesbureau gaan veel bedrijven nu al sneller door hun AI-budget heen dan ze hadden verwacht.

De kosten per token dalen weliswaar, maar omdat steeds meer medewerkers gebruikmaken van AI nemen de kosten toch toe. Bovendien verwacht Gartner dat AI-bedrijven hun abonnementskosten duurder zullen maken als ze winstgevend willen worden.

Consultancybureau KPMG herkent dat de kosten van AI kunnen gaan knellen, zowel uit eigen ervaring als bij klanten. Een jaar geleden gaf het al zijn medewerkers toegang tot Copilot van Microsoft, met de opdracht: ga er zoveel mogelijk mee werken om AI-tools te leren kennen.

De eerste fase van experimenteren met AI is inmiddels overal wel voorbij, zegt Alexandra van der Tuin, chief digital officer bij KPMG. Zo zijn niet voor alle werkzaamheden AI-modellen met de hoogste rekenkracht nodig.

Snelgroeiende kostenpost

Een nieuwe uitdaging is de opmars van AI-agents. Bedrijven hopen op grote efficiëntiewinsten, maar zulke agents zijn ook token-intensief. ‘Wat een kostenbesparende technologie moet zijn, kan zo in de praktijk een snelgroeiende kostenpost worden’, waarschuwt Van der Tuin.

KPMG schat dat de wereldwijde uitgaven gerelateerd aan AI-gebruik en -ontwikkeling dit jaar oplopen tot ruim 2,1 biljoen euro, een stijging van ongeveer 44 procent ten opzichte van vorig jaar. Volgend jaar zal dat al 2,8 biljoen euro zijn.

Bij Amazon, dat als een van ’s werelds grootste cloudaanbieders een hoofdrol heeft bij het bouwen van datacenters en het leveren van AI-diensten, hebben ze er niettemin alle vertrouwen in. Wel erkent ook Peter DeSantis, die de leiding heeft over de AI- en chipsdivisie van het bedrijf, dat sommige klanten de kosten van AI nog te hoog vinden.

‘Ik denk dat het met een disruptieve technologie als deze ook lastig is om in te schatten hoeveel efficiënter medewerkers worden’, zegt hij. Bij sommige van zijn teams zijn volgens hem enorme productiviteitsverbeteringen te zien dankzij AI, maar ‘het is moeilijker vast te stellen voor mijn gehele bedrijfsonderdeel, of heel Amazon’.

In de versnelling

DeSantis is, zoals gebruikelijk in de AI-industrie, van de school die een ongekende versnelling ziet aankomen in de ontwikkeling van kunstmatige intelligentie. Hij wijst erop dat chipbedrijven aan efficiëntere chips werken die betere en zuinigere AI-modellen moeten opleveren. Die nieuwe modellen kunnen vervolgens de chipbedrijven helpen met het ontwerpen van nog efficiëntere chips, redeneert hij, wat weer tot betere AI-modellen zou moeten leiden.

Als dat ‘vliegwiel’ op gang komt, voorspelt hij, zal de productiviteitswinst door AI enorm zijn. In de tussentijd moeten bedrijven volgens hem leren efficiënter met hun AI-middelen om te gaan. ‘Af en toe zullen ze de broekriem weer even strakker moeten trekken als blijkt dat ze een beetje verkwistend bezig zijn geweest.’

De broekriem aanhalen kunnen Nederlandse bedrijven wel, is de ervaring van Sanna Visser. Zij is managing partner bij MakerStreet, een collectief van bedrijven die in opdracht van klanten digitale producten en diensten ontwikkelen, zoals apps en websites. ‘De grootste problemen zie je bij bedrijven die AI-gebruik extreem hebben gestimuleerd. Maar om mij heen, bij klanten en collega’s in Nederland, ben ik geen tokenmaxxing tegengekomen. Hier is men toch wat calvinistischer.’

Toch heeft ook zij gemerkt dat de kosten toenemen. ‘We zien bij ons dat aanvankelijk vooral enthousiastelingen AI gingen gebruiken, maar sinds een jaar of twee gebruiken we het allemaal dagelijks.’

Bewust AI’en

Volgens haar is de efficiëntiewinst door AI evident bij het maken van softwareproducten. Maar dan moeten de ontwerpers en programmeurs er wel bewust mee omgaan. Dat betekent bijvoorbeeld: de zwaarste, duurste modellen alleen gebruiken voor (programmeer)taken als er geen lichter, goedkoper model beschikbaar is dat net zo geschikt is. En geregeld nieuwe gespreksvensters openen, omdat de chatbot anders bij elke vraag de hele gespreksgeschiedenis weer doorakkert, wat ook weer extra rekenkracht kost.

‘We hebben gezien dat mensen die AI gebruiken om ontwerpen te maken soms eindeloos doorgaan. Dan kom je in een soort konijnenhol terecht’, zegt Visser. ‘Daarom moet je heel duidelijk van tevoren afbakenen wat je wil maken en wanneer het goed genoeg is.’

Haar devies is dan ook juist: ‘Probeer zo min mogelijk aanspraak te doen op grote taalmodellen.’ Ook daar is trouwens al een term voor bedacht: tokenminning.