Koplopers | Hoeveel stroom kost een vraag aan AI? Utrechts bedrijf laat het zien

Zo makkelijk als het is om iets aan ChatGPT te vragen, zo lastig is het om erachter te komen wat de milieu-impact daarvan is. De bekendste aanbieders van dat soort AI-chatbots doen daar uiterst geheimzinnig over, al is inmiddels bekend dat kunstmatige intelligentie veel energie slurpt en water verbruikt.

Tijd voor een alternatief dat juist wél duidelijk over de impact van AI-gebruik is, dachten Robert Keus en Cas Burggraaf. Zij richtten anderhalf jaar geleden GreenPT op: een AI-chatbot die je voetafdruk op het milieu zichtbaar maakt.

Denk aan AI-bedrijven en je denkt aan enorme datacenters met loeiende servers. Bij GreenPT kom je dat allemaal niet tegen. Het bedrijf huist in een ruim pand in hartje Utrecht, waar vroeger een drukkerij gevestigd was. Het gebouw doet nog steeds meer denken aan een creatieve werkplaats dan aan een hightechbedrijf. Geen kasten met knipperende apparatuur dus, wel mensen met ideeën over een duurzame toekomst.

Keus en Burggraaf werken al lang in de techwereld en sinds een paar jaar ook met kunstmatige intelligentie. Maar als klanten hen naar de milieu-impact vroegen, konden ze daar geen antwoord op geven. "Dat wisten we eigenlijk niet", zegt Keus. "En toen kwam Cas met het idee om zelf iets op te zetten met AI-modellen, waarover we meer controle hebben. Nu kunnen we wél berekenen wat het energieverbruik is."

De servers waarop GreenPT draait, staan in Frankrijk bij het bedrijf Scaleway. Daar wordt zoveel mogelijk groene energie gebruikt. Het overige deel komt van kernenergie. "Die stoot heel weinig CO2 uit", zegt Keus. Over een tijdje wil GreenPT naar Finland verhuizen voor een nog duurzamer alternatief.

GreenPT gebruikt voor de kunstmatige intelligentie zogeheten open weight-modellen. Dat zijn AI-modellen die al zijn getraind en klaar zijn voor gebruik. Je kunt zo'n model daarna aanpassen aan je eigen wensen, zegt Keus. "En verbruiksgegevens worden niet meer gedeeld met de oorspronkelijke maker. Zodra je het model hebt gedownload, werkt het helemaal onder je eigen beheer."

Keus zegt het er nadrukkelijk bij, omdat GreenPT onder meer gebruikmaakt van Chinese modellen zoals Kimi en GLM. Het voordeel van deze modellen is dat ze veel minder rekenkracht vereisen dan die van de 'grote jongens', zoals ChatGPT en Claude.

Keus en Burggraaf zijn de eerste om toe te geven dat écht duurzame AI niet bestaat. Net zoals de duurzaamste manier om auto te rijden is om níét te rijden. De twee weten bijvoorbeeld niet hoe groot het energieverbruik en de CO2-uitstoot waren bij het trainen van de AI-modellen van GreenPT. En daar zijn ze zelf dan weer transparant over. Burggraaf trekt de vergelijking met autorijden door: "We kunnen het brandstofverbruik aangeven, maar niet hoe de auto is gebouwd."

Het verbruik van de AI van GreenPT is bijvoorbeeld te zien in de chatbot. Een metertje naast het chatvenster geeft aan hoeveel energie met een vraag wordt verbruikt. In het begin staat er een feestelijke emoji, maar hoe belastender het gesprek wordt, hoe verdrietiger het poppetje gaat kijken. Als het gezicht verandert in een vlammetje, ziet de gebruiker dat het gesprek zeer energie-intensief is geworden.

De mensen die liever naar droge cijfers kijken, kunnen op de indicator klikken. Vervolgens komen de CO2-uitstoot en het aantal verbruikte kilowatturen in beeld. Dat zal niet iedereen iets zeggen. "We denken er nog over na hoe we dit beter inzichtelijk kunnen maken", zegt Keus. "Bijvoorbeeld door aan te geven wanneer het stroomverbruik gelijk staat aan het volledig opladen van je telefoon."

GreenPT geeft gebruikers in de eigen modellen tips om het energieverbruik te verminderen. Zo is het zuiniger om regelmatig een nieuw gesprek te beginnen dan steeds in één chat te blijven. Dat komt doordat steeds het volledige gesprek wordt meegestuurd bij een nieuwe vraag. Dus: hoe langer het gesprek, hoe hoger het energieverbruik, want de benodigde rekenkracht loopt op.

In plaats van credits in een abonnement wil GreenPT mogelijk gaan werken met energie. Op momenten dat het stroomnet minder wordt belast, zouden gebruikers dan meer uit het AI-model kunnen halen en andersom.

Maar er zijn andere manieren om de digitale voetafdruk te verkleinen. GreenPT haalt voordeel uit efficiënte modellen en ziet mogelijkheden om de vragen van gebruikers te verkleinen voordat ze verzonden worden. Hoe korter de vraag, hoe minder energie de AI verbruikt.

Op dit moment heeft GreenPT naar eigen zeggen zo'n tweeduizend klanten. Die komen vooral uit de culturele sector, zoals musea en poppodia. Ook ngo's zijn aangesloten. "Je ziet dat daar veel mensen zitten die dit belangrijk vinden", zegt Keus.

Daar stoppen de ambities van het kleine bedrijf uit Utrecht niet. "We willen de grootste duurzame AI-aanbieder ter wereld worden", zegt Keus. "Ik denk dat het mogelijk is. We staan pas aan het begin."