AI-agents kunnen tot 136 keer meer energie verbruiken dan gewone chatbots

AI-systemen die zelfstandig plannen maken en hulpmiddelen gebruiken worden vaak gezien als de volgende stap in kunstmatige intelligentie. Maar volgens onderzoekers van het Korea Advanced Institute of Science and Technology (KAIST) komt die extra intelligentie mogelijk met een flinke energierekening.

Chatbots zoals ChatGPT beantwoorden meestal een vraag tegelijk. Nieuwe AI-agents gaan een stap verder. Ze kunnen bijvoorbeeld informatie opzoeken, berekeningen uitvoeren en meerdere stappen plannen om een taak zelfstandig af te ronden. Het team, onder leiding van professor Minsoo Rhu van de KAIST School of Electrical Engineering, wilde weten wat die extra mogelijkheden betekenen voor het energieverbruik van AI. De kosten daarvan zouden weleens veel hoger kunnen uitvallen dan bij traditionele AI-systemen. AI-agents worden steeds vaker ingezet voor taken zoals softwareontwikkeling, onderzoek en automatisering op de werkvloer. Toch was tot nu toe nauwelijks bekend hoeveel rekenkracht en elektriciteit deze systemen in de praktijk nodig hebben.

Schrijf je in voor de nieuwsbrief! Ook elke dag vers het laatste wetenschapsnieuws in je inbox? Of elke week? Schrijf je hier in voor de nieuwsbrief!

Meer dan een vraag beantwoorden

Waar een gewone chatbot vaak een antwoord genereert op basis van een enkele opdracht, werkt een AI-agent anders. Zo’n systeem kan tijdens het uitvoeren van een taak meerdere keren een taalmodel raadplegen, externe hulpmiddelen gebruiken en tussentijds beslissingen nemen over de volgende stap.

Volgens de onderzoekers zorgt die werkwijze voor een sterke toename van het aantal berekeningen dat moet worden uitgevoerd. In hun analyse deden AI-agents veel vaker een beroep op grote taalmodellen dan systemen die gebruikmaken van zogenoemde chain-of-thought-redenering, waarbij een model stap voor stap naar een antwoord toewerkt. Elke tussenstap, zoals een zoekopdracht of een tussentijdse beslissing, vereist namelijk een nieuwe, volledige aanroep van het taalmodel.

Duurzame intelligentie?

Die extra rekenstappen hebben gevolgen voor zowel de snelheid als het energieverbruik. Het team berekende dat de responstijd van een AI-agent in sommige gevallen tot 153,7 keer hoger kan liggen dan die van een traditioneel AI-systeem.

Opvallend genoeg blijken de krachtige grafische processors (GPU’s) waarop AI draait daarbij lang niet altijd actief. Terwijl een agent wacht op de resultaten van een zoekopdracht, berekening of andere externe tool, staan deze chips soms een groot deel van de tijd niets te doen. Die inactiviteit kan oplopen tot 54,5 procent van de totale uitvoeringstijd, rekenkracht die dus simpelweg onbenut blijft terwijl de rekening wel doorloopt.

Een forse energierekening

In de analyse werd ook gekeken hoeveel energie AI-agents op datacentrumniveau kunnen verbruiken. Een agent die gebruikmaakt van een groot taalmodel met 70 miljard parameters, een omvang vergelijkbaar met huidige commerciële AI-diensten, verbruikte gemiddeld 348,41 wattuur per opdracht. Dat is 136,5 keer meer dan een traditioneel AI-systeem dat een eenvoudige vraag beantwoordt.

Rhu benadrukt dat het onderzoek voor het eerst kwantitatief laat zien niet alleen hoe intelligent AI wordt, maar ook hoeveel stroom en kosten nodig zijn om die intelligentie draaiende te houden. Volgens hem is een geïntegreerde aanpak nodig, waarbij AI-modellen, chips en energie-infrastructuur samen worden ontworpen in plaats van los van elkaar.

Meer dan alleen slimmere AI

Om de mogelijke gevolgen op grote schaal te illustreren, rekende het team ook een toekomstscenario door met 13,7 miljard AI-agentverzoeken per dag, een volume vergelijkbaar met het huidige zoekverkeer van Google. In zo’n scenario zou de benodigde elektriciteit voor datacenters oplopen tot ongeveer 198,9 gigawatt. Dat is fors meer dan de schaal waarop AI-datacenters momenteel worden gebouwd (doorgaans een paar gigawatt) en komt neer op ongeveer de helft van het gemiddelde stroomverbruik van de Verenigde Staten.

De toekomst van kunstmatige intelligentie zal waarschijnlijk niet alleen draaien om slimmere modellen. Ook de vraag hoe efficiënt die intelligentie kan worden geleverd, zou weleens een steeds belangrijkere rol kunnen gaan spelen. Het team heeft de gebruikte agent-implementaties en benchmarks als open source vrijgegeven, zodat andere onderzoekers de resultaten kunnen narekenen en uitbreiden.

Een belangrijke kanttekening is dat het onderzoek gebaseerd is op analyses van specifieke AI-agenttaken en scenario’s. Het daadwerkelijke energieverbruik zal in de praktijk afhangen van factoren zoals het gebruikte model, de aard van de opdracht en de infrastructuur waarop een systeem draait.

Wil je niets van Scientias missen? Volg Scientias op Google Discover dan zie je al onze verhalen!

Uitgelezen? Luister ook eens naar de Scientias Podcast: