Request usage versus token usage, welke verschillen zijn er? Als je al een tijdje met kunstmatige intelligentie (AI) werkt, heb je het vast al gemerkt: steeds meer diensten zijn afgestapt van request usage en steeds meer diensten gebruiken nu token usage. Voor de output van AI maakt het niet zoveel uit, maar je ziet deze veranderingen wel terug op je afrekening. Waar je vroeger heel wat prompts naar AI kon sturen, moet je nu opeens betalen per gebruikte token. Dat kan behoorlijk in de papieren lopen, dus is het goed om eens in deze materie te duiken.
Verschil in kostenberekening
Zelf vibecoden we er ook vrolijk op los, maar we zien wel dat de facturen van AI-diensten steeds hoger worden. Toen kunstmatige intelligentie nog in opkomst was, konden we vrij veel prompts indienen bij de agent en zelfs gratis kregen we veel voor elkaar. Maar tegenwoordig heb je steeds duurdere pakketten nodig en de aanbieders zijn flink gaan snijden in wat je voor de goedkopere pakketten precies krijgt. Bij token usage gaat het om hoeveel tekst een model moet lezen, begrijpen en terugschrijven. Bij request usage gaat het over hoe vaak iemand een vraag of opdracht naar het model stuurt. Request usage was tijden populair, maar steeds meer diensten stappen er van af. Je gaat daardoor betalen per verbruikte token. Deze beslissing zat er al tijden aan te komen, want AI was van begin af aan heftig gesubsidieerd. Nu de bedrijven zo langzamerhand hun investeringen terug willen verdienen, kiezen ze voor duurdere prijsmodellen.
Gebruik van request usage
Aanvankelijk maakten vrijwel alle bedrijven die AI-diensten aanboden gebruik van request usage. De aanbieder kijkt dan niet naar de hoeveelheid tekst, maar naar het aantal keren dat een AI-model wordt aangeroepen. Iedere keer dat een gebruiker, website of app een opdracht stuurt naar het model, telt dat als één request. Dat kan een heel simpele vraag zijn als: “Wie is de koning van Nederland”, maar ook ingewikkelde opdrachten met duizenden regels aan code. De grootte van het verzoek maakte minder uit. Als je drie losse vragen stelt, geldt dat als drie requests. Als je alle vragen in één bericht samenvat, is dat maar één request.
Veel moderne apps sturen wel extra requests, zonder dat je dat merkt. Denk bijvoorbeeld aan een programma dat na het schrijven ook nog de spelling voor je controleert, een samenvatting maakt of een alternatieve tekst schrijft. Zelfs als je maar één taak uitvoert, kan request usage vrij snel oplopen. Vandaar dat AI-aanbieders meestal zo’n 150 requests per 5 uur aanboden bij het goedkoopste betaalde abonnement.
Waarom modellen eerst met request usage werkten
AI werd aanvankelijk behoorlijk gesubsidieerd en de opdrachten waren nodig voor het bijschaven van de prestaties van de AI-modellen. Veel AI-platforms stelden grenzen aan hoeveel requests per tijdsbestek een gebruiker mag doen. Dit noemen we rate limiting. Op die manier voorkomen aanbieders dat één gebruiker alle capaciteit opslokt. Denk bijvoorbeeld aan een webshop die AI gebruikt om producttitels te verbeteren. Als elke producttitel afzonderlijk een verzoek genereert, raakt de AI-dienst overbelast en kost dat veel computerkracht. Daarom stappen steeds meer AI-diensten van dit model af.
Gebruik van token usage
Steeds meer bedrijven bieden nu pay-as-you-go-diensten aan. Je betaalt niet meer per request, maar per verbruikte token. Een token is een klein stukje tekst dat een AI-model gebruikt om de opdracht te verwerken. Een token kan een kort woord zijn, maar een langer of ingewikkelder woord kan ook meerdere tokens zijn. Ook leestekens, cijfers en spaties tellen mee als tokens. Als je een vraag stelt aan AI, wordt je tekst eerst opgesplitst in tokens. Daarna verwerkt het model die tokens en genereert het een antwoord. Bij het berekenen van tokengebruik telt niet alleen je vraag mee, maar ook eerdere context uit het gesprek. Ook het genereren van antwoord kost tokens. Wil je een artikel genereren over Parijs, dan kun je vragen: “Schrijf een tekst van 400 woorden over Parijs.” Een korte vraag met een lang antwoord. Daarna kunnen er al snel honderden tokens worden verbruikt. En voor ieder verbruikt token moet je uiteindelijk betalen.
Steeds meer aanbieders bieden token usage aan
Token usage kan al snel in de papieren lopen. Gebruik je een aanbieder zoals OpenRouter of OpenCode, dan betaal je over het algemeen per token. Je kunt dan bijvoorbeeld 15 euro ‘opwaarderen’. Dit kun je vergelijken met beltegoed. Je betaalt van tevoren een bedrag dat de AI-modellen mogen opgebruiken. Je betaalt dan per token en daardoor kan het bedrag al snel als sneeuw voor de zon verdwijnen.
Veel AI-diensten baseren hun prijzen op het aantal gebruikte tokens. Hoe meer tekst er wordt verwerkt, hoe meer rekenkracht daarvoor nodig is. De kosten lopen dan op. Een korte vraag met een kort antwoord is goedkoper dan een enorm document laten analyseren. Een model moet alle tokens verwerken voordat het antwoord compleet is, dus duurt het even voordat je het antwoord ziet. Verder hebben modellen ook een maximum aantal tokens dat in het geheugen kan worden geplaatst. Dit noemen we context window. Wordt het gesprek te lang en valt het geheugen buiten de context window, dan wordt oudere informatie vergeten. Daarom is het verstandig om prompts kort te houden en regelmatig een nieuw context window te beginnen. Dat leidt ook tot lagere kosten en snellere prestaties.
Tips om minder tokens te verbruiken
Wil je minder betalen, dan moet je minder tokens verbruiken. Dat kan door kortere en duidelijkere prompts te schrijven. Bijvoorbeeld: “Vat deze tekst samen in 5 zinnen.” Je kunt ook eisen stellen aan het antwoord, zoals: “Houd het antwoord onder de 100 woorden.”
Een van de beste manieren om hallucinaties en hoge rekeningen te voorkomen, is door niet te veel context te gebruiken. Is de oude informatie niet meer relevant, begin dan een nieuw gesprek. En probeer herhalingen te vermijden. Gebruik een samenvatting in plaats van steeds de volledige tekst opnieuw te plakken.
