AI-coderingkosten stijgen sneller dan salarissen ontwikkelaars

Nitish Tyagi, Sr. Principal Analyst bij Gartner, benadrukt dat organisaties snel overgaan van experimenten naar opschaling van AI-agents voor codering, maar dat velen de financiële impact van stijgende tokenconsumptie onderschatten: “Token discipline zal niet vanzelf ontstaan door keuzes van ontwikkelaars, omdat zij vaak kiezen voor snelheid en gemak boven kostenefficiëntie. Zonder een gereguleerd technisch bedrijfsmodel kunnen de kosten sneller stijgen dan de productiviteitswinst die deze tools moeten opleveren.”

Consumptiegebaseerde prijszetting

De verschuiving van licenties per gebruiker naar consumptiegebaseerde prijszetting bij aanbieders van AI-agents voor codering introduceert sterk variabele koststructuren voor software-ontwikkelwerkzaamheden. Veel aanbieders bieden onvoldoende transparantie over de manier waarop tokenconsumptie wordt berekend en gefactureerd, wat de mogelijkheid van bedrijven beperkt om kosten nauwkeurig te voorspellen en te beheersen. Zonder duidelijk inzicht in het tokengebruik over verschillende ontwikkeltaaken lopen organisaties het risico op budgetoverschrijdingen en een verminderde mogelijkheid om de kosten-batenverhouding te meten.

Tyagi: “De meeste organisaties beschikken nog niet over de volwassenheid en kaders om de kosten effectief af te zetten tegen de bedrijfsimpact. Leiders in software-ontwikkeling maken zich steeds meer zorgen nu de tokengebaseerde AI-uitgaven moeilijker te rechtvaardigen zijn, waarbij budgetten vaak eerder opraken dan verwacht.”

Gebruikspatronen en governance-leemtes verergeren kostendruk

Naast prijs- en transparantie-uitdagingen dragen ook de wijze waarop AI-agents voor codering binnen organisaties worden gebruikt bij aan de kostendruk. Overmatig tokengebruik hangt vaak samen met de manier waarop leiders in software-ontwikkeling het gebruik regisseren. Veelvoorkomende problemen zijn ongeregelde autonomie in door agents aangestuurde workflows, overvol contextvensters en het ontbreken van gestructureerde feedbackmechanismen om het gebruik te optimaliseren. Bovendien hebben aanbieders van AI-coderingsgereedschappen nog geen volwassen, ingebouwde mogelijkheden voor kostenoptimalisatie in hun producten geïntegreerd.

Tyagi: “De kosten voor AI-codering zullen blijven stijgen naarmate investeringen in infrastructuur en winstgevendheidsuitdagingen de modelprijzen opdrijven. Tegelijkertijd zullen, naarmate meer ontwikkelaars AI-tools gaan gebruiken, lichte gebruikers naar verwachting snel mainstream gebruikers worden, wat de groei van tokenconsumptie en de totale uitgaven verder zal aanjagen.”

Wat kunnen managers doen?

Om de stijgende kosten te beheersen en budgetoverschrijdingen te voorkomen, adviseert Gartner leiders in software-ontwikkeling een gedisciplineerd bedrijfsmodel voor AI-gebruik te implementeren. Hiertoe behoren:

• Gebruiksgevallen als uitgangspunt voor beslissingen: Organisaties moeten duidelijk definieren wanneer AI-agents voor codering moeten worden ingezet en passende autonomieniveaus bepalen voor elke taak. Dit omvat het indelen van ontwikkeltaaken in drie uitvoeringsmodellen: door de ontwikkelaar geleid, door de ontwikkelaar met ondersteuning van een agent, en volledig door de agent geleid.
• Modelselectie afstemmen op taakcomplexiteit: AI-agents zijn het meest kosteneffectief wanneer werk wordt opgesplitst in kleinere taken die door kleinere modellen kunnen worden behandeld, met opschaling alleen wanneer de complexiteit dit vereist. Engineering- en platformteams moeten intelligente routeringsstrategieën implementeren die eenvoudige, veelvoorkomende taken naar kleinere modellen sturen, terwijl geavanceerde modellen worden gereserveerd voor complexe en hoogwaardige ontwikkelwerkzaamheden.
• Contextengineering verplicht stellen: Ontwikkelaars moeten worden opgeleid om de invoercontext voor AI-systemen te optimaliseren door alleen relevante informatie op te nemen, inhoud waar mogelijk samen te vatten en onnodige gegevens te elimineren om tokenconsumptie te verminderen zonder de kwaliteit van de output aan te tasten.
• Governance en kostenbeheersing implementeren: Organisaties moeten mechanismen introduceren zoals tokenlimieten, escalatiebeleid en geautomatiseerde monitoring om het gebruik te beheersen. Het inbedden van deze controles in engineering-workflows zorgt voor consistentie en voorkomt onbeheerste kostengroei.
• Tokengebruik reviews inbouwen in ontwikkelcycli: Leiders moeten regelmatige evaluaties van workflows met hoog tokengebruik verplicht stellen als onderdeel van sprintretrospectieven, om inefficiënties te identificeren, praktijken te verfijnen en kennisdeling tussen engineeringteams te bevorderen.

Meer informatie is voor klanten van Gartner beschikbaar in How to Optimize Token Consumption for AI Coding Agents. In de Gartner Software Engineering Score laat de marktonderzoeker zien hoe softwareontwikkelteams zich tot elkaar verhouden.