Cloudflare lanceert Auto Router om AI-kosten flink te verlagen

Volgens Cloudflare loopt het AI-gebruik binnen veel bedrijven op vergelijkbare wijze. Na een eerste experimentele fase proberen organisaties het budget te beheren, maar eindgebruikers blijven in de praktijk vaak handmatig kiezen voor de sterkste en duurste modellen – zelfs voor simpele taken zoals het samenvatten van een e-mail. AI Gateway fungeert als een centraal controlepunt voor al het interne AI-verkeer. Met de invoering van de Auto Router maakt de gateway zelf de afweging op basis van de benodigde capaciteit, zonder dat de gebruiker hier hinder van ondervindt.

Onder de motorkap gebruikt Cloudflare een geavanceerd classificatiemodel dat draait op GPUs binnen het eigen edge-netwerk. Bij elke aanvraag via de instelling cloudflare/auto filtert de router eerst welke modellen beschikbaar en geschikt zijn. Vervolgens analyseert een multi-head classificatiemodel de meest recente berichten in de conversatie. Het kent waarschijnlijkheden toe aan 14 taakcategorieën – zoals coderen, planning of data-analyse – en beoordeelt de aanvraag op vier dimensies: complexiteit, dubbelzinnigheid, het zakelijk belang en de afhankelijkheid van eerdere context.

Een aparte scoringsmatrix combineert deze signalen vervolgens met de prestaties van benchmarktests en de actuele tokenprijzen per model. Voor eenvoudige opdrachten weegt de prijs zwaarder en krijgt een kleiner model de voorkeur. Zodra de complexiteit stijgt, krijgt een geavanceerder model de voorkeur. Ook houdt de Auto Router rekening met de kosten van 'cache-reads' en 'cache-writes' bij langdurige sessies, om te voorkomen dat het wisselen van model juist duurder uitvalt door het opnieuw moeten opbouwen van de context.

Tests

Uit interne tests van Cloudflare blijkt dat de Auto Router bij zakelijke kennistaken prestaties levert die vergelijkbaar zijn met topmodellen, maar tegen aanzienlijk lagere kosten. In vergelijking met OpenAI GPT-6 Sol kwamen de kosten uit op 80 procent, terwijl er ten opzichte van Anthropic Claude Opus 5.5 tot wel 65 procent werd bespaard.

De Auto Router is tijdens de publieke bètafase gratis te gebruiken via Cloudflare AI Gateway. Cloudflare is van plan het platform in de toekomst verder uit te breiden met onder meer een auto-best-optie voor maximale kwaliteit ongeacht de prijs, capaciteitssturing per provider en automatische selectie van het juiste redeneerniveau.