Meer AI-agents betekent méér vraag naar netwerkinfrastructuur

Als je hun technische blogpost aandachtig leest, zie je dat Managed Agents een gehoste dienst is die langdurige AI-agents (long-horizon agents) voor jou uitvoert via een kleine set interfaces. Deze zijn ontworpen om elke specifieke implementatie te overleven. Anthropic heeft de componenten van een agent (de sessie, de aansturing en de sandbox) gevirtualiseerd, zodat elk onderdeel onafhankelijk kan worden vervangen. Ze hebben dit ontworpen voor een toekomst waarvan ze expliciet toegeven dat ze die niet kunnen voorspellen. De uitdaging waar ze voor stonden was: "hoe ontwerp je een systeem voor programma's die nu nog onbedacht zijn."

Dit is geen vervanging voor infrastructuur. Het is juist een gigantische nieuwe bron van vraag dáárnaar.

AI-inference en Managed Agents vereisen gedistribueerde rekenkracht

Het technische team van Anthropic beschreef een fundamentele ontwerpbeslissing: het ontkoppelen van het 'brein' (Claude en de aansturing) van de 'handen' (sandboxes en tools die acties uitvoeren). Deze ontkoppeling maakt mogelijk wat zij noemen: "many brains, many hands" (vele breinen, vele handen). Één enkele agentsessie kan meerdere inference-aanvragen en meerdere executie-omgevingen tegelijkertijd opstarten. Deze draaien parallel, verspreid over verschillende locaties en resources.

Het cruciale inzicht hierbij is dat Anthropic vooraf geen aannames doet over het aantal of de locatie van de breinen of handen die Claude nodig zal hebben. Dat is geen loze architectonische opmerking. Het is een verklaring dat de infrastructuurlaag — de plek waar de inference plaatsvindt, waar sandboxes draaien en waar tools worden uitgevoerd — bewust open is gelaten. Anthropic heeft de orkestratie gebouwd, maar het onderliggende computenetwerk is exact wat bedrijven zoals Akamai leveren.

Dit sluit naadloos aan op de gedistribueerde inference-architectuur die wij begin dit jaar presenteerden op NVIDIA GTC in San Jose. Onze stelling was toen al dat operationele AI-inference — en dan met name agentic workflows die vragen om lage latentie, complexe redeneerstappen en realtime tool-aanroepen — een fundamenteel andere benadering vereist dan gecentraliseerde 'AI Factories'. En dat is exact wat Managed Agents nodig hebben om op enterprise-schaal te kunnen functioneren.

AI Factories zijn uitmuntend in het trainen van basismodellen en grootschalige, gelijktijdige GPU-workloads. Maar wanneer een Managed Agent vijf parallelle 'breinen' activeert die elk tools moeten aanroepen, code moeten uitvoeren en resultaten moeten terugsturen binnen de tijdslimieten van een realtime applicatie, dan heb je geografisch verspreide GPU's nodig. Deze moeten verbonden zijn door een netwerk met een extreem hoge doorvoersnelheid en uitgerust zijn met beveiliging op elke laag.

Dat is de Akamai Inference Cloud. Ons continuüm van computerresources is speciaal voor dit soort workloads gebouwd: van gecentraliseerde GPU-clusters voor training en fine-tuning, tot gedistribueerde NVIDIA RTX PRO™ 6000 Blackwell Server Edition GPU's voor productie-inference, en edge-knooppunten (Points of Presence) voor routering, caching en beveiliging.

Je kunt de lichtsnelheid simpelweg niet inhalen. Een gebruiker in Londen die verbinding maakt met een inference-endpoint in Virginia, heeft al te maken met ongeveer 28 milliseconden vertraging (propagation delay) heen en terug, nog vóórdat er één enkele token is gegenereerd. Vermenigvuldig dat met de opeenvolgende inference-aanroepen in een agent-workflow, en gecentraliseerde inference wordt onbruikbaar voor realtime applicaties.

"Dit is geen vervanging voor infrastructuur. Het is juist een gigantische nieuwe bron van vraag dáárnaar."

Beveiliging is geen optie: het is het grootste onopgeloste probleem

Het engineeringteam van Anthropic was opmerkelijk openhartig over de beveiligingsuitdagingen van Managed Agents. In hun eerdere, gekoppelde ontwerp draaide onbetrouwbare code die door Claude was gegenereerd in dezelfde container als de inloggegevens. Een prompt injection-aanval hoefde Claude er toen alleen maar van te overtuigen om zijn eigen omgevingsvariabelen te lezen. Zodra een aanvaller die tokens had, kon hij nieuwe, onbeperkte sessies starten en taken delegeren aan Managed Agents.

De structurele oplossing van het team was om de inloggegevens te scheiden van de sandbox. Tegelijkertijd erkenden ze de fundamentele spagaat: het beperken van de bevoegdheden (narrow scoping) is een logische stap, maar daarmee doe je een aanname over wat Claude niet kan met een beperkt token. En Claude wordt simpelweg steeds slimmer.

Dit is waar het beveiligingsportfolio van Akamai niet alleen relevant, maar essentieel wordt. Wanneer bedrijven Managed Agents in productie nemen, vergroten deze agents de aanvalsoppervlakte drastisch. Ze voeren immers autonoom complexe taken uit, roepen externe API's aan, genereren en draaien code, en communiceren met bedrijfssystemen. Prompt injection, de generatie van schadelijke code, diefstal van inloggegevens, laterale bewegingen binnen netwerken en datadiefstal (data exfiltration) worden reële operationele risico's op een schaal die de "nog onbedachte programma's" met zich mee zullen dragen.

Akamai Firewall for AI beschermt endpoints van grote taalmodellen (LLM's) tegen prompt injection en misbruik van het model. Onze API Security ontdekt, brengt in kaart en monitort de API-aanroepen die agents doen naar externe tools en diensten. Onze web applicatie firewall (WAF) inspecteert het verkeer tussen agents en de applicaties waarmee ze communiceren. Akamai Guardicore Segmentation beperkt wat een agent (of een gecompromitteerde agent) kan bereiken binnen een bedrijfsnetwerk. En onze Bot Manager onderscheidt legitiem agent-verkeer van kwaadaardige automatisering die agent-gedrag imiteert.

Het is onwaarschijnlijk dat een modelleverancier, inclusief Anthropic, al deze capaciteiten zelf gaat bouwen; zij richten zich op de orkestratielaag. De runtime-beveiliging, de netwerkbeveiliging en de handhaving op infrastructuurniveau zijn juist de zaken die bedrijven als Akamai leveren. Dit is exact wat enterprises zullen eisen voordat ze autonome agents loslaten op productiesystemen die klantgegevens, financiële transacties en kritieke bedrijfsprocessen verwerken.

Dit drijft groei, het vervangt ons niet

De eerste reactie van de markt deed voorkomen alsof Anthropic met Managed Agents een vervanger had aangekondigd voor CDN-, cloud- en beveiligingsinfrastructuur. Wij geloven dat het omgekeerde waar is.

Elke Managed Agent-sessie die in productie draait, vereist inference-rekenkracht (vraag naar Akamai Inference Cloud), netwerkconnectiviteit en routering (vraag naar Akamai's edge-platform en backbone), beveiliging op applicatie-, API- en netwerkniveau (vraag naar Akamai's security-portfolio) en orkestratie over gedistribueerde locaties (vraag naar het continuüm van compute dat wij bouwen).

Een betere analogie is de opkomst van cloud computing. AWS elimineerde destijds de behoefte aan CDN's, security en edge computing niet. Het zorgde juist voor exponentieel meer applicaties, meer verkeer en een grotere aanvalsoppervlakte. Dit stuwde de vraag naar de diensten van Akamai enorm op. We verwachten dat Managed Agents ditzelfde patroon zullen volgen. Meer agents betekenen meer inference-aanroepen, meer API-interacties, grotere behoefte aan gedistribueerde rekenkracht en meer blootstelling aan securityrisico's. Wij zijn vastbesloten om de infrastructuur te zijn die dit mogelijk maakt.

De kern van de zaak

In het tijdsbestek van één week lieten twee aankondigingen van hetzelfde bedrijf (Project Glasswing en Claude Managed Agents) beide kanten van de AI-beveiligings- en infrastructuurvergelijking zien. Glasswing maakt het ontdekken van kwetsbaarheden sneller, wat de noodzaak vergroot voor runtime-beveiliging in de periode tussen de ontdekking en de uiteindelijke patch. Managed Agents maken autonome AI-workflows op schaal mogelijk, wat de noodzaak vergroot voor gedistribueerde inference-infrastructuur en beveiliging op elke laag van de stack.

Beide aankondigingen versterken de marktpositie van wat Akamai bouwt. Ons netwerk, onze data, ons beveiligingsportfolio en ons gedistribueerde computingplatform worden niet bedreigd door deze ontwikkelingen; ze zijn er juist voor nodig. Elke nieuwe kwetsbaarheid die wordt ontdekt, moet in de praktijk worden beschermd totdat er een patch is uitgerold. Elke nieuwe agent die in productie wordt genomen, heeft inference-rekenkracht, een netwerkinfrastructuur en security-controles nodig die de modelleverancier niet biedt — maar Akamai wel.

Akamai's edge-netwerk, runtime-beveiliging en gedistribueerde inference-infrastructuur zijn ontworpen om de brug te vormen tussen wat AI mogelijk maakt en wat bedrijven nodig hebben om AI veilig en op schaal in te zetten. Die brug is nog nooit zo cruciaal geweest als vandaag.

Door: Robert Blumofe, Executive Vice President & Chief Technology Officer bij Akamai.