Kubernetes wordt het fundament voor AI bij Microsoft

Volgens Burns bevindt AI-infrastructuur zich momenteel in een overgangsfase. Waar het voorheen ging om "werkt het of is het kapot?", gaat het nu om de vraag: "is het antwoord goed of slecht?". Om dit op schaal beheersbaar te maken, zet Microsoft zwaar in op open-source standaarden en diepe integratie van GPU-rekenkracht in de cloud-native stack.

AI-infrastructuur als 'First-Class Citizen'

Een van de belangrijkste aankondigingen betreft het laten versmelten van AI-workloads met het standaard Kubernetes-beheer. Microsoft heeft gewerkt aan primitives die GPU's (de motoren achter AI) net zo makkelijk beheersbaar maken als gewone processors.

• Dynamic Resource Allocation (DRA): Dit systeem is nu algemeen beschikbaar (GA). Het stelt ontwikkelaars in staat om zeer specifiek hardware-middelen toe te wijzen aan taken zoals het trainen van modellen.
• AI Runway: Een nieuw open-source project dat een standaard API biedt voor inference (het uitvoeren van AI-modellen). Hiermee kunnen teams modellen uitrollen via een webinterface, inclusief real-time kosteninschattingen en GPU-geheugenindicatoren, zonder dat zij diepe kennis van Kubernetes nodig hebben.
• HuggingFace-integratie: AI Runway biedt ingebouwde ontdekking van modellen op HuggingFace, waardoor de drempel voor AI-implementatie aanzienlijk wordt verlaagd.

Azure Kubernetes Service (AKS): Netwerken en Veiligheid

Naast de bijdragen aan de open-source gemeenschap, krijgt het eigen platform van Microsoft, AKS, een flinke upgrade. De focus verschuift hier van ouderwetse IP-beveiliging naar identiteitsbewust netwerken.

Veiligheid zonder 'Sidecars'

Een grote vernijning is Azure Kubernetes Application Network. Dit geeft teams de beschikking over mutual TLS (versleutelde communicatie) en autorisatie op applicatieniveau, zonder de complexiteit en overhead van een volledige 'service mesh'. Dankzij de integratie van Cilium en WireGuard kunnen gegevens tussen nodes en pods nu razendsnel en veilig worden versleuteld.

Zichtbaarheid in de 'Blind Spot'

Voorheen was het lastig om de prestaties van GPU's te monitoren binnen de standaard Kubernetes-dashboards. In de nieuwe update wordt GPU-telemetrie direct getoond in Managed Prometheus en Grafana. Beheerders zien nu in één oogopslag hoe zwaar hun AI-modellen de hardware belasten.

Betrouwbare upgrades en herstel

Niets is zo stressvol voor een DevOps-team als een mislukte cluster-upgrade. Microsoft introduceert daarom Blue-green agent pool upgrades. "Dit stelt teams in staat om een parallelle omgeving met de nieuwe configuratie op te zetten," legt Burns uit. "Je valideert eerst het gedrag voordat je het verkeer omzet. Gaat er iets mis? Dan is er een direct pad terug (rollback)."

Andere opvallende aankondigingen:

• AKS Desktop: Nu algemeen beschikbaar. Ontwikkelaars kunnen de volledige AKS-ervaring lokaal op hun computer draaien, met exact dezelfde configuratie als in de productie-omgeving.
• Elastic SAN: Opslag kan nu worden geconsumeerd uit een gedeelde pool in plaats van per individuele schijf, wat de capaciteitsplanning voor data-intensieve apps vereenvoudigt.
• HolmesGPT: Dit project is toegetreden tot de CNCF Sandbox en brengt 'agentic' troubleshooting (AI-gebaseerde probleemoplossing) naar het cloud-native ecosysteem.

Met deze aankondigingen probeert Microsoft de fragmentatie in de markt tegen te gaan. Door AI-infrastructuur te standaardiseren binnen de bewezen kaders van Kubernetes, hoopt de techgigant dat bedrijven sneller en veiliger hun AI-ambities kunnen waarmaken.