Vertrouwen is de meest waardevolle capaciteit van infrastructuur aan het worden
Een bank implementeert een AI-model voor fraudedetectie dat bij lancering precies functioneert zoals verwacht. Acht maanden later signaleert het model twee keer zoveel vals positieven; niemand kan precies zeggen wanneer de afwijking is begonnen. Niemand heeft iets verkeerds gedaan. Het model bleef leren, zoals het was ontworpen. De infrastructuur bleef draaien, zoals het was ontworpen. Toch is het vertrouwen van de organisatie in haar eigen systemen stilletjes uitgehold, zonder een duidelijke verklaring.
Dat is de aard van het probleem waarmee bedrijven nu worden geconfronteerd. Jarenlang heeft de infrastructuur vertrouwen opgebouwd door zich op de achtergrond te houden: systemen bleven beschikbaar, data bleven beschermd en upgrades vonden plaats volgens voorspelbare schema’s. Vertrouwen volgde vanzelf omdat de onderliggende technologie relatief stabiel was.
Dit gaat niet langer op. AI-modellen worden voortdurend opnieuw getraind, data volumes groeien sneller dan inkoopcycli en regelgeving, dreigingen en zakelijke prioriteiten verschuiven steeds sneller. De verantwoordelijken voor infrastructuur zijn daardoor overgestapt van de vraag ‘Werkt dit?’ naar ‘Kunnen we dit veranderen zonder het risico voor het bedrijf te vergroten?’. De bedrijven die deze vraag consequent met ‘ja’ beantwoorden, zijn de organisaties die architecturen gebruiken die zijn gebouwd om volatiliteit op te vangen voordat deze het bedrijf treft.
Het complexiteitsprobleem
Vroeger werd risico gemeten aan de hand van verstoringen, hardwareproblemen en inbreuken. Die factoren zijn niet verdwenen, maar er is iets bijgekomen dat moeilijker te voorzien is: operationele complexiteit.
Elk nieuw platform, clouddienst, model of databron voegt weer een nieuwe laag van onderlinge afhankelijkheid toe. Een nieuwe data pipeline die een aanbevelings-engine voedt, kan in contact komen met een klantendatabase, een third-party API, een compliance check en een monitoringtool die niet is gebouwd met het oog op AI-workloads. Geen van deze verbindingen zijn op zichzelf een probleem, maar samen maken ze het moeilijk om te voorspellen hoe een verandering in één onderdeel van de stack doorwerkt in de rest.
AI versterkt dit effect omdat het niet alleen een extra laag toevoegt, maar na implementatie ook zijn eigen gedrag verandert. Een traditionele applicatie doet na een jaar ongeveer hetzelfde als in de eerste maand. Een AI-taak doet dat niet. Het maakt op een andere manier gebruik van de infrastructuur naarmate datapatronen verschuiven en vereist soms nieuwe compliance checks die bij lancering nog niet bestonden.
Wanneer de complexiteit het vermogen van een organisatie overstijgt om deze te doorgronden, vertragen besluitvormingsprocessen omdat niemand met zekerheid kan zeggen welke gevolgen een bepaalde verandering daadwerkelijk zal hebben.
(Gemeenschappelijke) zichtbaarheid is het antwoord
Vrijwel alle grote bedrijven zwemmen in data. Ze beschikken over dashboards, monitoring tools en securityplatforms die meer telemetrie genereren dan één team kan verwerken. Het probleem is dat het infrastructuur team, het security team en het data science team vaak naar verschillende versies van dezelfde omgeving kijken. Versies die allemaal correct zijn, maar ook allemaal onvolledig.
Neem bijvoorbeeld het veelvoorkomende scenario van een plotselinge piek in cloud-uitgaven. Het infrastructuur team ziet toegenomen gebruik in rekenkracht en gaat uit van een schaalbaarheidsprobleem. Het data science team ziet een nieuw model in training en gaat ervan uit dat dit de bedoeling is. Het security team ziet geen van beide, omdat kosten niet in hun dashboard staan. Drie teams, drie verschillende observaties en niemand die het volledige beeld heeft totdat iemand ze handmatig bij elkaar brengt, meestal pas nadat de uitgaven al zijn gedaan.
Voortdurende operationele zichtbaarheid lost een ander probleem op dan monitoring. Het gaat niet om meer data; het gaat om één gemeenschappelijk, realtime overzicht dat laat zien hoe infrastructuur, applicaties, governance en AI-workloads als één systeem met elkaar interacteren. Met dat overzicht kan dezelfde piek binnen minuten in plaats van dagen worden gediagnosticeerd. Nog belangrijker, de volgende piek kan worden opgemerkt voordat dit gelijk leidt tot extra uitgaven.
Dit maakt zichtbaarheid tot een voorwaarde voor alles wat daarna volgt. Compliance kan niet ingrijpen op iets wat het niet ziet en modernisering is lastig als er geen duidelijk beeld is.
Governance moet veranderen van een checkpoint in continu toezicht
Traditionele governance werkt als een soort toegangssluis: er wordt een project ontwikkeld, vervolgens wordt het door het compliance team beoordeeld en daarna wordt het opgeleverd. Dat model gaat er echter van uit dat wat er ook is ontwikkeld, na approval onveranderd blijft. AI-taken staan echter niet stil. Een model dat is goedgekeurd op basis van een bepaalde dataset kan afdwalen naar gebieden die bij het oorspronkelijke approval-proces nooit aan bod zijn gekomen. Niemand komt hierachter totdat er een audit plaatsvindt of, nog erger, een incident.
Neem bijvoorbeeld een AI-tool voor de zorg die is goedgekeurd voor gebruik voor een specifieke patiëntengroep. Als het ziekenhuis het gebruik later uitbreidt naar een andere groep zonder dat het bijbehorende beleid wordt herzien, werkt het model nu buiten de voorwaarden waarvoor het was goedgekeurd. In een systeem met alleen checkpoints zou dat niet per se worden opgemerkt totdat er iets misgaat.
De oplossing is toezicht dat is ingebed in de dagelijkse bedrijfsvoering in plaats van in geplande beoordelingscycli. Dit betekent beleid dat met de taak mee beweegt, ongeacht waar deze draait of hoe deze opnieuw is getraind, in plaats van beleid dat alleen opnieuw wordt gecontroleerd wanneer iemand hierom vraagt. Als dit goed wordt uitgevoerd, kunnen teams sneller werken, omdat de vangrails al aanwezig zijn in plaats van achteraf te worden opgebouwd.
Modernisering hoeft niet gepaard te gaan met verstoringen
De aanname bij de meeste infrastructuurplanningen is dat ingrijpende verandering een migratieproject vereist: langere onderhoudsperiodes, het stopzetten van andere werkzaamheden en de acceptatie dat het eerst slechter zal gaan voordat het beter wordt.
Die afweging was logisch toen de technologie nog langzaam genoeg veranderde om af en toe een verstorende herziening op te kunnen vangen, maar gaat niet meer op wanneer de onderliggende systemen vanzelf al aan het veranderen zijn.
Met realtime zicht en continu beheer hoeft modernisering niet langer een volledige stilstand te betekenen. Nieuwe capaciteit, nieuwe tools of een nieuwe modelversie kunnen stapsgewijs worden geïntroduceerd en geïntegreerd, getoetst aan live operationele data en snel teruggedraaid als er iets mis lijkt te gaan, in plaats van een eenmalige gok met een hoge inzet die één keer per jaar wordt genomen. Het doel verschuift van ‘moderniseren zonder dingen kapot te maken’ naar moderniseren als een regulier onderdeel van de manier waarop het systeem al functioneert.
Operationele intelligentie maakt de cirkel rond
Zichtbaarheid laat zien wat er gebeurt. Governance geeft aan of het is toegestaan. Met stapsgewijze modernisering kun je op beide aspecten inspelen zonder verstoring. De laatste stap is ervoor zorgen dat alles draait met minder handmatige inspanning.
Beslissingen volledig overlaten aan autonome systemen is niet gewenst. Bij operationele intelligentie gaat het er in feite om dat de infrastructuur zijn eigen omgeving interpreteert. Het signaleert afwijkingen in het fraudemodel voordat het aantal vals positieven piekt, brengt onverklaarbare cloudkosten aan het licht, spoort gaten in governance op voordat de audit dit doet en biedt vervolgens context aan medewerkers om er snel op te reageren in plaats van het achteraf te ontdekken.
De organisaties die voorop lopen, zijn de organisaties waarvan de infrastructuur begrijpelijk en beheersbaar blijft terwijl deze voortdurend verandert. Hierbij hangt vertrouwen niet af van het feit dat dingen niet veranderen.
Door: Marco Bal, Consulting Systems Engineer bij Everpure