Het einde van de onbekende veiligheidslekken

Er zijn momenten waarop ontwikkelingen samenkomen en je beseft dat de wereld fundamenteel verandert. Niet door één gebeurtenis, maar omdat zekerheden die jarenlang onaantastbaar leken tegelijk afbrokkelen. We zagen het bij energie (afhankelijkheid van Russisch gas), bij producten (China), bij defensie (Amerikaanse bescherming) en bij onze digitale infrastructuur, waar de commerciële cloud van Big Tech steeds meer vragen oproept over soevereiniteit, afhankelijkheid en veiligheid.

Nu komt daar de AI-agent bij. Precies die innovatie – grotendeels ontwikkeld door dezelfde Big Tech-bedrijven die onze digitale wereld domineren – kan de fundamenten onder hun eigen succesmodel aantasten. Een paradox die we serieus moeten nemen.

Het succes dat zijn eigen kwetsbaarheid creëert

Vanaf ongeveer 2005 bouwden Amazon, Microsoft, Google en anderen een wereldwijd netwerk van clouddiensten. Losse computers en datacenters groeiden uit tot een uiterst efficiënt platform met schaalvoordelen, professionele beveiliging en wereldwijde beschikbaarheid. Organisaties hoefden niet langer alles zelf te bouwen.

Dat succes had een keerzijde. Hoe meer diensten naar de cloud gingen, hoe afhankelijker organisaties werden van die infrastructuur, techniek en contracten van hun leveranciers. Applicaties, gegevens, identiteiten en processen raakten verweven met één ecosysteem. Overstappen werd steeds moeilijker. Efficiëntie veranderde in vendor-lock-in.

We accepteerden dat. De voordelen waren groot en de risico’s leken beheersbaar. Maar daarmee concentreerden we ons niet alleen op techniek, maar ook afhankelijkheid. In mijn eerdere blog “De cloud kan worden gebombardeerd” beschreef ik al de kwetsbaarheid wanneer digitale voorzieningen samenkomen in een beperkt aantal fysieke knooppunten. Nu dient zich een nieuwe test aan.

De innovatie die de cloud tegen zichzelf keert

De grote technologiebedrijven ontwikkelen AI om hun diensten slimmer te maken. AI-agents kunnen zelfstandig taken uitvoeren, software analyseren en processen automatiseren. Diezelfde mogelijkheden kunnen echter worden ingezet tégen de infrastructuur waarop onze samenleving leunt. Duizenden intelligente agents voor die tegelijkertijd systemen onderzoeken op verouderde software, vergeten interfaces, configuratiefouten en kwetsbaarheden die jarenlang onopgemerkt bleven. Ze combineren bevindingen en schalen hun zoekwerk massaal op. ‘Unknown unknowns’ worden opeens bekend, waardoor de impliciete beveiliging van ‘het niet weten’ opeens verdwijnt: duizenden zwakheden worden blootgelegd.

Niet iedere agent vindt een zwakheid. Wel verandert de verhouding tussen de kosten van zoeken en de hoeveelheid systemen die onderzocht kunnen worden. Het ontdekken van onbekende kwetsbaarheden vereiste vroeger specialistische kennis, veel tijd en soms geluk. Dat gebrek was een onbedoeld veiligheidsnet. Nu wordt stom toeval slim en gericht toeval. Wat daarmee opeens verdwijnt, is de onterechte geruststelling dat onbekende kwetsbaarheden (nog) geen gevaar opleveren. Nu ontstaat de paradox: de cloudbedrijven hebben zelf de AI-revolutie aangejaagd die het steeds moeilijker maakt te vertrouwen op de onontdektheid van fouten in hun eigen systemen. Met AI schieten ze (ook) in hun eigen voet . . .  

Eén kasteel, duizenden aanvallers

Een commerciële cloud is geen eenvoudig kasteel. Grote aanbieders beschikken over omvangrijke beveiligingsteams, redundante infrastructuur en geavanceerde detectie. Ze kunnen aanvallen opvangen die kleinere organisaties nauwelijks overleven. Maar schaal heeft een keerzijde. Wanneer enorme hoeveelheden diensten afhankelijk zijn van dezelfde identiteitsvoorzieningen, softwarecomponenten of fysieke locaties, kan één kwetsbaarheid buitenproportionele gevolgen hebben.

De verdediging moet het geheel beschermen. Aanvallers hoeven niet ieder onderdeel te verslaan. Soms is één bruikbare opening voldoende. Fysieke concentratie, softwarematige afhankelijkheid en organisatorische centralisatie versterken elkaar. Het is alsof één kasteel wordt aangevallen door duizenden drones. Elke drone onderzoekt een andere muur, poort of vergeten opening. De verdediger heeft een indrukwekkende krijgsmacht, maar moet tegelijkertijd alle kritieke onderdelen beschermen.

Dat is de nieuwe asymmetrie. De centrale cloud hoeft niet morgen om te vallen. Maar haar vanzelfsprekende veiligheid kan niet langer worden aangenomen. De combinatie van schaal, afhankelijkheid en krachtiger geautomatiseerd onderzoek maakt weerbaarheid tot een vraagstuk dat verder gaat dan de volgende beveiligingspatch. 

Europa ontdekt dat afhankelijkheid ook onveiligheid betekent

Een jaar geleden zat ik met AWS aan een rondetafel over Europese digitale soevereiniteit. Mijn stelling was dat nu de Europese soevereiniteitsgedachte eenmaal was losgekomen, deze niet meer te stoppen was. De Europese behoefte om minder afhankelijk te zijn van enkele buitenlandse leveranciers zou niet verdwijnen door lokale vestigingen of hubs zoals AWS overwoog, te bouwen. Het ging om de moeder, niet waar zij eventuele kinderen zouden huisvesten.

Digitale soevereiniteit gaat over meer dan waar gegevens staan. Het gaat over wie de regels bepaalt, wie toegang heeft, wie diensten kan uitschakelen en hoe gemakkelijk een organisatie kan overstappen. De AI-ontwikkeling geeft die discussie een extra dimensie.

Afhankelijkheid is niet langer alleen een economisch of geopolitiek risico. Ze wordt ook een digitaal veiligheidsvraagstuk. Een organisatie kan haar infrastructuur uitstekend laten beheren door een grote cloudleverancier en toch afhankelijk blijven van een beperkt aantal kritieke voorzieningen. Een leverancier kan zijn beveiliging verbeteren, maar niet garanderen dat alle onbekende kwetsbaarheden verdwenen zijn.

Dat is geen verwijt aan Big Tech, maar een structurele beperking van ieder complex systeem. Europa kan niet langer volstaan met de vraag welke leverancier de beste diensten aanbiedt. We moeten ook vragen hoeveel afhankelijkheid we accepteren en hoe we blijven functioneren wanneer een centrale voorziening uitvalt of wordt aangevallen.

Het bestuur dat de verkeerde vragen stelde

Waarom lieten we die afhankelijkheid zo ver oplopen? Omdat het model werkte. Omdat de cloud goedkoper, sneller en gemakkelijker was. Omdat bestuurders resultaten moesten leveren en uitbesteden aan een bekende leverancier een verdedigbare beslissing leek. Wie koos voor Microsoft, IBM, AWS of Google kon wijzen op schaal, expertise en reputatie. Een veilige keuze, zeker als – zoals de overheid – bestuurders van huis uit al riscomijdend zijn.

Zo ontstond een bestuurlijke reflex: kies de gevestigde leverancier en minimaliseer het directe risico. Maar bestuurlijk verdedigbaar is niet hetzelfde als de samenleving op lange termijn weerbaar maken. We beloonden efficiëntie en wogen de kosten van afhankelijkheid onvoldoende mee. Individuele organisaties optimaliseerden, terwijl de gezamenlijke infrastructuur steeds sterker concentreerde.

Nu komen meerdere afhankelijkheden tegelijk onder druk: energie, grondstoffen, defensie en digitale infrastructuur. We kunnen bestuurders niet verwijten dat ze de toekomst niet exact voorspelden. Wel mogen we constateren dat waarschuwingen over concentratie en systeemrisico’s te gemakkelijk ondergeschikt raakten aan de voordelen van het bestaande model. De verrassing zit niet in het bestaan van risico’s, maar in onze verbazing wanneer ze zich gelijktijdig manifesteren.

Van centrale efficiëntie naar gedistribueerde weerbaarheid

Wat is het alternatief? Niet de cloud afschaffen. Niet doen alsof iedere organisatie haar eigen infrastructuur veiliger kan beheren. En zeker niet veronderstellen dat decentralisatie automatisch veiligheid oplevert. De oplossing ligt in het opnieuw ontwerpen van onze afhankelijkheden.

We moeten systemen bouwen die niet volledig afhankelijk zijn van één leverancier, van één identiteitssysteem of van één fysieke locatie. Gegevens en applicaties moeten overdraagbaar zijn, alternatieve voorzieningen daadwerkelijk bruikbaar en kritieke functies zo ontworpen, dat ze bij uitval kunnen blijven functioneren. Een beetje terug naar vroeger dus.

Dat was en is nog steeds de belofte van een meer gedistribueerde digitale architectuur: niet dat ieder onderdeel onkwetsbaar wordt, maar dat het falen van één onderdeel niet automatisch het falen van het geheel betekent. Web3 is daarvoor een mogelijke inspiratiebron, geen kant-en-klare oplossing. Nieuwe decentralisatie moet ook gepaard gaan met goede beveiliging, onafhankelijke componenten en duidelijke verantwoordelijkheden.

Daarnaast hebben we net als een vliegtuig een flight-recorder nodig, een digitale black box. Om te kunnen reconstrueren wat AI-agents doen, hoe aanvallen verlopen, waar fouten worden gemaakt en systemen tekortschieten. Zoals de luchtvaart leert van incidenten, moet ook onze digitale infrastructuur systematisch leren van iedere aanval. Dat is de overgang van security by obscurity naar security by evidence. De zwarte doos kan immers ook aantonen dat iets wél goed functioneerde en – dus – het systeem op dat moment voldeed aan alle compliancy die vereist was. 

Het einde van de vanzelfsprekendheid

Big Tech heeft geen mislukt systeem gebouwd. Het heeft een buitengewoon succesvol systeem gebouwd dat ons afhankelijk maakte van de voorwaarden waaronder dat succes mogelijk was. AI maakt onze wereld weer slimmer, maar ook beter doorzoekbaar voor aanvallers. De cloud maakte onze wereld efficiënter, maar concentreerde afhankelijkheden. En economische optimalisatie is niet hetzelfde als strategische zelfstandigheid, zoals we nu opeens ontdekken.

De toekomst vraagt niet om minder technologie, maar om (weer) op een andere manier te denken over technologie. Niet meer de vanzelfsprekendheid dat de grootste leverancier automatisch de veiligste keuze is. Weg met het idee dat centralisatie alleen efficiëntie oplevert. En – last but not least –  weg met de gedachte dat onbekende kwetsbaarheden ons niet raken zolang niemand ze kent. De AI-zwermen rammelen inmiddels aan de poorten van onze digitale kastelen. Dat is een serieus veiligheidsprobleem, maar ook een kans om onze architectuur opnieuw te doordenken.

Voor wie al langer waarschuwde, zit daar iets wrangs in. Gelijk krijgen is weinig waard wanneer de rekening door de hele samenleving wordt betaald.