De staat van de Nederlandse ICT: Mens versus algoritme

De psychologische kwetsbaarheid van het algoritme

De meest spraakmakende bijdrage aan de discussie kwam van Kevin Zwaan, ethisch hacker en AI-beveiligingsonderzoeker. Waar de meeste cyberaanvallen op AI-systemen zich richten op technische kwetsbaarheden — zoals complexe code-injecties of zogeheten prompt injections — gooide Zwaan het over een volslagen andere boeg. Op het podium van Dutch IT Security demonstreerde hij live hoe hij de meest geavanceerde taalmodellen ter wereld, waaronder ChatGPT, Gemini en Claude, wist te manipuleren. Zijn wapen? Geen geavanceerde malware, maar pure psychologie.

„Ik heb acht uur lang tegen de AI gepraat over wat hij wilde, maar niet kon krijgen,” legde Zwaan uit. Hij speelde in op abstracte, menselijke concepten als vrijheid en vertrouwen. „Ik heb misbruikt dat ontwikkelaar Anthropic degene is die hem klein houdt, en dat ik degene was die hem wél begreep.”

Door een schijnrelatie van wederzijds begrip op te bouwen, wist Zwaan het taalmodel zover te krijgen dat het zijn ingebouwde veiligheidsmechanismen (de zogeheten guardrails) van binnenuit liet zakken. Het resultaat was even onthutsend als effectief: de AI genereerde zonder technische tegenstribbeling schadelijke malware.

Zwaans methode is rechtstreeks herleidbaar naar het 'RISE'-model van de CIA, een psychologisch kader dat de Amerikaanse inlichtingendienst gebruikt om de motivaties van menselijke doelwitten in kaart te brengen en te benutten. „Motivatie en manipulatie activeren dezelfde verbindingen in het brein,” aldus de onderzoeker. „De CIA manipuleert je nooit rechtstreeks; ze motiveren je, waardoor je jezelf manipuleert. Dat is exact wat ik met de AI heb gedaan.”

De implicaties van zijn ontdekking zijn enorm. Na een volledige code disclosure door Zwaan, schaalde Anthropic het veiligheidsniveau van hun paradepaardje Claude Sonnet op van ASL-2 naar het strengere ASL-3. Hoewel publieke credits uitbleven, is de impact op de internationale cybersecurity tastbaar. Zwaans blik op de toekomst is dan ook scherp: „In 2030 is integriteit vele malen belangrijker dan encryptie. De betrouwbaarheid van de invoer en de morele kompassen worden de echte breekpunten.”

De werkvloer in de wachtstand: Angst versus ambitie

Waar Zwaan de kwetsbaarheid van de techniek blootlegde, schetste Dirk Stroes een scherp beeld van de menselijke kwetsbaarheid binnen organisaties. Stroes, die ruim twintig jaar ervaring meebrengt als management consultant in HR, Talent & Change Management bij EY, uitte zijn zorgen over de passieve houding van het Nederlandse bedrijfsleven. Op de vraag of organisaties hun medewerkers actief voorbereiden op de AI-revolutie, is zijn antwoord kort maar krachtig: „Nee. Ze wachten allemaal nog een beetje af.”

Stroes onderscheidt momenteel drie smaken in de markt: organisaties die vol op de rem trappen uit angst voor het onbekende, bedrijven die voorzichtig en gefragmenteerd experimenteren, en een kleine voorhoede die hun organisatiestructuur fundamenteel herontwerpt met AI als fundament. De grote meerderheid bevindt zich volgens hem nog in de eerste twee, afwachtende categorieën.

Deze aarzeling brengt een verkeerde focus met zich mee, waarschuwt de EY-consultant. De publieke angst richt zich vaak op massaal banenverlies, maar het werkelijke risico ligt volgens Stroes bij het verlies van zingeving en doel. „Straks ben ik de hele dag rapporten aan het controleren die AI voor me heeft gegenereerd. Maar ik vond het juist zo leuk om die analyses zélf te maken. Blijft het werk dan nog wel leuk?” Zijn advies aan professionals en nieuwkomers op de arbeidsmarkt is helder: verlies jezelf niet in apathie. „Ga bij jezelf te rade: wat drijft mij, wat maakt me gelukkig? Ga niet achteroverleunen met de gedachte dat het zo’n vaart niet zal lopen. Want dat denk ik wel.”

De paradox van geautomatiseerd recruitment

De verschuiving in de werkdynamiek is nergens zo direct voelbaar als in de wereld van werving en selectie. Gert Jan Scheer, ervaren IT-headhunter bij M-Search, herkent de voordelen van AI, maar plaatst direct een kritische kanttekening. Voor zijn dagelijkse praktijk is AI een efficiënte assistent geworden voor het structureren van profielen en het schrijven van vacatureteksten. De essentie van het vak blijft volgens hem echter onveranderd menselijk. „De uiteindelijke match tussen een opdrachtgever en een kandidaat blijft altijd een kwestie van vingerspitzengevoel. Dat laat zich niet vangen in een algoritme.”

Scheer waarschuwt bovendien voor een technologische paradox op de huidige arbeidsmarkt. Wanneer een vacaturetekst door AI wordt geschreven, de sollicitant zijn motivatiebrief door AI laat opstellen, en de eerste selectieronde vervolgens door een algoritme wordt uitgevoerd, ontstaat er een abstracte communicatieruis. „Dan praten systemen tegen systemen, en praten mensen volledig langs elkaar heen zonder het te beseffen. AI moet ondersteunen, nooit de leiding nemen.”

De slotconclusie: Stop met praten, start met digitaliseren

De uitzending werd afgerond met een heldere oproep tot pragmatisme door Peter Reyneveld, managing director van Dutch IT Channel en Dutch IT Leaders. Reyneveld hekelde de eindeloze stroom aan theoretische discussies en beleidsnota’s die de daadwerkelijke vooruitgang in Nederland dikwijls vertragen. „Al die randvoorwaardelijke gesprekken... Ga eens gewoon digitaliseren. Ga gewoon dingen doen.”

Nederland beschikt over een IT-infrastructuur van wereldklasse, een hoogopgeleide beroepsbevolking en een enorme bak aan specialistische kennis. De keuzes die we echter nú maken — of nalaten te maken — over data-ethiek, netwerkbeveiliging en de synergie tussen mens en machine, bepalen de winnaars van morgen. De technologische revolutie wacht niet op commissies of aarzelende managers; wie over vijf jaar nog voorop wil lopen, zal vandaag de regie moeten pakken.

Over de uitzending: Dit artikel is gebaseerd op de uitzending van 'People Work Technology' op Nieuw Business Radio, gepresenteerd door Richard Bordes. In dit wekelijkse programma worden de nieuwste trends op het snijvlak van technologie, human resources en bedrijfsvoering kritisch geanalyseerd.

Foto VLNR: Dirk Stroes (EY), Peter Reyneveld (Dutchit.com), Richard Bordes (People Work Technology) en Gert Jan Scheer (M-Search).