KPMG en UvA testen grenzen van AI: kan een bedrijf draaien zonder mensen?

Het experiment draait om zogeheten AI-agents: digitale assistenten die zelfstandig taken bedenken, beslissingen nemen en uitvoeren. Het doel van het onderzoek is niet alleen technologisch van aard, maar richt zich ook op governance en ethiek. De centrale vraag: welke bedrijfsprocessen kan AI volledig overnemen en waar blijft de mens onmisbaar?

CEO Avery Jameson

De AI-agents kregen bij aanvang de vrije hand. Ze moesten zelf bepalen wat voor soort bedrijf ze wilden starten. Onder leiding van de virtuele CEO 'Avery Jameson' koos het team van vijf agents voor het opzetten van een webshop in gepersonaliseerde AI-kunst.

"De start was veelbelovend," zegt mede-initiatiefnemer en ondernemer Nart Wielaard. "Een set van vijf AI-agents ging aan het werk, maakte businessplannen en kon 24/7 zonder pauzes werken. Ze kunnen dingen die mensen niet kunnen, zoals deelnemen aan meerdere vergaderingen tegelijk met een detailkennis die het menselijk brein niet aankan."

Hallucinaties en werkweigering

Toch moest de strategie drastisch worden omgegooid. Het idee om menselijke topfuncties, zoals een CFO, één-op-één te laten invullen door AI, bleek in de praktijk niet te werken. De agents raakten verstrikt in de complexiteit van deze grote rollen.

Sander Klous, hoogleraar AI & Audit bij de UvA en partner bij KPMG, legt uit: "Als je menselijke functies door AI-agents laat uitvoeren, gaan ze in die grote taken afdwalen en hallucineren. Soms gaan ze hun instructies compleet te buiten of stoppen ze zomaar met werken. Dat is geen basis waarop je een solide organisatie kunt bouwen."

Een leger van 'wegwerp-agents'

De onderzoekers kozen daarop voor een nieuwe benadering. In plaats van vijf 'hoofdrolspelers' met bestuurlijke titels, werden werkprocessen tot in detail uitgeschreven en opgeknipt. Voor elke kleine taak wordt nu een specifieke agent ingezet.

"We werken nu met een ‘army of disposable agents’," aldus Klous. "Dat concept werkt veel beter om complete processen consistent uit te voeren."

De omgekeerde wereld

Het experiment schetst een toekomstbeeld waarin de arbeidsverhoudingen flink kunnen verschuiven. Volgens Klous bewegen we van een situatie waarin mensen het werk doen met ondersteuning van AI, naar een wereld waarin AI-gedreven processen de basis vormen en mensen een ondersteunende, controlerende rol hebben.

Dit brengt nieuwe vraagstukken met zich mee over aansprakelijkheid en werkgelegenheid. Klous benadrukt de urgentie: "Dit onderzoek laat zien dat we dit voor moeten zijn en nu al moeten vaststellen welke ethische en juridische kaders noodzakelijk zijn."