Organisaties passen AI-agents toe in kritische processen

“Het is net als bij klassieke SAP-systemen”, zegt Von Rueden. “Daar wordt altijd bijgehouden wie wat heeft gedaan en is elke stap traceerbaar voor auditors en financiële teams. Diezelfde behoefte aan controle en transparantie ontstaat nu ook rond AI-agents. Als er iets misgaat, wil je kunnen terugzien wat er is gebeurd, waarom bepaalde keuzes zijn gemaakt en waar menselijke controle nodig blijft."

Drie niveaus van governance

De opkomst van AI-agents brengt voor organisaties de uitdaging met zich mee om deze niet alleen te experimenteren, maar ook te beheersen. Zodra agents onderdeel worden van financiële, operationele of HR-processen, ontstaat de behoefte aan governance, transparantie en controle. Tijdens Sapphire 2026 legde SAP uit hoe een meerlaagse governance-structuur binnen de Autonomous Suite kan inspelen op de verschillende behoeften binnen een organisatie.

De structuur werkt op drie niveaus, elk gericht op een andere gebruiker. Op het eerste niveau kan de zakelijke gebruiker zien welke agents actief zijn, in welke processtap zij zich bevinden en wat de redenering achter een beslissing was, inclusief de bronnen waarop die redenering is gebaseerd. Zo kan iemand zonder technische achtergrond toch precies volgen wat een agent heeft gedaan en waarom.

Op het tweede niveau biedt de SAP Agent Hub een overzicht van alle agents binnen een organisatie, inclusief agents van derden zoals ServiceNow, Microsoft, Databricks en AWS. IT- en complianceteams zien hier hoeveel keer een agent is uitgevoerd, waar runs zijn mislukt en waar een eindgebruiker een goedkeuring heeft geweigerd. Dit geeft grip op het geheel, niet alleen op individuele agent-runs.

Op het derde niveau is volledige log-level tracing beschikbaar voor wie nog dieper wil inzoomen: elke tool die een agent heeft gekozen en elke redenering die daaraan ten grondslag lag, is stap voor stap te reconstrueren.

"Je kunt het helemaal terugvoeren. Elke tool die is gekozen, en waarom, is traceerbaar", aldus Von Rueden. "Veel AI-toepassingen zijn vandaag nog relatief geïsoleerd ingericht. Maar naarmate organisaties opschalen van een handvol agents naar honderden of duizenden, hebben zij behoefte aan breder inzicht in hoe agents processen beïnvloeden, en hoe gebruikers en systemen met elkaar samenhangen. Zodra AI-agents onderdeel worden van kritieke processen, draait governance niet alleen om individuele acties, maar ook om inzicht in de onderlinge afhankelijkheden tussen processen, systemen en gebruikers.” Volgens Von Rueden vraagt die complexiteit dus om een aanpak waarbij niet alleen individuele agents, maar complete bedrijfsprocessen inzichtelijk blijven.

Vooraf grenzen stellen

Governance begint volgens Von Rueden niet bij het terugkijken, maar bij het vooraf bepalen wat een agent wel en niet mag. Hij adviseert organisaties om agents bewust een beperkt mandaat te geven en dat mandaat stapsgewijs uit te breiden naarmate het vertrouwen groeit.

Een praktisch voorbeeld: stel een drempelwaarde in waarbij een agent zelfstandig beslissingen mag nemen over facturen onder de vijftig euro, maar daarboven altijd menselijke goedkeuring vereist.

“Het is een acceptabel bedrijfsrisico dat AI een beslissing neemt over een factuur van twintig euro, omdat de verwerkingskosten anders hoger zijn dan de controle zelf. Maar zodra bedragen oplopen, wil je dat een mens meekijkt”, aldus Von Rueden.

Volgens hem vormt juist die combinatie van technische traceerbaarheid, menselijke controle en vooraf ingestelde grenzen de basis voor organisaties die AI-agents verantwoord willen inzetten op schaal.

Van governance naar gebruikersinteractie

Naast governance stond tijdens Sapphire 2026 ook de rol van gebruikersinteractie centraal. In dat kader lichtte SAP Joule Work toe, een nieuwe gebruikerslaag bovenop de Autonomous Suite. In plaats van navigeren door schermen en menu's, beschrijven medewerkers in natuurlijke taal wat ze willen bereiken. Joule Work roept vervolgens de juiste combinatie van agents, workflows en data aan om de taak uit te voeren, op desktop, mobiel en via spraak, zowel binnen als buiten SAP-systemen.

“De verwachting van gebruikers verandert snel”, zegt Von Rueden. “Mensen willen processen steeds minder benaderen via losse applicaties of complexe interfaces, maar direct vanuit een taak of vraag. AI-agents maken die verschuiving mogelijk.”