Bestuurders overschatten paraatheid voor AI-agents

Dat blijkt uit onderzoek van softwarebedrijf OutSystems, uitgevoerd met CIO Dive en KPMG. Het rapport, getiteld ‘Engineering and Orchestrating Agentic Systems for Control and Business Impact’, is gebaseerd op een enquête onder ruim 850 IT-beslissers. Volgens de onderzoekers verschuift de focus van experimenteren naar bredere inzet van AI, mede doordat ontwikkeltools toegankelijker worden en de economische druk toeneemt. Zo verwacht 71 procent van de bestuurders dat applicaties over vijf jaar werkzaamheden tussen systemen, teams en bedrijfsprocessen coördineren of complexere workflows met meerdere stappen ondersteunen.

“82 procent van de bestuurders geeft aan de ontwikkelingen rond het beheer van AI-agents te kunnen bijbenen, terwijl slechts 26 procent zegt conflicten tussen deze agents te kunnen oplossen”, aldus Tiago Azevedo (foto), CIO van OutSystems. “Juist in die kloof wordt het echte werk geleverd. Vanuit mijn ervaring met het inzetten van agents binnen het bedrijf heb ik geleerd dat veiligheid begint bij het inbouwen van controle in het platform, in plaats van achteraf controles uit te voeren. Organisaties die tijdens de uitvoering van agents toezien op de naleving van regels zijn sneller aangezien zij hun processen niet hoeven stil te leggen om te beoordelen of ze kunnen vertrouwen op wat ze hebben ontwikkeld.”

Toezicht draait vooral op handwerk

Organisaties beginnen niet bij nul: 83 procent gebruikt bestaande IT-, security- of complianceprocessen, gespecialiseerde controles of centrale beleidsregels en monitoring om agents te controleren die zelfstandig acties uitvoeren. Dat toezicht leunt echter grotendeels op menselijke tussenkomst en handmatige procedures. Slechts 5 procent beschikt over geautomatiseerde controlemechanismen, audit trails en formeel vastgelegde momenten voor menselijke beoordeling. De uitdaging is volgens het rapport om governancebeleid om te zetten in herhaalbare, geautomatiseerde controles die gelden waar agents ook actief zijn.

Naarmate agentic AI breder wordt ingezet, verschuift de opgave van het bouwen van afzonderlijke agents naar het beheren van een ecosysteem van AI-modellen, applicaties, data en tools van externe leveranciers. Organisaties kiezen daarbij liever voor flexibiliteit en interoperabiliteit dan voor één leverancier. Zo noemt 74 procent integratie met bestaande applicaties en systemen als prioriteit, vindt 63 procent de orkestratie van agents over systemen heen belangrijk en hecht 62 procent waarde aan de mogelijkheid om te wisselen tussen modellen, leveranciers en platformen.

Europese organisaties bezorgder over kosten en betrouwbaarheid

In Europa spelen deze vraagstukken sterker. Daar verwacht 40 procent van de organisaties afhankelijker te worden van strategische partners of managed services naarmate de AI-kosten stijgen, tegenover 31 procent in Noord-Amerika en 26 procent in Azië-Pacific. Ook de betrouwbaarheid van agents baart Europeanen meer zorgen: 49 procent noemt onnauwkeurig, onbetrouwbaar of onverwacht gedrag een belangrijke uitdaging bij orkestratie, tegen 41 procent in Noord-Amerika en 35 procent in Azië-Pacific.

Organisaties testen steeds vaker complete agentic systemen in plaats van alleen losse agents. Daarbij kijken ze onder meer naar de interactie tussen agents, de afhandeling van uitzonderingen, conflicterende acties en mechanismen om acties terug te draaien. Van de IT-beslissers vindt 81 procent het testen, evalueren en valideren van agentgedrag zeer belangrijk bij de keuze voor AI-platformen of -tools. Daarnaast noemt 35 procent consistente data en het delen van context een belangrijke uitdaging bij orkestratie. Dat wijst erop dat agents niet alleen op de algemene kennis van AI-modellen moeten leunen, maar ook op bedrijfsdata die volgens vaste regels wordt beheerd.

Succes wordt afgemeten aan foutreductie

Bestuurders beoordelen agentic AI steeds vaker op operationele impact. Het verminderen van fouten is met 64 procent de belangrijkste graadmeter, gevolgd door betere naleving van wet- en regelgeving en risicobeperking, hogere productiviteit van medewerkers en kostenbesparingen. Slechts 12 procent zegt dat agentic AI heeft bijgedragen aan een snellere introductie van nieuwe producten, diensten of klantervaringen. Volgens het onderzoek realiseren organisaties dus al wel operationele voordelen, maar staat bredere bedrijfstransformatie nog in de kinderschoenen.

“Betrouwbaarheid en veiligheid van agentic systemen moeten vanaf de start in het ontwerp worden verankerd. Je kunt niet volstaan met controles achteraf”, aldus Michael Harper, Managing Director bij KPMG. “Traditionele logging en procedurele governance zijn ontwikkeld voor statische software, niet voor dynamische AI. Om de kloof tussen een groot vertrouwen en daadwerkelijke operationele gereedheid te overbruggen, moeten organisaties beleidsregels rechtstreeks in code kunnen vastleggen en tijdens de uitvoering geautomatiseerde vangrails kunnen inzetten. Zo krijgen bedrijven de ruimte om te innoveren, terwijl volledige workflows veilig en betrouwbaar blijven en gericht zijn op het behalen van concrete bedrijfsresultaten.”