Floris Hulshoff Pol - 09 juli 2024

SAP zet verder in op AI en ontwikkelt foundation-model en AI-agents

SAP heeft met Business AI zijn hele (ERP)portfolio van vooral GenAI-functionaliteit doordrongen. Deze AI-integratie doet SAP niet alleen, maar met ruim 22 partners en aanbieders van Large Language Models (LLM’s). Wel is het van plan in de nabije toekomst een eigen foundation-model en AI-agents te ontwikkelen, vertelde Jesper Schleimann (foto), AI Officer EMEA van SAP tijdens SAP Sapphire 2024 EMEA.

SAP zet verder in op AI en ontwikkelt foundation-model en AI-agents image

SAP wil met de integratie van (Gen)AI in zijn portfolio zijn eindklanten nu echte AI-oplossingen bieden die echte resultaten opleveren. Dit betekent dat de recent via SAP Business AI gepresenteerde oplossingen, op basis van het eigen SAP Business Technology Platform (BTP), klanten en partners helpen met nieuwe integraties en tools om AI makkelijk te kunnen omarmen, daarmee in contact met hun processen kunnen komen en hieruit de beste toegevoegde waarde uithalen. Het SAP BTP wordt hiermee -naar eigen zeggen- het enige cloudtechnologieplatform ter wereld is dat gebruikers en partners toegang geeft tot alle bekende LLM’s.

SAP doet de AI-integratie in zijn portfolio niet alleen. Hiervoor heeft het in Europa ruim 22 AI-partners waarmee het intensief samenwerkt om alle AI-oplossingen en -tooling naar zijn klanten te brengen. Denk daarbij die van bijvoorbeeld de Claude-LLM’s van Anthropic, Google Gemini, Meta LLama 3, maar ook de verzameling binnen Amazon Bedrock of, zoals recent toegevoegd, de LLM’s van het Franse Mistral AI.

LEGO-set van AI-oplossingen

Uiteindelijk draait het allemaal on de introductie van de derde generatie AI in het SAP-portfolio. De komst van AI binnen SAP startte ooit met voorspellende algoritmes voor de diverse ERP-producten, maar breidden zich de afgelopen jaren flink uit. De tweede golf binnen SAP van AI-features waren, bij de introductie van de cloudgebaseerde ERP-versie S4/HANA, specifieke machine learning-algoritmes. De derde generatie is nu GenAI met de komst van de AI-assistent Joule, de integratie in de specifieke SAP-oplossingen, de voorbereide maatwerk AI-ondersteuning en de eerder genoemde AI Foundation op basis van SAP BTP.

“Met de komst van de derde AI-generatie in ons portfolio bieden we onze klanten een toolbox of meer een LEGO-set van AI-oplossingen en -toepassingen waarmee zij aan de slag kunnen”, zegt Jesper Schleimann, AI Officer EMEA North bij SAP. “We integreren deze LLM’s in het SAP BTP, zodat we ze op schaal kunnen beheren, security integreren en zaken als content filtering en privacy toe te passen. Dit alles wordt vervolgens als dienst aan onze klanten (en partners) aangeboden. Zodat zij hiermee hun maatwerkscenario’s kunnen uitvoeren.”

Naast het aanbieden van de diverse LLM’s op strategische punten in het portfolio, optimaliseert SAP ook deze modellen zodat ze beter met de verschillende andere algoritmes die door het hele portfolio doorlopen samenwerken. Dit om echt die interactie met en begrip van alle processen van klanten beter uit te voeren.

“We maken deze LLM’s hiervoor geschikt, zodat wij en onze klanten en partners die niet opnieuw hoeven trainen en eigenlijk direct voor hun processen kunnen inzetten. Dit doen we met Retrieval Augemented Generation (RAG)-technologie. Uiteindelijk is het hierdoor mogelijk alle inzichten te combineren en klanten hun eigen zakelijke processen en data aan te geven en deze vervolgens te bevragen. Dit proces gebruikt dan alles wat er in het betreffende model gebeurt. Op deze manier is het natuurlijk ook mogelijk verschillende LLM’s gebruiken voor verschillende taken en zakelijke processen.”

SAP ontwikkelt AI door

Hoewel de introductie van de GenAI-assistent Joule voor SAP nu een belangrijke stap is in het blijvend integreren van AI in zijn portfolio, staat de ontwikkeling van AI-technologie niet stil”. Schleimann: “We blijven doorontwikkelen, maar geven daar wat minder ruchtbaarheid aan. Hierbij willen we de grenzen aftasten om zakelijke context naar een volgend niveau te brengen.

“Zero-shot learning’ en/of het ‘out-of-the-box’ inzetten van AI is tegenwoordig al mogelijk, zodat klanten en partners meer waarde halen uit hun processen dan de benodigde modellen daarvoor te trainen. Deze waardecreatie vindt plaats door alleen maar de software te activeren.”

“Daarnaast zijn er toch nog wel uitdagingen bij de huidige LLM’s voor zakelijke handelingen. Ze doen het bijvoorbeeld goed voor het creëren van teksten of andere content, maar doen het weer minder voor berekeningen, optimalisering of zeer specifieke handelingen met ingewikkelde berekeningen. Traditionele machine learning werkt voor die handelingen dan veel beter. Verder vereist AI een heleboel werk aan gestandaardiseerde data. Dit is voor bedrijven vaak ook een reden om minder snel deze technologie in te zetten.”

Foundation-model

Jesper Schleimann signaleert hiermee een paradox. Aan de ene kant werkt de technologie, aan de andere kant is er ook iets dat niet werkt. SAP heeft daarom besloten zich te richten op een AI-model dat twee kanten met elkaar combineert. Aan de ene kant ‘tabular data’, data die in rijen en kolommen zitten, en aan de andere kant de diverse bestaande grote LLM’s in éen groot ‘foundation’-model samen te vatten.

Dit nieuwe ‘foundation-model’ beschikt daarbij verder over de nodige machine learningcapaciteit, rekenkracht, wiskundige optimalisatiemodellen, databases en meer. “Hiermee kunnen we dan makkelijker, out-of-the-box zou ik niet zeggen, maar een AI-model uitrollen dat intelligenter en meer intuïtief in zijn antwoorden is en bovendien - voor ons echt heel belangrijk - zakelijke vragen kan beantwoorden.” Inmiddels hebben we dit specifieke AI foundation-model al in een laboratoriumomgeving getest en de eerste resultaten zijn veelbelovend.”

AI-agents voor ‘saaie’ taken

Het blijft voor SAP echter niet bij dit nieuwe AI foundation-model in zijn AI-roadmap. Ook kondigt de AI Officer EMEA de komst van zogenoemde ‘AI-agents’ aan. AI-agents zijn eigenlijk kleine stukjes software die hun omgeving begrijpen en zelfstandig opereren. Denk aan zelfrijdende auto’s die geheel autonoom hun rijtaken uitvoeren en daarbij geen last hebben van menselijk gedrag als vermoeidheid of afleiding, vergelijkt Schleimannn. Deze AI-agents zijn natuurlijk door mensen ‘bij te sturen’ wanneer nodig.

“AI-agents kunnen zeer specifiek vastgestelde taken uitvoeren binnen een te verwachten uitkomst. Denk aan een agent voor het versturen van facturen of voor het aannemen van personeel. Deze agents kunnen iedere transactie ‘doorzien’en daarbij eventuele inconsistenties opsporen, de facturen optimaliseren en op een later moment daarover feedback geven.”

“Eindgebruikers kunnen zich hiermee dan beter op de 10 procent van hun werk dat echte waarde oplevert, concentreren en de ‘saaie’ rest aan de agents overlaten. Uiteindelijk worden deze agents heel interessant. Dit kunnen straks kleine agents zijn, maar ook echte zakelijke agents. Die bijvoorbeeld de HR supply chain bepalen.”

De AI-agents zullen vooral op de verschillende SAP-diensten worden gebaseerd, geeft Schleimann aan. “Deze toepassingen moeten dicht bij de processen van onze klanten zitten. Dit gebeurt nu al met de komst van Joule, maar klanten zullen binnenkort ook in staat zijn deze AI-agents in hun processen te integreren. Dit zijn dan vaak standaard agents die klanten of partners aan bepaalde personen kunnen toewijzen. Uiteindelijk moet er toch iemand voor de door de agents uitgevoerde taken verantwoordelijk zijn.”

“Kortom met alles wat nog in de pijplijn zit, gaan we op AI-gebied in de nabije toekomst nog meer echte hardcore business context leveren”, besluit Jesper Schleimann van SAP.

Door: Floris Hulshoff Pol

Dutch IT Security Day BW tm 15-10-2024 DIC Awards BW tm 21-10-2024
Dutch IT Golf Cup BN tm 16-09-2024

Wil jij dagelijkse updates?

Schrijf je dan in voor onze nieuwsbrief!