Grootschalig gebruik van AI brengt serieuze risico's met zich mee, stelt onderzoek
Ondanks de sterke groei van agentic AI, is de overgrote meerderheid van bedrijven niet voldoende voorbereid op de risico's die deze technologie met zich meebrengt. Dit blijkt uit een nieuw onderzoek van het Infosys Knowledge Institute (IKI), waarvoor meer dan 1.500 leidinggevenden wereldwijd werden ondervraagd.
Volgens het rapport, getiteld 'Responsible Enterprise AI in the Agentic Era', erkent 78% van de bedrijven dat verantwoorde AI een drijvende kracht achter groei is, maar voldoet slechts 2% aan de 'gold standard' voor veilige AI-implementatie. De gevolgen van slecht geïmplementeerde AI zijn aanzienlijk: maar liefst 95% van de ondervraagden meldt in de afgelopen twee jaar incidenten, met als resultaat financiële verliezen (77%) en reputatieschade (53%).
De C-suite en directeurs maken zich vooral zorgen over de opkomst van agentic AI, waarbij 86% van hen verwacht dat dit nieuwe risico's en compliance-problemen zal introduceren. De 'RAI-leiders', de 2% die wel voldoet aan de standaarden, ervaren 39% minder financiële schade en 18% minder ernstige incidenten. Zij onderscheiden zich door proactief bias te evalueren, AI-initiatieven grondig te testen en duidelijke incidentenplannen te hebben.
De auteurs van het rapport roepen bedrijven op om verantwoorde AI niet langer als een plicht te zien, maar als een strategisch voordeel. Een verschuiving naar een proactieve aanpak en het opzetten van een centraal 'RAI-office' zijn essentieel om de belofte van AI te kunnen waarmaken en tegelijkertijd de risico's te beperken.
Meer over ai
Over Witold Kepinski
