Sophos AI Defense geeft zicht op shadow AI

Sophos AI Defense wordt geleverd via Sophos Fusion, het AI-native cybersecurityplatform van het bedrijf. Het product combineert beveiligingsmaatregelen op endpoints, in het netwerk, bij het aanmelden en in de browser. Volgens Sophos hoeven beveiligingsteams daardoor geen aparte tool te beheren om AI veilig in te zetten. Een AI-tool die buiten het zicht van een organisatie blijft, vormt een mogelijk risico voor de vertrouwelijkheid, integriteit en beschikbaarheid van gegevens en systemen.

Zicht op AI-activiteit

De oplossing verzamelt signalen van endpoints, het netwerk, de identiteitslaag en de browser om AI-activiteit binnen de hele IT-omgeving te tonen. Daarna analyseert ze wie de activiteit uitvoert, hoe gebruikers en systemen zich gedragen en welke gegevens erbij betrokken zijn. Op die manier kan ze onderscheid maken tussen normaal gebruik en activiteit die opvolging vraagt. Beveiligingsmaatregelen in realtime controleren prompts, uploads en andere AI-interacties op het moment dat ze plaatsvinden, om te voorkomen dat gevoelige gegevens worden blootgesteld.

De geregistreerde activiteiten worden doorgestuurd naar Sophos Fusion. Beveiligingsteams die Sophos XDR gebruiken en analisten van Sophos MDR kunnen incidenten daardoor onderzoeken en erop reageren binnen hun bestaande workflows. Omdat het product op Sophos Fusion draait, kunnen volgens Sophos ook teams met beperkte middelen direct beginnen met AI-beveiliging. Managed service providers krijgen er een extra mogelijkheid bij om hun klanten te ondersteunen.

Groeiend gebruik van shadow AI

Uit de cijfers die Sophos aanhaalt blijkt dat niet-goedgekeurde AI, ook wel shadow AI genoemd, wijdverbreid is. Van de organisaties vermoedt 69% dat medewerkers niet-goedgekeurde AI-agents en AI-tools gebruiken, of heeft daar bewijs voor. Verder heeft 82% het afgelopen jaar shadow AI-agents in de eigen IT-omgeving ontdekt, en 90% van de IT-leiders maakt zich zorgen over de risico's van shadow AI. IDC voorspelt dat er in 2028 wereldwijd 1,3 miljard AI-agents zullen zijn. Elke agent en tool is een nieuw aanvalsoppervlak en een mogelijke route waarlangs gevoelige gegevens de organisatie kunnen verlaten.

Sophos X-Ops signaleerde dit jaar meerdere ontwikkelingen aan de kant van aanvallers. In één geval gebruikte een aanvaller AI-agents binnen het netwerk van een klant om bijna tachtig malwaremodules te ontwikkelen en te testen. Daarnaast verkopen cybercriminelen via tussenpersonen verkregen API-sleutels voor geavanceerde AI-modellen, worden jailbreaktechnieken verhandeld op ondergrondse forums en zoeken criminele organisaties naar AI-promptengineers.

Beveiliging blijft achter op adoptie

"Organisaties adopteren AI sneller dan ze het kunnen beveiligen. De meeste beveiligingsteams kunnen daarbij drie fundamentele vragen niet beantwoorden: welke AI-tools worden gebruikt, welke gegevens worden erin ingevoerd en of die activiteiten in overeenstemming zijn met het beveiligingsbeleid", zegt Kyle Falkenhagen, Senior Vice President of Product Management bij Sophos. "Sophos AI Defense biedt beveiligingsteams het nodige inzicht en de controle om actie te ondernemen. Zo kunnen ze AI met vertrouwen omarmen, omdat ze precies weten waarvoor ze toestemming geven."

"Onze klanten stelden ons steeds vaker vragen over hoe we AI gebruiken en hoe we die technologie beveiligen.", zegt Anthony Bender, CTO bij Empyreal Logistics. "Daar hadden we geen goed antwoord op. We hadden geen manier om het gebruik van niet-goedgekeurde AI-tools te blokkeren of te reguleren. Inmiddels hebben we grip op hoe we willen dat onze medewerkers AI gebruiken en kunnen we onze klanten aantonen dat we daadwerkelijk doen wat we beloven. Als klanten ons er nu naar vragen, kunnen we hen een duidelijk en overtuigend antwoord geven."

Sophos AI Defense is per direct beschikbaar.