CrowdStrike pakt 'malware-prompts' aan met AI-beveiliging

Nu bedrijven op grote schaal generatieve AI en autonome 'agents' (AI-hulpjes) inzetten, ontstaan er nieuwe kwetsbaarheden. Aanvallers maken gebruik van zogenaamde prompt injection, waarbij verborgen instructies in AI-systemen worden gesmokkeld om deze te kapen, gevoelige data te stelen of schadelijke acties uit te voeren.

Prompts als aanvalsvector

Michael Sentonas, president van CrowdStrike, benadrukt de ernst van de situatie: "Tegenstanders injecteren verborgen instructies in GenAI-tools om de systemen die ons werk transformeren, te militariseren. Falcon AIDR beveiligt elke prompt, elk antwoord en elke actie van een AI-agent in real-time."

Waar traditionele beveiliging zich richt op laptops en servers (endpoints), trekt CrowdStrike die lijn nu door naar de laag waar AI-systemen 'denken' en beslissingen nemen. Falcon AIDR biedt bescherming voor de gehele keten: van de data en de modellen tot de uiteindelijke interactie met de werknemer.

Belangrijkste functies van Falcon AIDR

De nieuwe software biedt organisaties grip op hun AI-gebruik via verschillende mechanismen:

Blokkade van prompt-injecties: Real-time detectie van 'jailbreaks' en onveilige content, gebaseerd op een database van meer dan 180 bekende aanvalstechnieken.

Zichtbaarheid en governance: Bedrijven krijgen volledig inzicht in hoe werknemers AI-tools gebruiken en hoe autonome agents opereren, inclusief logs voor compliance-onderzoeken.

Data protection: Gevoelige informatie, zoals inloggegevens of gereguleerde klantdata, wordt automatisch herkend en geblokkeerd voordat het een extern AI-systeem kan bereiken.

Beheersing van AI-agents: Kwaadaardige acties van geautomatiseerde AI-hulpjes kunnen in real-time worden gestopt voordat ze schade aanrichten aan de bedrijfsinfrastructuur.

Eén platform voor AI-veiligheid

Door AIDR te integreren in het bestaande Falcon-platform, biedt CrowdStrike een eenduidig beveiligingsmodel. Bedrijven hoeven hierdoor geen versnipperde tools te gebruiken voor hun AI-beveiliging, maar kunnen vanuit één dashboard zowel hun traditionele IT-omgeving als hun nieuwe AI-innovaties bewaken.

De lancering markeert een belangrijke verschuiving in de cybersecurity-industrie, waarbij de focus verschuift van het beschermen van bestanden naar het beveiligen van de intentie en de logica achter digitale interacties.