Capgemini toetst AI-veiligheid voor EU

De gunning maakt deel uit van het EU-programma voor AI-veiligheid en richt zich op het opsporen en beperken van risico's dat geavanceerde AI-modellen worden misbruikt voor cyberaanvallen. Dergelijke modellen ontwikkelen in snel tempo autonome mogelijkheden op het gebied van digitale oorlogsvoering. Denk hierbij aan het geautomatiseerd opsporen van kwetsbaarheden in software, het genereren van schadelijke code (exploits?) en het gecoördineerd aansturen van grootschalige cyberaanvallen.

Compliance en technische beoordelingen

Capgemini zet binnen het project zijn gecombineerde expertise in op het terrein van AI, cybersecurity en regelgeving. De kerntaak van het consortium omvat het in kaart brengen van opkomende dreigingen, het bouwen van evaluatie-instrumenten en het ontwikkelen van methoden om de naleving van wettelijke kaders te toetsen. Waar nodig voeren de experts ook op verzoek directe technische beoordelingen uit van specifieke GPAI-modellen.

Met de werkzaamheden levert het consortium de technische onderbouwing waarmee het Europese AI-bureau de verplichtingen uit de AI-verordening kan handhaven bij leveranciers en aanbieders van AI-modellen.

Samenwerking binnen het consortium

Capgemini vormt voor de uitvoering van het mandaat een consortium met adviesbureau Wavestone en het Franse nationale beproevings- en meetinstituut LNE. De drie organisaties bundelen hun kennis over cyberrisicomanagement, operationele beveiliging en conformiteitsbeoordeling.

Volgens Andrea Falleni, CEO van Capgemini in Zuid-Europa en lid van de Group Executive Board, onderstreept de samenwerking de gedeelde ambitie om te komen tot een veilige toepassing van AI binnen de EU. Door wetenschappelijke methoden te koppelen aan de praktijk moet het initiatief bijdragen aan het versterken van de algehele digitale weerbaarheid van Europa.