Microsoft formuleert wereldwijde alliantie voor AI-veiligheid

Intern beproefde methoden voor zogeheten red teaming — het gecontroleerd aanvallen van eigen systemen om zwakheden op te sporen — schieten volgens Microsoft steeds vaker tekort wanneer modellen wereldwijd worden uitgerold. Risico's zoals misleiding, manipulatie en specifieke kwetsbaarheden variëren sterk per regio, taal en technische context, waardoor interne beveiligingsteams niet alle scenario's zelfstandig kunnen afdekken.

Investeringen op zes continenten

Het EXTRA-programma rust op twee pijlers. Ten eerste verstrekt Microsoft financiële bijdragen zonder restricties aan achttien universitaire onderzoekscentra verspreid over zes continenten. Tot de geselecteerde instellingen behoren onder meer Carnegie Mellon University, Harvard University, University College London, de Universiteit van Cagliari en de Universiteit van São Paulo. De academici krijgen zo de vrijheid om onafhankelijk onderzoek te doen naar complexe vraagstukken rond AI-beveiliging en de impact van AI op cyberoperaties.

Ten tweede bouwt Microsoft aan een operationeel netwerk van externe specialisten. Deze experts worden direct betrokken bij het testen van gespecialiseerde AI-toepassingen op het gebied van regionale dreigingen, taalnuances en geavanceerde misbruikpatronen.

Breder fundament voor AI-governance

Volgens Microsoft sluit het initiatief aan bij een bredere visie op de governance van AI-technologie. Net zoals in de traditionele cybersecuritysector afhankelijkheid bestaat van onafhankelijke onderzoekers en gecoördineerde beveilingsmeldingen, vereist de beveiliging van geavanceerde AI-systemen langdurige samenwerking tussen de industrie, de wetenschap en regionale deskundigen.