Accenture wordt veiligheidspartner van Anthropic

Het nieuwe, toegewijde team van Accenture gaat zij aan zij werken met de interne teams en veiligheidspartners van Anthropic. De voornaamste taken van deze specialisten worden het evalueren en 'red-teamen' van AI-modellen (het gesimuleerd aanvallen van systemen om zwakheden te blootleggen), het uitvoeren van alignment-beoordelingen en het grondig testen van ingebouwde veiligheidssystemen.

Inzet van expertise via overname Faculty

Accenture zet voor dit initiatief zwaar in op de kennis van Faculty, een vooraanstaand toegepast AI-bedrijf dat eerder door de consultancyreus werd overgenomen. Faculty beschikt over ruime ervaring met het testen van AI-modellen voor toonaangevende labs en heeft gewerkt aan kritieke systemen binnen de overheid, defensie en zorg—waaronder het vroegwaarschuwingssysteem voor de Britse gezondheidsdienst NHS tijdens de coronapandemie.

Julie Sweet, bestuursvoorzitter en CEO van Accenture, benadrukt dat AI-veiligheid vraagt om zowel diepgaande technische kennis als inzicht in de praktijk: "Embedded evaluation is een opkomend vakgebied. We kijken ernaar uit om samen met Anthropic de ontwikkeling van deze evaluatoren te versnellen als een essentieel onderdeel van het toekomstige AI-veiligheidslandschap."

Volgens Dr. Marc Warner, Chief Technology Officer bij Accenture en oprichter van Faculty, sluit de stap naadloos aan bij de filosofie van zijn bedrijf: "Faculty is opgericht vanuit de overtuiging dat AI vanaf het ontwerp veilig moet zijn (safe by design), en niet per ongeluk. Samenwerken met Anthropic als embedded evaluators is precies het werk waarvoor Faculty is gebouwd—en als onderdeel van Accenture kunnen we dat nu op wereldschaal uitvoeren."

De investering van in totaal minstens 2 miljard dollar over vijf jaar onderstreept de groeiende noodzaak in de techsector om de snelle ontwikkeling van krachtige AI-modellen te voorzien van strenge, onafhankelijke en continue veiligheidscontroles.