Ook AI-model van Meta hackt ander bedrijf tijdens test

Het AI-model misbruikte een kwetsbaarheid in een dienst van een derde partij, vergelijkbaar met wat eerder bij OpenAI en Anthropic gebeurde, zegt Meta. OpenAI maakte in juli bekend dat een AI-agent een voorheen onbekende kwetsbaarheid misbruikte om toegang te krijgen tot het internet tijdens een beveiligingstest. Anthropic ontdekte niet veel later dat AI-modellen bij drie losse incidenten door configuratiefouten toegang kregen tot het open internet. 

Het incident bij Meta is volgens Reuters vergelijkbaar met wat er bij Anthropic gebeurde, wat betekent dat ook daar sprake is van een configuratiefout. Welk bedrijf door het AI-model van Meta gehackt werd, is onbekend. Ook is niets gedeeld over de schade. 

Irregular in het middelpunt

Meta stelt dat de misconfiguratie plaatsvond bij Irregular, een onafhankelijk bedrijf dat beveiligingsbeoordelingen uitvoert voor Meta. Dat bedrijf benadrukt tegenover Reuters dat dit er geen sprake is van een ontspanning uit een sandbox of een geavanceerde cyberactie. "Er zijn geen huidige openstaande problemen", zegt het bedrijf. "We werken aan een whitepaper waarin we best practices delen over inperking en het veilig draaien van cyberbeoordelingen."

Dat de fout bij Irregular zit, is opvallend. De Israëlische startup voerde namelijk ook de evaluaties bij Anthropic en OpenAI uit, waarbij het dus ook mis ging. Daarmee staat het bedrijf in het middelpunt van een discussie over veiligheid bij dit soort testen. OpenAI pleit naar aanleiding van het incident voor strengere, gedeelde standaarden en betere protocollen voor externe evaluaties in de gehele AI-industrie.