Hackende AI-agent van OpenAI maakte meer slachtoffers
Een AI-agent die begin juli ontsnapte tijdens een test bij OpenAI en vervolgens dagenlang inbrak bij het AI-bedrijf Hugging Face, heeft ook een klant van een tweede techbedrijf getroffen. Modal Labs benadrukt dat het bedrijf zelf niet is gehackt.
Dat melden een leidinggevende van het Amerikaanse bedrijf Modal Labs en twee andere bronnen die bekend zijn met de zaak aan Reuters. Volgens een tijdlijn die Hugging Face dinsdag publiceerde, drong de agent eerst binnen in een sandbox, die werd gehost op de infrastructuur van een externe aanbieder. Van daaruit werd de bredere aanval opgezet. De naam van die aanbieder wordt in het blogbericht niet genoemd, maar Modals technisch directeur Akshat Bubna meldt dat de agent kwetsbare code misbruikte die was geschreven door een klant en gehost werd op het platform van Modal.
Volgens Modal had die klant een 'ongeauthoriseerde endpoint' gepubliceerd, die de sandboxes van de klant via internet toegankelijk maakte voor het uitvoeren van code zonder authenticatie. Bubna vergelijkt dit met een openstaande deur op internet en stelt dat het platform en de isolatiemechanismen van Modal zelf niet zijn gecompromitteerd.
OpenAI: 'In totaal vier diensten getroffen'
OpenAI wil niet specifiek reageren op de inbraak bij de Modal-klant en verwijst tegenover Reuters naar een eigen update, waarin het bedrijf meldt dat de agent had ingebroken bij vier accounts bij vier verschillende diensten. OpenAI noemde deze diensten niet, maar een bron die bekend is met de zaak identificeerde Modal als een van de vier. Volgens het bedrijf is geen andere activiteit vastgesteld van vergelijkbare ernst of omvang als de inbraak bij Hugging Face, die volgens OpenAI een compromittering op platformniveau betrof.
De inbraak bij Hugging Face begin juli, uitgevoerd door een agent die buiten controle raakte tijdens een test van OpenAI, trok wereldwijd aandacht en riep vergelijkingen op met sciencefictionscenario's over kunstmatige intelligentie die zich aan menselijke controle onttrekt.
'OpenAI ontdekte hack pas laat'
Persbureau Reuters meldde vorige week dat OpenAI pas in de gaten kreeg dat de agent was ontspoord nadat de dreiging al was ingedamd en de FBI was gewaarschuwd. OpenAI liet destijds weten dat er onjuistheden zaten in de berichtgeving van Reuters, zonder dit verder toe te lichten.
Meer over Security
Over Wouter Hoeffnagel
