Hackers dringen binnen bij OpenAI via lek in forumsoftware
Beveiligingsonderzoekers van het cybersecuritybedrijf Hacktron zijn erin geslaagd om via een keten van kwetsbaarheden toegang te krijgen tot de interne systemen van AI-ontwikkelaar OpenAI. Door een combinatie van een geheugenlek in een beeldverwerkingsbibliotheek en een verkeerde configuratie binnen de identiteitsinfrastructuur van OpenAI konden de onderzoekers ChatGPT- en Codex-accounts van medewerkers overnemen.
De onderzoekers startten hun analyse bij het officiële communityforum van OpenAI. De gebruikte forumsoftware bleek een kwetsbare versie van de bibliotheek libheif te bevatten voor het verwerken van afbeeldingen. Door een geprepareerd bestand te uploaden, kregen de hackers via een zogenaamde heap buffer overflow de mogelijkheid om op afstand eigen code uit te voeren op de server van het forum.
Gevaren van gekoppelde identiteitssystemen
Hoewel de inbreuk op de forumomgeving op zichzelf al schadelijk is, leidde een fout in het Single Sign-On mechanisme van OpenAI tot een veel groter veiligheidsrisico. De kwetsbaarheid zorgde ervoor dat beheerders- en gebruikersrechten binnen het forum direct konden worden omgezet in toegang tot de gekoppelde ChatGPT- en Codex-accounts van OpenAI-personeel.
Om de impact van het lek aan te tonen zonder gevoelige bedrijfsinformatie in te zien, lieten de onderzoekers de Codex-assistent van een getroffen medewerker automatisch een softwarewijziging indienen in de interne code-repository van OpenAI. Via een dergelijke accountovername hadden kwaadwillenden in theorie ook toegang kunnen krijgen tot gekoppelde zakelijke communicatiemiddelen, waaronder e-mail en externe ontwikkeldiensten.
Inzet van geavanceerde AI-modellen bij exploits
Bij het ontwikkelen van de aanval maakten de onderzoekers intensief gebruik van AI-modellen zoals Claude Opus van Anthropic. Het geautomatiseerde AI-systeem hielp de beveiligingsexperts om de technische barrières in de software binnen enkele uren te omzeilen. Waar traditionele beveiligingsanalyses van complexe geheugenlekken voorheen weken handwerk vereisten, toont deze case aan dat AI-technologie het bouwen van werkende exploits drastisch versnelt.
OpenAI en de ontwikkelaars van de forumsoftware werden direct na de ontdekking geïnformeerd via een verantwoordelijk proces van kwetsbaarheidsmelding. OpenAI dichte het lek in het identiteitssysteem binnen veertien uur na ontvangst van het rapport en kende de onderzoekers een beloning toe via het bug bounty-programma. Ook de softwareleverancier van het forum heeft inmiddels updates en extra beveiligingslagen uitgebracht om de verwerking van afbeeldingsbestanden beter af te schermen.
Meer over OpenAI
Over Witold Kepinski
