Kritieke cybercapaciteiten ontdekt in nieuw OpenAI-model
Ontwikkelaar OpenAI heeft de interne ontwikkeling en testen rond het aankomende AI-model Astra gedeeltelijk stilgelegd. Uit de nieuwste evaluaties en expertoordelen is gebleken dat het model significante vorderingen maakt op het gebied van autonoom coderen en cybersecurity. Hierdoor kan de organisatie niet langer uitsluiten dat het model de drempel voor 'kritieke cybercapaciteiten' heeft bereikt binnen het eigen veiligheidskader.
Onder het zogeheten Preparedness Framework van OpenAI bereikt een AI-model het kritieke niveau wanneer het zonder menselijke tussenkomst functionele zero-day kwetsbaarheden kan opsporen en uitbuiten in beveiligde, real-world systemen. Ook het zelfstandig bedenken en uitvoeren van complexe cyberaanvallen valt onder deze definitie. Eerdere geavanceerde modellen, zoals GPT-5.6-Sol, werden na evaluatie ingeschaald op het niveau 'hoog' in plaats van 'kritiek'.
Striktere beveiligingsmaatregelen en opschorting
Hoewel de testfase nog loopt, neemt OpenAI uit voorzorg direct ingrijpende veiligheidsmaatregelen. Bepaalde interne activiteiten met Astra die nog niet voldoen aan de verhoogde veiligheidseisen zijn per direct gepauzeerd.
Daarnaast voert het bedrijf een reeks verstrengde beveiligingsprotocollen door voor de verdere ontwikkeling. Het gaat hierbij onder meer om geïsoleerde testomgevingen (sandboxes), beperkte netwerk- en tooltoegang, extra encryptie en beveiliging van de modelgewichten, en verscherpte monitoring. OpenAI maakt hierbij gebruik van universele controlemechanismen die de redeneerstappen (Chain of Thought) van het model bewaken en risicovolle acties automatisch onderbreken.
Samenwerking met overheid en veiligheidsinstituten
OpenAI benadrukt dat het transparantie richting het publiek en de veiligheidsgemeenschap essentieel vindt bij dit soort capaciteitssprongen. Het bedrijf gaat samenwerken met relevante overheidsinstanties en geselecteerde AI-veiligheidsorganisaties om de mogelijkheden en risico's van Astra uit te testen. Externe partners krijgen daarnaast specifieke beveiligingsrichtlijnen opgelegd om hoog-risico evaluaties veilig uit te voeren.
Volgens OpenAI is het doel uiteindelijk om geavanceerde cyber-capabele AI-modellen in te zetten ten dienste van verdedigers, zodat kwetsbaarheden in systemen kunnen worden opgespoord en gedicht voordat kwaadwillenden er misbruik van maken.
Meer over ai
Over Witold Kepinski
