OpenAI zoekt nieuwe hoofd Head of Preparedness voor opsporen veiligheidsrisico's
OpenAI is op zoek naar een nieuwe Head of Preparedness, een functie met een basissalaris van 555.000 dollar plus aandelenopties. De rol is gericht op het beveiligen van de systemen van het bedrijf en het in kaart brengen van mogelijke misbruikrisico’s van AI-modellen, die volgens CEO Sam Altman steeds sneller verbeteren en nieuwe uitdagingen met zich meebrengen.
Altman benadrukt in een bericht op X dat de snelle ontwikkeling van AI-modellen "echte uitdagingen" oplevert. Hij wees op mogelijke gevolgen voor de geestelijke gezondheid, zonder verdere details te geven over specifieke gevallen of producten.
Preparedness framework
De Head of Preparedness is verantwoordelijk voor de technische strategie en uitvoering van OpenAI’s preparedness framework, een kader dat het bedrijf gebruikt om 'grensverleggende mogelijkheden' te monitoren die nieuwe risico’s op ernstige schade kunnen veroorzaken.
De functie is niet nieuw: tot juli 2024 werd deze vervuld door Aleksander Madry, directeur van MIT’s Center for Deployable Machine Learning. Na zijn vertrek namen Joaquin Quinonero Candela en Lilian Weng de leiding over het preparedness-team op zich. Beide functionarissen verlieten de rol echter al snel. Weng vertrok in november 2024 bij OpenAI, terwijl Candela in april 2025 zijn positie verruilde voor een stageplaats als programmeur. Momenteel is hij werkzaam als hoofd werving bij het bedrijf.
Meer over Artificial intelligence
Over Wouter Hoeffnagel
