OpenAI introduceert Private Safety Processing voor zakelijke markt
AI-gigant OpenAI heeft een nieuwe manier aangekondigd om de veiligheid van geavanceerde AI-modellen te bewaken, zonder dat bedrijfsdata hoeft te worden opgeslagen of ingezien door personeel. Met de introductie van Private Safety Processing biedt de AI-ontwikkelaar een oplossing voor zakelijke klanten die gebruikmaken van Zero Data Retention (ZDR), maar toch moeten voldoen aan de strengste eisen rondom risico-analyse en misbruikdetectie.
Voor veel organisaties in sterk gereguleerde sectoren – zoals de financiële dienstverlening, de gezondheidszorg en de overheid – is gegevensbescherming een harde randvoorwaarde. Onder het ZDR-beleid belooft OpenAI al langer dat invoer (prompts) en uitvoer (modelreacties) van API-klanten na verwerking direct worden verwijderd en niet worden gebruikt voor het trainen van toekomstige modellen.
Het dilemma van langdurige AI-taken
Naarmate AI-systemen autonomer worden en complexere taken uitvoeren, ontstaat er een nieuw veiligheidsvraagstuk. Schadelijke patronen of misbruik – zoals het stelselmatig peilen van de beveiliging of een ontspoorde AI-agent – zijn vaak niet zichtbaar in één losse interactie, maar pas wanneer meerdere opdrachten in samenhang worden geanalyseerd.
Tot nu toe vereisten sommige beveiligingssystemen voor geavanceerde AI-modellen dat aanbieders klantdata gedurende een bepaalde periode bewaarden voor menselijke controle. Voor veel bedrijven stuitte dat bewaarbeleid op juridische of operationele bezwaren.
Hoe Private Safety Processing werkt
Met Private Safety Processing wil OpenAI dit dilemma oplossen. Het geautomatiseerde systeem analyseert patronen over meerdere gerelateerde interacties heen, zonder dat personeel van OpenAI toegang krijgt tot de inhoud van de communicatie.
Maximale datacontrole: Klantgegevens blijven op de eigen infrastructuur van de klant staan, of worden opgeslagen op de infrastructuur van OpenAI met een versleuteling waarvan alleen de klant de sleutel bezit.
Geautomatiseerde veiligheidssignalen: Als het systeem een potentieel risico of misbruik detecteert, ontvangt OpenAI enkel een afgebakend, geautomatiseerd signaal over het type activiteit. De inhoud van de prompts en reacties blijft afgeschermd.
Onderzoek bij de klant: Zakelijke gebruikers kunnen eventuele meldingen zelf onderzoeken in hun eigen systemen. Pas bij een eventueel bezwaar of nader onderzoek kiest de klant er zelf voor om relevante informatie met OpenAI te delen.
Uitrol in september
OpenAI test de technologie momenteel met een selecte groep vroege klanten, waaronder partners als Microsoft, Glean en Databricks. Volgens CISO Sunil Agrawal van Glean is de zeggenschap over data cruciaal voor zakelijke AI-adoptie en bewijst de stap dat "veiligheid kan verbeteren zonder de privacy in gevaar te brengen."
De definitieve uitrol van Private Safety Processing staat gepland voor september, gelijktijdig met de publicatie van een gedetailleerd technisch whitepaper.
Meer over OpenAI
Over Witold Kepinski
