OpenAI lanceert Teen Safety Policy Pack voor AI-veiligheid

Waar AI-veiligheid voorheen vaak een 'black box' was, kiest OpenAI nu voor een transparante aanpak. Het pakket bestaat uit prompts en datasets die direct kunnen worden gebruikt met gespecialiseerde veiligheidsmodellen, zoals de nieuwe gpt-oss-safeguard. Hiermee kunnen ontwikkelaars schadelijke content voor tieners in real-time filteren of offline analyseren.

De zes pijlers van bescherming

Het Teen Safety Policy Pack richt zich op zes specifieke risicogebieden waar tieners online vaak kwetsbaar zijn:

1. Expliciet geweld en seksuele inhoud: Het filteren van grafische beelden en teksten.
2. Schadelijke lichaamsidealen: Beleid tegen content die eetstoornissen of ongezonde schoonheidsnormen promoot.
3. Gevaarlijke uitdagingen: Bescherming tegen virale 'challenges' en riskant gedrag.
4. Ongepaste rollenspellen: Het voorkomen van suggestieve of gevaarlijke interacties met AI-personages.
5. Leeftijdsgebonden goederen: Toezicht op de promotie van alcohol, tabak of andere beperkte middelen.

Van abstracte regels naar werkende code

Wat deze release bijzonder maakt, is de technische opzet. De veiligheidsregels zijn geschreven als prompts. Ontwikkelaars hoeven dus geen complexe nieuwe algoritmes te bouwen; ze kunnen de teksten uit het pakket aan een AI-model voeden, dat vervolgens als een intelligente 'uitsmijter' fungeert voor hun eigen app of platform.

Bovendien levert OpenAI bijbehorende datasets (CSV-bestanden) mee. Hiermee kunnen ontwikkelaars testen of hun aangepaste filters nog steeds correct werken voordat ze deze live zetten, een proces dat in de softwarewereld bekend staat als regression testing.

Samenwerking via de 'ROOST Model Community'

De release vindt plaats onder de Apache 2.0-licentie, wat betekent dat de code vrij aangepast en commercieel gebruikt mag worden. OpenAI nodigt de bredere tech-gemeenschap uit om bij te dragen via de ROOST Model Community. "Dit is een startpunt, geen eindpunt," waarschuwt OpenAI in de documentatie. "Elke applicatie heeft unieke risico's. We moedigen ontwikkelaars aan om dit beleid uit te breiden op basis van hun specifieke publiek."

Waarom dit nu gebeurt

De druk op AI-bedrijven om minderjarigen te beschermen groeit wereldwijd, zowel vanuit wetgevers als vanuit bezorgde ouders. Met dit pakket probeert OpenAI een industrie-standaard te zetten. Door de tools gratis weg te geven, verkleint het bedrijf de drempel voor kleinere start-ups om robuuste veiligheidsmaatregelen te implementeren.

De modellen die bij dit pakket horen, waaronder varianten van 20 miljard en 120 miljard parameters, zijn inmiddels beschikbaar op het platform Hugging Face.