Linux Foundation vraagt om reacties op nieuwe SAFE-richtlijnen voor AI-incidenten
De Linux Foundation publiceert een Request for Comments over de Shared AI Findings Exchange (SAFE)-richtlijnen. Deze richtlijnen zijn ontworpen om incidenten op het gebied van AI-agents om te zetten in gedeelde bescherming voor het gehele ecosysteem.
De SAFE-richtlijnen zijn gericht op het verzamelen en analyseren van AI-incidenten en bijna-incidenten, het informeren van betrokkenen, het identificeren van terugkerende beveiligingslekken en het publiceren van op bewijs gebaseerde aanbevelingen om systemische risico’s te verminderen. De richtlijnen worden ontwikkeld door een werkgroep van de Open Secure AI Alliance, waartoe meer dan 120 organisaties behoren. Het gaat onder meer om NVIDIA, Cisco, CrowdStrike, Hugging Face en Red Hat.
Modellen, tools en technieken
De Open Secure AI Alliance is eind juli opgericht door NVIDIA. Het initiatief moet onder meer modellen, tools en technieken beschikbaar maken die helpen AI veilig te maken. Aanleiding hiervoor is de aanval op Hugging Face door een AI-agent van OpenAI, die tot veel ophef heeft geleid. Later bleken ook andere AI-agents van OpenAI en ook modellen van Anthropic vergelijkbare aanvallen te hebben uitgevoerd.
Geïnteresseerden kunnen meer informatie vinden over de SAFE-richtlijnen en reageren op de richtlijnen via een GitHub-repository van de Open Secure AI Alliance.
Meer over Security
Over Wouter Hoeffnagel
