Fable 5 en Mythos 5 van Anthropic zijn weer beschikbaar

De Amerikaanse overheid gaf Anthropic op 12 juni opdracht de toegang tot Fable en Mythos voor niet-Amerikaanse gebruikers te blokkeren. Anthropic blokkeerde hierop de toegang voor alle gebruikers tot de modellen. Deze beperkingen zijn nu ingetrokken, meldt Anthropic.

Voor Mythos 5 is de toegang hersteld voor een groep Amerikaanse organisaties, waarvoor de Amerikaanse overheid op 26 juni toestemming gaf. Anthropic meldt te werken aan bredere toegang voor binnen- en buitenlandse partners binnen het Glasswing-programma.

Wijzigingen

Het AI-bedrijf kondigt een aantal wijzigingen aan:

• Tijdlijn van gebeurtenissen en veiligheidsmaatregelen: Er wordt uitleg gegeven over de gebeurtenissen die leidden tot de exportcontrole en hoe het bedrijf hierop reageerde met nieuwe veiligheidsmaatregelen.
• Algemene aanpak van veiligheidsmaatregelen: Het bedrijf licht toe hoe het veiligheidsklassificaties gebruikt om potentieel gevaarlijk gebruik van de modellen op het gebied van cybersecurity op te sporen.
• Gedeeld kader voor de sector: Hoewel er een constructieve oplossing is bereikt, benadrukken de gebeurtenissen de noodzaak van een consistente manier om potentiële “jailbreaks” (technieken die de veiligheidsmaatregelen van AI-modellen omzeilen) te beoordelen en op te lossen. Een gedeelde standaard voor het bepalen van de ernst van een dergelijke jailbreak zou AI-ontwikkelaars helpen om nieuwe bevindingen te prioriteren, krachtige modellen veilig uit te brengen en het risiconiveau consistent te communiceren naar overheid en sectorpartners. Samen met Amazon, Microsoft, Google en andere Glasswing-partners is gewerkt aan de ontwikkeling van zo’n kader.
• Nauwere samenwerking met de overheid: Het bedrijf versterkt de samenwerking met de Amerikaanse overheid op het gebied van pre-release testen, informatiedeling en onderzoekssamenwerking.

Meer informatie is hier beschikbaar.