Cisco maakt herkomst en betrouwbaarheid van opensource-AI-modellen inzichtelijk

Aanleiding voor de tool is de toenemende complexiteit van de manier waarop AI-modellen tot stand komen. Modellen worden regelmatig aangepast, samengevoegd, verkleind of opnieuw uitgebracht, waardoor belangrijke informatie over hun herkomst verloren kan gaan of onduidelijk wordt weergegeven. Volgens Cisco kan dit gevolgen hebben voor bedrijven, bijvoorbeeld wanneer een licentie beperkingen oplegt aan commercieel gebruik, wanneer de locatie van een aanbieder vragen oproept over regelgeving of exportcontrole, of wanneer onduidelijke afstamming het lastiger maakt om incidenten te onderzoeken of interne goedkeuringsprocedures te doorlopen.

Alle informatie in één overzicht

De Provenance Explorer brengt verschillende soorten informatie samen in één overzicht. Naast basisgegevens zoals bron, releasedatum en omvang van een model toont het platform ook informatie over de aanbieder, waaronder hoofdkantoor en website. Voor de afstamming van modellen maakt Cisco gebruik van technische vergelijkingsmethoden, waaronder statische fingerprinting via de eigen Model Provenance Kit en gedragsanalyse via Project VAIL van externe partners, in plaats van alleen te vertrouwen op door aanbieders zelf verstrekte informatie. Daarnaast bevat elk model-overzicht licentie-informatie, gebruiksbeperkingen en de resultaten van scans op malware in de bijbehorende bestanden.

Het initiatief bouwt voort op eerder werk van Cisco op het gebied van AI-transparantie. Eerder werkte het bedrijf samen met Hugging Face aan een tool voor malwarescanning en het delen van dreigingsinformatie. Ook bracht Cisco dit jaar de Model Provenance Kit uit, een open source toolkit om gemeenschappelijke oorsprong tussen modellen vast te stellen, en de Model Provenance Constitution, een document dat vastlegt wat precies onder de herkomst van een model wordt verstaan.

Cisco benadrukt dat de informatie in de Provenance Explorer uitsluitend informatief is en geen garantie vormt voor de veiligheid of geschiktheid van een model voor een specifieke toepassing. Gebruikers blijven zelf verantwoordelijk voor het beoordelen van een model in het licht van hun eigen governance- en beveiligingseisen. De gegevens worden volgens het bedrijf regelmatig bijgewerkt en gecontroleerd door het eigen AI Threat & Security Research-team, in samenwerking met Project VAIL.