Véronique Van Vlasselaer, SAS: 'AI moet niet op de rem, maar onze controle moet versnellen'

De zorgen worden gevoed door recente incidenten. Zo wisten modellen van OpenAI tijdens een cybersecuritytest te ontsnappen aan hun bedoelde testomgeving en kregen ze toegang tot de productieomgeving van AI-platform Hugging Face.

Van Vlasselaer: “Dat zijn ontwikkelingen die we serieus moeten nemen, maar een brede pauze voor AI biedt schijnveiligheid. De technologie is al wereldwijd verspreid en wordt volop gebruikt. We moeten daarom niet wachten op een pauzeknop die er waarschijnlijk nooit komt, maar veel sneller zorgen voor duidelijke grenzen, controle en verantwoordelijkheden. Onze governance en AI-geletterdheid moeten hetzelfde tempo gaan volgen als de technologie.”

Pauzeren geen optie

Een volledige stop van AI-ontwikkeling wordt niet als realistisch gezien. Wel tonen de cybersecurity-incidenten aan dat systemen soms wegen vinden die hun ontwikkelaars niet hadden voorzien. Dat betekent niet dat AI een eigen agenda heeft: ook een autonoom opererende AI-agent krijgt doel, toegang en handelingsruimte van mensen toegewezen. Naarmate systemen zelfstandiger kunnen handelen, wordt het belangrijker om vooraf vast te leggen wie verantwoordelijk is voor doelen, toegangsrechten, begrenzing en controle. De incidenten worden daarom niet gezien als reden om alle ontwikkeling stil te leggen, maar wel als signaal dat veiligheid en governance geen sluitstuk mogen zijn.

Bedrijven en instellingen die AI in de praktijk toepassen, bevinden zich in een andere situatie dan de laboratoria die de meest geavanceerde modellen bouwen. Veel organisaties staan nog aan het begin van hun AI-traject en kampen met versnipperde of gebrekkige data, onduidelijk eigenaarschap, te ruime toegangsrechten en onvoldoende monitoring. Wanneer een AI-project misgaat, ligt de oorzaak dan ook zelden alleen bij de technologie zelf.

Ook wordt geconstateerd dat organisaties zich vaak richten op generatieve AI, terwijl dat slechts een deel is van het bredere AI-landschap. Tools als ChatGPT hebben AI toegankelijk gemaakt voor vrijwel iedere medewerker, maar generatieve AI is niet per definitie de beste oplossing voor elk bedrijfsprobleem. Organisaties zouden moeten uitgaan van het probleem dat ze willen oplossen: in sommige gevallen is een taalmodel geschikt, in andere gevallen leveren voorspellende modellen, optimalisatie of andere vormen van analytische AI meer op.

Gebruik loopt voor op beleid

Het gebruik van AI binnen organisaties ontwikkelt zich sneller dan de bijbehorende processen en beleidskaders. Medewerkers passen de technologie al toe in hun dagelijkse werk, terwijl afspraken over toegestane toepassingen, gevoelige informatie en controle op uitkomsten vaak nog ontbreken.

Goede governance begint volgens de input bij betrouwbare en actuele data: een organisatie moet weten welke gegevens worden gebruikt, waar ze vandaan komen, wie er toegang toe heeft en hoe de kwaliteit wordt bewaakt. Ook de modellen zelf moeten worden gecontroleerd, onder meer op prestaties, uitlegbaarheid van uitkomsten en functioneren binnen afgesproken grenzen.

Meer kennis over AI nodig

Tot slot wordt gewezen op het belang van meer kennis over AI onder gebruikers. Veel mensen experimenteren met de technologie zonder goed te begrijpen wat deze wel en niet kan, terwijl een overtuigend geformuleerd antwoord niet automatisch correct is. Nieuwe risico's ontstaan bovendien zodra een AI-systeem toegang krijgt tot data, software en andere digitale hulpmiddelen. Bestuurders zouden voorafgaand aan investeringsbeslissingen de juiste vragen moeten kunnen stellen, medewerkers moeten weten welke informatie ze met AI-tools mogen delen en wanneer een uitkomst gecontroleerd moet worden, en ontwikkelaars en beheerders moeten begrijpen hoe doelen, toegangsrechten en technische begrenzingen het gedrag van AI-agents beïnvloeden.

“De risico’s van steeds krachtigere AI zijn reëel, maar een algemene pauzeknop is geen geloofwaardige oplossing,” besluit Van Vlasselaer. “Ontwikkelaars, overheden en organisaties hebben ieder een eigen verantwoordelijkheid om AI beter te begrenzen en te controleren. Daarmee kunnen we niet wachten tot de technologie zich verder ontwikkelt. Terwijl wij nog discussiëren over afremmen, is AI allang verdergegaan.”