Gezichtsherkenningsystemen nog altijd kwetsbaar voor AI-manipulatie

Naarmate gezichtsherkenningstechnologieën steeds vaker worden geïntegreerd in sectoren zoals beveiliging, grenscontrole, gezondheidszorg, financiën en marketing, maken vooruitgangen in generatieve AI tegelijkertijd de creatie van zeer realistische synthetische beelden en geavanceerde gezichtsmodificaties mogelijk. AI-gestuurde toepassingen worden nu breed gebruikt voor beeldverbetering, retoucheren, gezichtsbewerking en identiteitstransformatie, waarbij de resultaten vaak niet van echte foto’s te onderscheiden zijn.

Gemanipuleerd met opensource-software

Om beter te begrijpen hoe gezichtsherkenningsystemen reageren op deze transformaties, voerde het Kaspersky Global Research and Analysis Team (GReAT) een experiment uit. Hierbij werd gebruikgemaakt van een veelgebruikte opensource computer vision- en machine learning-bibliotheek die vaak wordt toegepast in gezichtsherkenningsonderzoek en geautomatiseerde visuele analysesystemen.

Tijdens het experiment werden originele portretfoto’s bewerkt met generatieve AI-tools om zowel verouderings- als verjongingsscenario’s te simuleren. In veel gevallen leken de resulterende beelden voor menselijke waarnemers op volledig andere individuen. Ondanks deze aanzienlijke visuele veranderingen, koppelde het gezichtsherkenningsysteem de AI-gemanipuleerde beelden consistent aan de oorspronkelijke identiteiten in alle tien de onafhankelijke testgevallen.

De resultaten suggereren dat moderne gezichtsherkenningsystemen afgaan op diepere geometrische en structurele gezichtskenmerken in plaats van op oppervlakkige visuele overeenkomsten die door mensen worden waargenomen. Zelfs wanneer het uiterlijk van een gezicht aanzienlijk verandert, kunnen herkenningsalgoritmen stabiele biometrische markeringen detecteren die behouden blijven bij synthetische transformaties.

Nieuwe uitdagingen

“Hoewel het experiment geen grootschalige studie is, vormt het een proof-of-concept voor een potentiële AI-aangedreven aanval waar de sector rekening mee moet houden. Het illustreert een cruciale praktische implicatie: AI-gegenereerde gezichtstransformaties kunnen de biometrische identiteit behouden, zelfs wanneer mensen de beelden als volledig verschillende individuen interpreteren. Dit schept nieuwe uitdagingen voor digitaal vertrouwen, identiteitsverificatie en fraudepreventie in een tijdperk van snel evoluerende synthetische media,” legt Maher Yamout, Lead Security Research bij Kaspersky Global Research & Analysis Team, uit.

Naarmate synthetische mediatechnologieën zich blijven ontwikkelen, benadrukken Kaspersky-onderzoekers dat deze ontwikkelingen meer aandacht vereisen van ontwikkelaars van digitale identiteitssystemen, cybersecurityprofessionals en regelgevers om ervoor te zorgen dat biometrische technologieën veilig, betrouwbaar en veerkrachtig blijven tegen opkomende AI-gedreven bedreigingen.