AI-desinformatie bedreigt reputatie en financiën
De opkomst van door kunstmatige intelligentie gegenereerde nepcontent en deepfakes vormt een directe bedreiging voor de veiligheid, reputatie en financiën van bedrijven. Tijdens de Gartner Security & Risk Management Summit in Londen presenteerde analist Akif Khan (foto) een strategisch stappenplan voor CISOs om door AI gedreven desinformatie te bestrijden. Gartner voorspelt dat tegen 2027 meer dan 70 procent van alle digitale content synthetisch zal zijn, waardoor het bewijzen van de echtheid van informatie net zo belangrijk wordt als het opsporen van vervalsingen.
De toenemende inzet van deepfakes in combinatie met geavanceerde social engineering stelt beveiligingsteams voor nieuwe uitdagingen. Kwaadwillenden zetten nepberichten en gemanipuleerde media niet alleen in om medewerkers te misleiden, maar ook om gecoördineerde narratieve aanvallen uit te voeren via sociale media.
Miljoeneninvesteringen in authenticatie van content
Volgens Gartner wordt het vertrouwen in digitale content de komende jaren zo schaars en waardevol dat het bedrijfsleven tegen 2030 wereldwijd meer dan 25 miljard dollar zal uitgeven aan het authenticeren en verifiëren van informatie.
Khan onderstreepte dat de strijd tegen desinformatie niet langer uitsluitend een IT-beveiligingsvraagstuk is. Om de interne aanvalsoppervlakken te beschermen, moeten CISOs intensief samenwerken met de CIO om authenticatiemechanismen aan te scherpen, detectietechnologieën te verbeteren en gerichte awareness-trainingen voor personeel op te zetten.
Samenwerking tussen security, marketing en communicatie
Aanvallen die gericht zijn op het beïnvloeden van de publieke opinie of het beschadigen van de merkidentiteit treffen de gehele organisatie. Bescherming hiertegen vereist een nauwe afstemming tussen security-, communicatie- en marketingleiders.
Gartner adviseert organisaties om een zogeheten vandoorlopende 'trust council' op te richten. In dit interdisciplinaire bestuursorgaan moeten de governance, de verantwoordelijkheden en de responsstrategieën rondom desinformatie over afdelingsgrenzen heen worden gecoördineerd om de digitale weerbaarheid van het bedrijf te borgen.
Meer over gartner
Over Witold Kepinski
