Wouter Hoeffnagel - 17 maart 2023

Analyse: ChatGPT4 kan cybercriminaliteit versnellen

Analyse: ChatGPT4 kan cybercriminaliteit versnellen image

Ondanks de aanwezigheid van beveiligingen in ChatGPT4, kunnen sommige beperkingen gemakkelijk worden omzeild, waardoor aanvallers zonder veel hinder hun doelen kunnen bereiken. In sommige gevallen kunnen zelfs niet-technische actoren schadelijke tools maken.

Dit blijkt uit een security-analyse van ChatGPT4 uitgevoerd door Check Point Research (CPR). Onderzoekers van het bedrijf waarschuwen voor het potentieel van ChatGPT4 om de uitvoering van cybercriminaliteit te versnellen en zal de analyse van het platform in de komende dagen voortzetten.

Diverse scenario's

De onderzoekers schetsen verschillende scenario's waarmee aanvallers kwaadwillende inspanningen en voorbereidingen kunnen stroomlijnen, wat resulteert in snellere en nauwkeurigere resultaten om cybercriminaliteit te versnellen. In bepaalde gevallen stellen deze scenario's niet-technische personen in staat om schadelijke tools te maken, alsof het proces van coderen, bouwen en verpakken een eenvoudig recept is.

CPR deelt vijf scenario's van mogelijk kwaadaardig gebruik van ChatGPT4:

  • C++ malware die PDF-bestanden verzamelt en naar FTP stuurt
  • Phishing: nabootsing van een bank
  • Phishing: e-mails naar werknemers
  • PHP reverse shell
  • Simpele Java-snippet om PuTTY, een veel voorkomende SSH- en telnet-client, te downloaden en heimelijk op het systeem uit te voeren met behulp van PowerShell. Dit script kan natuurlijk worden aangepast om elk programma te downloaden en uit te voeren, inclusief veelvoorkomende malwarefamilies.

'ChatGPT kan ten goede als ten kwade worden ingezet'

“Na verschillende manieren te hebben gevonden waarop ChatGPT door hackers kan worden gebruikt, en verschillende cases te hebben gezien waarin dit daadwerkelijk het geval was, hebben we de afgelopen 24 uur onderzocht of er iets is veranderd in de nieuwste versie van van de tool. Het nieuwe platform is op veel niveaus duidelijk verbeterd, echter zijn er scenario's waarin kwaadwillenden cybercriminaliteit in ChatGPT4 kunnen versnellen. ChatGPT4 kan slechte actoren, zelfs niet-technische, de tools geven om hun activiteit te versnellen en te valideren. Kwaadwillende actoren kunnen ook de snelle reacties van ChatGPT4 gebruiken om technische uitdagingen bij het ontwikkelen van malware te overwinnen”, zegt Oded Vanunu, Head of Products Vulnerabilities Research bij Check Point Software.

“Wat we zien is dat ChatGPT4 zowel ten goede als ten kwade ingezet kan worden. Goede actoren kunnen ChatGPT gebruiken om code te maken en samen te voegen die nuttig is voor de samenleving; tegelijkertijd kunnen kwaadwillenden deze AI-technologie gebruiken voor snelle uitvoering van cybercriminaliteit. Aangezien AI een belangrijke en groeiende rol speelt bij cyberaanvallen en -verdediging, verwachten we dat dit platform ook door hackers zal worden gebruikt, en we zullen de komende dagen besteden om beter te begrijpen hoe.”

Meer gedetailleerde uitleg van de 5 geschetste scenario’s is hier beschikbaar.

Infopulse BW vierkant en liggend week 10 -2024 Schneider Electric BN BW start week 27 tm week 29
Schneider Electric BN start week 27 tm week 29

Wil jij dagelijkse updates?

Schrijf je dan in voor onze nieuwsbrief!