AI-bugzoeker van Google heeft twintig kwetsbaarheden gevonden

Big Sleep is een AI agent gebaseerd op Googles taalmodellen, die zich alleen bezig houdt met het vinden en rapporteren van kwetsbaarheden. Nu heeft het systeem maar liefst twintig kwetsbaarheden gevonden in populaire opensourcesoftware, maakt Heather Adkins, vicepresident van security bij Google, op X bekend. Het gaat om software als FFmpeg - gericht op audio en video - en ImageMagick, waarmee foto's bewerkt kunnen worden. 

De kwetsbaarheden zijn nog niet opgelost, wat voor Google reden is om nog geen nadere details over de gevonden kwetsbaarheden te delen, schrijft TechCrunch. Wel is een volledige lijst gepubliceerd van de gevonden bugs en de projecten waar ze in zitten. 

De resultaten laten echter zien dat tools als deze nu wel resultaten beginnen op te leveren. Daarbij blijven vooralsnog wel mensen betrokken, vertelt een woordvoerder tegenover TechCrunch. "Om een hoge kwaliteit en bruikbare rapporten te garanderen, hebben we een menselijke expert bij de rapportage betrokken, maar elke kwetsbaarheid werd door de AI-agent gevonden en gereproduceerd zonder menselijke tussenkomst."

Aanval voorkomen

Big Sleep kwam halverwege juli ook al in het nieuws. Het AI-systeem wist toen een dreigende cyberaanval te detecteren en te stoppen voor deze plaats kon vinden, schreef Vice toen. Big Sleep ontdekte een kwetsbaarheid in SQLite, wat volgens Google een 'kritieke kwetsbaarheid' was, 'die alleen bekend was bij cybercriminelen en risico liep om misbruikt te worden. "Door de combinatie van threat intelligence en Big Sleep kon Google voorspellen dat er op korte termijn misbruik zou worden gemaakt van een kwetsbaarheid en konden we deze van tevoren blokkeren", aldus Google destijds.