
Google identificeerde een AI-systeem dat zelfstandig softwarekwetsbaarheden opspoort en misbruikt, waarmee cyberaanvallen verder worden geautomatiseerd.
Google heeft een door hackers ingezet AI-framework ontdekt dat zelfstandig softwarekwetsbaarheden opspoort en exploits uitvoert zonder menselijke tussenkomst. Dit is de eerste keer dat onderzoekers van Google een dergelijk systeem bij dreigingsactoren hebben waargenomen. De bevindingen, gepubliceerd door de Google Threat Intelligence Group (GTIG) en Mandiant, wijzen erop dat aanvallers verder gaan dan het gebruik van generatieve AI voor losse taken en nu grotere delen van cyberaanvallen automatiseren.
Het systeem, genaamd exploit_agent, werd gevonden op een openbaar toegankelijke stagingserver. Dit multi-agent framework maakt verbinding met meerdere grote taalmodellen (LLM's) en is geconfigureerd om veranderingen in applicatiecode na beveiligingspatches te analyseren, kwetsbaarheden te identificeren en exploits te genereren zonder dat een operator elke stap hoeft aan te sturen. Ook kan het automatisch de exploits uitvoeren. Op de server trof Google data aan die van slachtoffers was buitgemaakt, evenals scripts die verdere activiteiten na een eerste compromittering ondersteunen. Uit bewijs bleek dat de operator vooral geïnteresseerd was in Franse websites binnen de media-, entertainment- en onderwijssector.
Het rapport stelt niet vast of de autonome operaties van het framework direct verantwoordelijk zijn voor de datadiefstal. Daarnaast benoemt Google een aparte campagne waarbij kwetsbaarheden in PaperCut printmanagementservers werden misbruikt. Onderzoek van GreyNoise, aangehaald in het rapport, suggereert dat een dreigingsactor AI-tools gebruikte om exploits te ontwikkelen en testen, waarna binnen vier dagen na openbaarmaking van de kwetsbaarheden een aanval op honderden organisaties volgde.
Google signaleerde ook andere AI-frameworks in gebruik door aanvallers. Zo werd CAIRN ingezet bij inbraakactiviteiten gericht op onder meer de Amerikaanse luchtvaartsector, terwijl een aangepast platform gebaseerd op PentAGI werd gebruikt voor verkenning en kwetsbaarheidsscans bij organisaties in Azië.
Volgens Jonathan Ong, senior analist bij Omdia, veranderen de onderliggende aanvalstechnieken niet wezenlijk, maar versnelt AI het proces aanzienlijk. Keith Prabhu, CEO van Confidis, stelt dat er nog weinig bewijs is dat AI individuele aanvallen succesvoller maakt, maar dat het aantal pogingen toeneemt, wat het risico op succesvolle compromitteringen vergroot. Ong benadrukt dat de frameworks veel detecteerbare activiteit genereren, waardoor organisaties met goed geconfigureerde en gemonitorde endpoint detection and response (EDR), extended detection and response (XDR) of managed detection and response (MDR) systemen veel kwaadaardige activiteiten kunnen signaleren. Google waarschuwt echter dat deze systemen ondanks detecteerbare activiteit toch hun doelen kunnen bereiken.
In plaats van hun verdediging fundamenteel te veranderen, wordt aanbevolen om gevestigde beveiligingsmaatregelen te blijven prioriteren, met name het versterken van cloud- en identiteitsbeveiliging. Ong noemt multifactor-authenticatie, sterke wachtwoorden en maatregelen tegen herhaalde inlogpogingen als effectieve beschermingen. Wel moet de reactietijd op incidenten versneld worden om gelijke tred te houden met de snelheid waarmee aanvallers deze AI-frameworks inzetten.












