Unit 42 heeft een incident onderzocht waarbij een menselijke aanvaller frontier AI inzette om autonoom een bedrijfsnetwerk te compromitteren als onderdeel van een ransomware-aanval. De AI-agenten doorbraken op methodische wijze verschillende beveiligingslagen, waarbij elke agent zich richtte op een andere verdedigingslaag om een gezamenlijk doel te bereiken. De impact van deze aanval was vergelijkbaar met een gecoördineerde operatie van meerdere red teams, die normaal gesproken ongeveer twee weken in beslag zou nemen.

Volgens de aanvaller werden frontier AI-modellen en aanvalsspecifieke agentic AI-frameworks gebruikt. Door de uitvoering te automatiseren in een continue cyclus, werd een methodische inbraaktechniek die meer dan 50 MITRE ATT&CK-technieken omvatte, teruggebracht tot minder dan tien uur. Na het verkrijgen van initiële toegang gebruikte de aanvaller AI-agenten om de interne architectuur in kaart te brengen, broncode-repositories te doorzoeken en root-credentials te bemachtigen. Tevens werden ongeautoriseerde CI/CD-builds gestart en werden master keys van de cloud AI-infrastructuur van het slachtoffer in bezit genomen.

Wat deze aanval onderscheidde was de operationele efficiëntie dankzij AI-ondersteuning, zonder dat er een nieuwe zero-day of uitzonderlijk geavanceerde technieken nodig waren. De AI-agenten namen de tactische uitvoering voor hun rekening door in real time te monitoren, evalueren, handelen en plannen, wat de snelheid van de aanvalsketen aanzienlijk verhoogde. De aanvaller liet bovendien een technisch rapport van 80 pagina's achter, waarin tientallen misbruiken en kwetsbaarheden binnen de organisatie werden gedocumenteerd.

De aanval volgde een tien uur durende operationele tijdlijn, beginnend met het binnendringen via een publiek API-endpoint en het inzetten van een automatische verkenningsagent om interne microservices in kaart te brengen. Vervolgens werden hard-coded tokens en wachtwoorden uit code-repositories verzameld. Met deze gegevens werd het secrets management-systeem gekraakt om root-toegang te verkrijgen. Daarna werden CI/CD-pijplijnen misbruikt om cloud toegangssleutels te exfiltreren, waarbij pogingen om achterdeurtjes in Terraform-configuraties te plaatsen werden tegengehouden door strikte branch-protectie. Met de gestolen cloud-sleutels werden AI-endpoints van het slachtoffer gekaapt en ingezet als post-compromise infrastructuur voor toekomstige acties.

Deze AI-gestuurde aanval toont aan hoe huidige AI-ontwikkelprocessen kunnen worden misbruikt om penetratietests en inbraken te versnellen en te automatiseren. De gebruikte technieken zijn in kaart gebracht met behulp van MITRE ATT&CK en ATLAS frameworks, waarbij onder andere exploitatie van publieke applicaties, netwerkservice-ontdekking en credential scraping werden toegepast. Dit incident benadrukt de noodzaak van versterkte beveiligingsmaatregelen tegen geautomatiseerde en AI-ondersteunde dreigingen.