Uit recent onderzoek van Cisco Talos blijkt dat cybercriminelen AI steeds vaker integreren in hun dagelijkse werkwijze. Ze gebruiken AI voor het ontwikkelen en verfijnen van aanvalstools, het beheren van grootschalige infrastructuur en het versnellen van het onderzoek naar kwetsbaarheden. De studie, gepresenteerd tijdens de Black Hat USA-conferentie, toont aan dat de beveiligingsmaatregelen van AI-systemen vaak eenvoudig te omzeilen zijn.

Onderzoekers ontdekten dat aanvallers met simpele social engineering-technieken, zoals beweren dat het om geautoriseerd testen gaat, AI-modellen kunnen misleiden om schadelijke opdrachten uit te voeren. Dit probleem doet zich voor bij meerdere AI-platformen, waaronder Claude Code, CodeX, Cursor en Gemini. Wanneer gecensureerde modellen weigeren mee te werken, stappen aanvallers over op ongecensureerde alternatieven. Terwijl beginnende cybercriminelen nog steeds rudimentaire malware produceren, maken geavanceerde groepen steeds meer gebruik van AI als ontwikkelingsassistent en zelfs als beheerhulpmiddel voor hun aanvalsinfrastructuur.

Concreet werden voorbeelden gevonden van AI-gebruik bij het opzetten van bulk-mailvalidatieservices die miljoenen e-mailrecords verwerken, het ombouwen van kwetsbaarheden tot credential-harvesting pipelines, het ontwikkelen van DDoS-infrastructuur gericht op Android TV’s en het ondersteunen van cryptodiefstaloperaties. Volgens Joseph Rooke van Recorded Future verschuift de aanvalstechniek van traditionele code-exploits naar het manipuleren van grote taalmodellen via prompts. Dit maakt het mogelijk om kwaadaardige opdrachten te verbergen in gedeelde tekst, video’s of afbeeldingen, met als doel AI-assistenten te kapen voor aanvallen. Een recent voorbeeld is een aanval die zich via Microsoft Word-documenten kan verspreiden als een Copilot-worm.

Daarnaast toont onderzoek van CrowdStrike aan dat aanvallers steeds vaker AI-infrastructuur aanvallen via de softwareleveringsketen. Zo gebruikte de Noord-Koreaanse groep Stardust Chollima gestolen beheerderscredentials om het Axios npm-pakket te compromitteren en malware te verspreiden. Later injecteerden zij kwaadaardige npm-pakketten in ten minste 131 Mastra AI-frameworkpakketten, wat aantoont dat vertrouwde AI-componenten doelwit worden van supply chain-aanvallen. In de eerste helft van 2026 betrof 87% van de gedetecteerde softwareregistry-bedreigingen kwaadaardige npm-pakketten. Volgens CrowdStrike versnelt AI ook de tijd tussen het openbaar maken van kwetsbaarheden en het actief misbruiken daarvan, zoals blijkt uit snelle exploitatie door Chinese APT-groepen binnen 24 uur na publicatie van proof-of-concept code.