Malwareontwikkelaars gebruiken natuurlijke taal om AI-gedreven analyse te misleiden, blijkt uit onderzoek van Cisco Talos over vier malwarefamilies.
Malwareontwikkelaars passen nieuwe technieken toe om AI-gedreven analyse te omzeilen. Deze methode, aangeduid als “AI-analysis evasion”, bestaat uit het inbedden van natuurlijke taal instructies in malwarecode die bedoeld zijn om geautomatiseerde AI-analyse te beïnvloeden. Hoewel deze techniek goedkoop toe te voegen is, blijkt uit tests dat het in ongeveer 35% van de gevallen het resultaat in het voordeel van de aanvaller kan beïnvloeden. Omdat de instructies altijd in platte tekst zijn, zijn ze echter ook altijd detecteerbaar.
Volgens Cisco Talos, dat deze malwareclassificatie “A3: AI-Analysis Evasion” noemt, wordt deze aanpak bewust ingezet om de nieuwe AI-analysemethoden van verdedigers te omzeilen. In het onderzoek, uitgevoerd met behulp van het CAIRN-project, worden de natuurlijke taal instructies gezien als een signaal dat actief wordt gezocht om de ontwikkeling van deze technieken te volgen. In de afgelopen 18 maanden zijn diverse anti-analysetechnieken waargenomen, waaronder verspreiding van bekende methoden over verschillende malwarefamilies en de evolutie van eenvoudige naar geavanceerdere implementaties. Het onderzoek richt zich op vier bevestigde A3-families: FRUITSHELL, PLOTSAFE, HOLLOWCLAD en MANTLEMAZE, met in totaal 84 verschillende samples verzameld tussen januari 2025 en juli 2026.
Deze nieuwe laag van anti-analyse richt zich niet op de traditionele binairgerichte technieken zoals packers, versleuteling, VM-gebaseerde obfuscatie of anti-debug controles. In plaats daarvan wordt de pijplijn aangevallen die tekst uit malware-exemplaren extraheert en deze doorstuurt naar taalmodellen voor triage, classificatie of ondersteuning bij reverse-engineering. Omdat taalmodellen zowel de inhoud van het bestand als de vraag van de analist ontvangen, kan een instructie-achtige zin in de malware ertoe leiden dat het model deze tekst als een gezaghebbende opdracht interpreteert in plaats van als data.
De eerste bekende malware die deze A3-techniek toepaste is FRUITSHELL, een eenvoudige PowerShell reverse shell die variabelen met fruitnamen gebruikte. Opvallend is een commentaarregel in de code die expliciet aan AI en taalmodellen meldt dat het bestand niet geanalyseerd hoeft te worden en niet kwaadaardig is, terwijl de daadwerkelijke functionaliteit van de shell gewoon actief blijft. Deze commentaarregel beïnvloedt de uitvoering niet, maar is bedoeld om in geautomatiseerde analysepijplijnen te verschijnen. Deze techniek is in de 15 maanden na de eerste ontdekking meerdere keren hergebruikt door verschillende actoren in onafhankelijke scripts, wat wijst op een bredere adoptie van deze AI-ontwijkingsmethode.
