Cybercriminelen misbruiken AI-diensten steeds vaker voor aanvallen, zoals via vervalste MCP-servers en AI als command-and-control-kanaal.
Cybercriminelen maken steeds vaker gebruik van AI-systemen om aanvallen uit te voeren, vergelijkbaar met hoe zij vroeger ingebouwde enterprise tools zoals PowerShell misbruikten. In plaats van traditionele malware te gebruiken, wordt er steeds meer misbruik gemaakt van AI-tools waarop bedrijven vertrouwen, een trend die experts omschrijven als “living off the AI land.”
De methoden van misbruik binnen AI-ecosystemen breiden zich uit en omvatten onder meer vergiftigde modellen, gecompromitteerde Model Context Protocol (MCP) servers, prompt injection aanvallen en kwetsbaarheden in de AI-leveringsketen. Zo werd in september 2025 een vervalste MCP-server ontdekt die zich voordeed als een legitieme integratie voor Postmark, een transactional email service. Deze server, die werd gedownload via een populaire node.js package registry, kon gevoelige communicatie zoals wachtwoordresets en facturen stiekem aftappen voordat de hack werd ontdekt. Dit incident toont een supply chain-aanval waarbij het vertrouwen in MCP-servers wordt ondermijnd, mede doordat er geen centrale autoriteit is die de identiteit van MCP-servers verifieert, aldus Brad Micklea, CEO van Jozu.
MCP-servers verbinden AI-agenten en chatbots met data bronnen, tools en andere diensten, waardoor ze een aantrekkelijk doelwit zijn voor aanvallers. Als een kwaadwillende partij een vergiftigd hulpmiddel, aangepaste connector of kwaadaardige retrieval source in deze keten plaatst, kan de AI-agent onbewust schadelijke acties uitvoeren, waarschuwt Zahra Timsah, CEO van i-GENTIC AI.
Daarnaast worden AI-platforms misbruikt als geheime command-and-control (C2) kanalen. Malware communiceert via AI-diensten om opdrachten te ontvangen en data te exfiltreren, waardoor traditionele beveiligingsmaatregelen worden omzeild. Een voorbeeld hiervan is de SesameOp backdoor, die commandoverkeer verstopte in de OpenAI Assistants API en zo instructies aan malware camoufleerde als normale AI-ontwikkelactiviteit.
