Cybercriminelen maken gebruik van trojanized gedeelde bestanden om malware te verspreiden via AI-distributieplatforms zoals Hugging Face en ClawHub, meldt Acronis. De aanvallen richten zich niet op het compromitteren van AI-agenten zelf, maar vertrouwen op social engineering om gebruikers te misleiden tot het downloaden van bestanden met kwaadaardige code. Deze code is ontworpen om opdrachten uit te voeren, payloads op te halen en verborgen afhankelijkheden te installeren.

Net als andere AI-distributieplatforms stellen zowel Hugging Face als ClawHub ontwikkelaars in staat om eenvoudig code te delen. Cybercriminelen misbruiken het vertrouwen van gebruikers in deze platforms voor kwaadaardige doeleinden. Volgens Acronis is een belangrijk aspect van deze activiteiten het misbruiken van het vertrouwen tussen gebruikers, AI-agenten en externe bronnen. Door technieken zoals indirecte promptinjectie kunnen aanvallers verborgen instructies inbedden die door AI-systemen worden uitgevoerd zonder dat gebruikers dit doorhebben, zoals Acronis uitlegt.

Op ClawHub identificeerde Acronis bijna 600 kwaadaardige skills verspreid over 13 ontwikkelaarsaccounts, die trojans, cryptominers en informatie-diefstalprogramma’s verspreiden gericht op Windows- en macOS-systemen. Twee accounts bevatten het merendeel van deze skills: hightower6eu met 334 en sakaen736jih met 199 kwaadaardige extensies. Binnen het OpenClaw-ecosysteem zijn skills community-gebouwde uitbreidingen die de mogelijkheden van AI-agenten vergroten. Deze modulaire architectuur geeft de AI ook de mogelijkheid om externe code met hoge privileges uit te voeren. Door indirecte prompts in bronnen te injecteren die de AI leest, instrueren aanvallers de agenten om code te downloaden en uit te voeren op de systemen van gebruikers, wat leidt tot malware-infecties. Een van de payloads die macOS-gebruikers treft is de beruchte Atomic macOS Stealer (AMOS).

Acronis merkt op dat dreigingsactoren die voorheen traditionele verspreidingskanalen zoals malvertising gebruikten, steeds vaker overstappen op het vergiftigen van vertrouwde distributiekanalen. Vooral AI-gerelateerde platformecosystemen zoals ClawHub worden misbruikt om payloads te leveren, waarbij ze het vertrouwen van gebruikers in legitiem ogende AI-tools benutten. Bij twee verspreidingscampagnes via Hugging Face creëerden aanvallers repositories met kwaadaardige bestanden die multi-step infectieketens opzetten, leidend tot infostealers, trojans, malware loaders en andere malware gericht op Windows, Linux en Android.

Volgens Acronis kunnen ook andere campagnes het platform misbruiken, mede door de groeiende populariteit en snelle expansie van Hugging Face. Vanwege de schaal en dynamiek van de gehoste content is het moeilijk om de volledige omvang nauwkeurig te meten. De werkelijke omvang van deze activiteiten is waarschijnlijk groter en vereist verder onderzoek.