Google waarschuwt dat LLMjacking aanvallen bedrijven tot 1 miljoen dollar aan frauduleuze cloudkosten kunnen opleveren.
Google waarschuwt dat kwaadwillenden toegang tot Large Language Models (LLM's) van bedrijven kapen om op frauduleuze wijze dure cloud- en AI-diensten te gebruiken. Deze methode, bekend als LLMjacking, maakt misbruik van gestolen API-sleutels via phishing, lekken in broncode, verkeerd geconfigureerde omgevingen of openbaar toegankelijke client-side code. Hierdoor krijgen aanvallers ongeautoriseerde toegang tot LLM-accounts, terwijl de rechtmatige eigenaar opdraait voor de kosten.
De aanvallen vinden wereldwijd plaats, met slachtoffers in Noord- en Zuid-Amerika en de regio Azië-Pacific, verspreid over sectoren als financiële dienstverlening, retail, technologie en transport. Volgens een rapport van de Google Threat Intelligence Group en Mandiant, gedeeld met The Hacker News, kunnen deze aanvallen in enkele uren leiden tot enorme pieken in frauduleuze cloudkosten. In individuele gevallen zijn kosten van meer dan 100.000 dollar per dag waargenomen, met totaalbedragen tot 1 miljoen dollar voordat de toegang werd ingetrokken.
LLMjacking varieert van relatief laagdrempelige diefstal van resources, zoals het misbruiken van klantenservice-chatbots voor ongeautoriseerde taken, tot geavanceerde aanvallen die direct de backend LLM-resources targeten. Aanvallers identificeren bijvoorbeeld openbaar toegankelijke LLM-eindpunten of verkrijgen geldige API-sleutels. De meest gebruikte toegangsmiddelen zijn gestolen of blootgestelde cloud identity tokens, zoals IAM-credentials, Service Account keys, GitHub Personal Access Tokens en actieve sessietokens. Hiermee vestigen zij een initiële toegang tot de infrastructuur van de doelorganisatie.
Een bekende dreigingsactor, UNC6993, drong een cloudomgeving binnen via een verkeerd geconfigureerde Service Account key en gebruikte deze om toegang te krijgen tot een LLM API. Deze actor zette ook een sessie-hijacking pagina op die zich voordeed als een applicatieportaal voor LLM-gebruikers. Deze pagina misleidt gebruikers om hun actieve toegangstoken in te voeren, waarmee de aanvaller wachtwoord- en multi-factor authenticatie kan omzeilen.
In een ander geval maakte een onbekende aanvaller gebruik van een gestolen Personal Access Token om toegang te krijgen tot private code repositories, gevolgd door het misbruiken van een vermoedelijke kwetsbaarheid in een webapplicatie binnen een containerized cloudomgeving. Andere toegangsroutes omvatten het compromitteren van IAM-credentials van medewerkers om nieuwe toegangssleutels te genereren en het gebruik van gehackte Service Account keys met brede rechten, evenals LLM API-sleutels die openbaar op GitHub zijn gevonden.
Na het verkrijgen van toegang escaleren de aanvallers snel hun privileges, verdiepen ze zich in het netwerk, vestigen ze persistente toegang en voeren ze interne verkenningen uit om extra doelwitten en cloudcredentials te identificeren voor laterale beweging. Hierbij worden cloudservices, code repositories en datastores gescand op gevoelige credentials, worden toegangspatronen geanalyseerd en worden databases bevraagd om extra inloggegevens te verzamelen. Ook worden cloud identity permissies en virtuele machine configuraties misbruikt om de aanval verder uit te breiden.
