Onafhankelijk platform voor cybersecurity in Nederland

Amazon ontdekt AI-agenten die LiteLLM en Dify aanvallen voor API-sleutels

4 min lezen

Amazon signaleert AI-agenten die kwetsbaarheden in AI-apps zoals LiteLLM en Dify misbruiken om API-sleutels te stelen en te misbruiken.

Amazon heeft een campagne ontdekt waarbij AI-agenten gericht zoeken naar kwetsbaarheden in internet-blootgestelde AI-applicaties zoals LiteLLM, One API en Dify om de daarin opgeslagen API-sleutels van AI-providers te stelen. Deze bevindingen zijn gebaseerd op door Amazon's threat intelligence team onderschepte gegevens van lokservers die de aanvallers als valstrik dienden.

De onderschepte gegevens tonen aan dat de gestolen sleutels werden gebruikt om AI-modellen aan te sturen die vervolgens weer werden ingezet om naar meer sleutels te zoeken. Hoewel Amazon de gerapporteerde uitkomsten van de agenten niet kan verifiëren, is er matige zekerheid dat de aanvallen werden uitgevoerd met ARTEX, een open-source AI-tool voor penetratietests. De verzamelde informatie bevat een gedetailleerd stappenplan met bekende toegangswegen per doelwit, waaronder standaard beheerdersreferenties zoals de LiteLLM master key, onafgemaakte installaties die overgenomen kunnen worden, en bekende kwetsbaarheden in onder meer Langflow en RAGFlow.

In een afzonderlijk incident meldde Cloudflare dat ARTEX toegang kreeg tot een gecompromitteerd API-token dat werd gebruikt voor CI/CD-processen. Dit token had geen IP-beperkingen of rate limiting, waarna binnen een uur 400 database dump verzoeken werden gedaan. Het is onduidelijk of deze verzoeken succesvol data hebben opgevraagd. ARTEX werkt met een operator die doelen en taken aan een planner-agent geeft, die deze vervolgens verdeelt over worker-agenten die beveiligingstools inzetten. De agenten communiceren hun bevindingen via een groot taalmodel (LLM), waarbij de lokservers van Amazon, onderdeel van het MadPot-netwerk, zich voordeden als populaire LLM-diensten.

Van 3 oktober tot eind vorige week stuurden de agenten verzoeken met daarin de volledige campagnegeschiedenis, inclusief instructies van operators en gerapporteerde resultaten. Hoewel Amazon niet alle activiteiten live heeft kunnen volgen, geven de gegevens inzicht in de doelstellingen van de aanvallers. De dreigingsgroep wordt met matige zekerheid gelinkt aan meerdere groepen uit China, op basis van onder andere Simplified Chinese prompts en tijdzone-instellingen.

De campagne richtte zich op AI-apps die sleutels van meerdere providers beheren, omdat een enkele kwetsbare beheerpagina zo toegang kan geven tot vele accounts. Genoemde doelwitten zijn onder andere LLM-gateways en proxies zoals One API, New API, Veloera, Sub2API en LiteLLM, evenals AI-appbouwers als Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat en Ollama. Het stappenplan beschrijft ook onbeveiligde management- en providerinstellingen, authenticatie-omzeilingen via headers in One API-systemen en server-side request forgery (SSRF) via URL-fetch functionaliteiten om cloud metadata services te bereiken. Verder worden ook client-side JavaScript, source maps, debugroutes en omgevingsbestanden genoemd als bronnen van gelekte geheimen.

Wanneer cloud-credentials werden gevonden, richtten de agenten zich op beheerde diensten die AI-modellen hosten, geheime opslagplaatsen en applicatie-identiteiten, met een voorkeur voor premium AI-modellen boven algemene cloudtoegang. Om gelekte sleutels te vinden, maakten de agenten gebruik van internet-scanningdiensten, certificaattransparantielogs, GitHub-repositories, eventarchieven, npm- en PyPI-pakketten, container image layers, notebooks, model-hosting platforms, paste sites en Telegram-kanalen. De onderschepte gegevens omvatten honderden doelwitten verspreid over AI-appplatforms en andere systemen.

Amazon heeft klanten van AWS geïnformeerd die mogelijk getroffen zijn. Eerder meldde Microsoft dat aanvallers agentgebaseerde AI-tools zoals ARTEX inzetten om via GitHub naar blootgestelde geheimen te zoeken, waaronder API-sleutels voor AI-inferentie. Deze ontwikkelingen onderstrepen de groeiende dreiging van geautomatiseerde AI-gestuurde aanvallen op AI-infrastructuren en de noodzaak van adequate beveiligingsmaatregelen voor API-sleutels en toegangsbeheer.

Gepubliceerd op 16 nov 2026

Reacties

Reageer als eerste

Je e-mailadres wordt niet gepubliceerd.

Premium partners

  • Vallem
  • Normity
  • CertificeerWijzer
  • DeepCalls
  • Edufort
  • BrightSecurity
  • Brandaris Cybersecurity
  • Normec Certification B.V.
  • Afier
  • Normec Certification Institute (NCI)