
Autonome AI-agenten van een China-gerelateerde dreigingsactor exploiteerden een zero-day kwetsbaarheid in MONAI Label, een open source tool voor medische beeldannotatie.
Amazon meldt dat autonome AI-agenten, aangestuurd door een dreigingsactor met banden in China, een zero-day kwetsbaarheid in MONAI Label hebben gevonden en misbruikt. MONAI Label is een open source tool die wordt gebruikt voor AI-ondersteunde annotatie van medische beelden. Het beveiligingsteam van Amazon ontdekte deze activiteit in september, nadat zij een onbeveiligde instantie van Cairn tegenkwamen, een open source AI-framework voor penetratietesten. Deze instantie had geen authenticatie, waardoor iedereen de opdrachten van de operator en de output van de AI-agenten kon inzien.
De logs toonden een campagne van ongeveer 48 uur gericht op IP-adressen van universiteiten in Oost-Azië buiten het Chinese vasteland. De operator gaf de agenten een lijst met doelen en instrueerde hen om shell-toegang te verkrijgen. Nadat de software op een doelwit was geïdentificeerd en de API in kaart was gebracht, ontdekten de agenten een path traversal-kwetsbaarheid in een functie voor het uploaden van bestanden. Volgens Amazon gingen de agenten binnen ongeveer 11 minuten van het in kaart brengen van de API naar het willekeurig schrijven van bestanden op de server. In een latere sessie plaatsten de agenten via deze kwetsbaarheid een Python reverse shell in een bestand dat bij elke start van de interpreter wordt uitgevoerd, waarmee uiteindelijk root-toegang werd verkregen.
Amazon Threat Intelligence beoordeelt met hoge zekerheid dat het om een zero-day gaat, omdat er geen enkele fix, melding of advisering over deze kwetsbaarheid bestaat in de bekende databases voor het open source project. De operator gaf de agenten vervolgens een proxy die toegang gaf tot een tweede universiteit en instrueerde hen om ook andere apparaten binnen dat netwerk aan te vallen. De server waar de proxy verbinding mee maakte draaide dezelfde kwetsbare software, wat erop wijst dat de aanvaller de zero-day ook daar had gebruikt om het systeem te compromitteren en de tunnel op te zetten.
De ontwikkelaars van MONAI Label publiceerden deze week een security advisory waarin de kwetsbaarheid als kritiek wordt aangemerkt. De bug treft versies 0.8.5 en eerder. Authenticatie staat standaard uit, waardoor iedereen die het netwerk kan bereiken de kwetsbaarheid kan misbruiken. Een patch is ontwikkeld en wordt opgenomen in de volgende release.
Amazon schrijft de aanval met matige zekerheid toe aan een niet nader geïdentificeerde dreigingsactor met een Chinese connectie, op basis van de gebruikte taal in de opdrachten, de tijdzone in de scripts en het feit dat de aangevallen universiteiten waarschijnlijk strategisch interessant zijn voor China.












