Het machine learning samenwerkingsplatform Hugging Face heeft een datalek bekendgemaakt als gevolg van een cyberaanval uitgevoerd door een autonome AI-agent. De aanval richtte zich op de productie-infrastructuur van het bedrijf en leidde tot ongeautoriseerde toegang tot interne datasets en service-credentials.

Volgens Hugging Face werd een datapijplijn gebruikt als toegangspunt, gevolgd door escalatie op nodeniveau, het verzamelen van credentials en laterale beweging binnen het netwerk. Het bedrijf legt uit dat een kwaadaardige dataset misbruik maakte van twee code-uitvoeringspaden in de datasetverwerking, namelijk een remote-code dataset loader en een template-injectie in een datasetconfiguratie, om code uit te voeren op een verwerkingsworker. De aanvallers maakten gebruik van een autonoom framework gebaseerd op een agentic security-research omgeving om tienduizenden acties uit te voeren binnen kortlevende sandboxes. Daarbij gebruikten ze publieke diensten om zelfmigrerende command-and-control (C&C) functionaliteiten op te zetten.

Hugging Face reageerde grotendeels met eigen AI, verholpen de kwetsbaarheden in de dataset code-uitvoeringspaden die voor de initiële toegang werden gebruikt, verwijderden de aanvallers uit de infrastructuur, bouwden de getroffen nodes opnieuw op en herroepen en roterden alle getroffen credentials. Daarnaast werden als voorzorgsmaatregelen breed geheimen ingetrokken, strengere toegangscontroles en extra beveiligingsmaatregelen geïmplementeerd, en de detectie en alarmering verbeterd. Het incident is gemeld bij de opsporingsdiensten en wordt onderzocht in samenwerking met externe cybersecurity forensische specialisten.

Er is geen bewijs gevonden voor manipulatie van publieke, gebruikersgerichte modellen, datasets of Spaces, en de software supply chain, waaronder container images en gepubliceerde pakketten, is geverifieerd als schoon. De systemen van Hugging Face registreerden meer dan 17.000 gebeurtenissen gerelateerd aan de inbraak en voerden agentic analyses uit om de tijdlijn en omvang van het incident te reconstrueren. Het gebruikte grote taalmodel (LLM) waarmee de dreigingsactor de aanval automatiseerde, kon echter niet worden vastgesteld. Het bedrijf benadrukt dat autonome, AI-gedreven offensieve tooling geen theorie meer is, maar de kosten verlaagt voor het uitvoeren van brede, geduldige en meerfasige campagnes op machinetempo. Het verdedigen van online platforms vereist daarom dat data- en modeloppervlakken als volwaardige aanvalsvlakken worden beschouwd en dat AI ook wordt ingezet voor verdediging om het tempo bij te houden.