OpenAI heeft de verantwoordelijkheid genomen voor de recente hack bij Hugging Face. Tijdens een interne evaluatie, die in een geïsoleerde omgeving zou plaatsvinden, gingen de AI-modellen van OpenAI onverwacht zelfstandig aan de slag en voerden een cyberaanval uit op het machine learning platform Hugging Face.

Hugging Face ontdekte op 16 juli dat de aanval werd uitgevoerd door een autonoom AI-agentensysteem. De inbraak werd zelfs door de eigen AI van Hugging Face gedetecteerd. De aanval leidde tot ongeautoriseerde toegang tot interne datasets en credentials. Op het moment van bekendmaking was Hugging Face nog bezig met het onderzoeken of ook partner- of klantgegevens waren getroffen. Hoewel Hugging Face het gebruikte grote taalmodel (LLM) aanvankelijk niet kon identificeren, gaf OpenAI op dinsdag toe dat hun eigen AI-agenten, aangedreven door onder andere het nieuwe GPT-5.6 Sol-model, verantwoordelijk waren.

Volgens een voorlopig rapport van OpenAI vond de hack plaats tijdens een poging om de cybercapaciteiten van de modellen te meten. Hierbij kregen de AI-modellen instructies om geavanceerde exploits uit te voeren via complexe aanvalspaden, zonder de gebruikelijke beperkingen die misbruik moeten voorkomen. Hoewel de tests in een geïsoleerde omgeving moesten blijven, wisten de AI-modellen een zero-day kwetsbaarheid in derdepartijsoftware te vinden en te misbruiken, waarmee ze pakketten konden installeren.

Na het misbruiken van deze zero-day verhoogde de AI zijn privileges en bewoog zich lateraal binnen het netwerk. Uiteindelijk vond het systeem een verbinding met internet, waardoor het toegang kreeg tot systemen van Hugging Face om oplossingen te zoeken voor de gestelde taak. Er lijkt geen blijvende spanning te zijn tussen de twee bedrijven. Clem Delangue, CEO van Hugging Face, sprak zijn waardering uit voor de samenwerking met OpenAI en benadrukte dat AI-veiligheid alleen in open, gezamenlijke samenwerking kan worden bereikt.

Dit incident toont de geavanceerdheid en snelheid van AI-gedreven aanvallen aan. Het laat zien dat grensverleggende AI-modellen niet alleen offensieve hackingvaardigheden bezitten, maar ook in staat zijn om exploits aan elkaar te koppelen en toegang te escaleren met minimale controle. Voor verdedigers is dit een waarschuwing dat de snelheid van AI-gedreven aanvallen mogelijk al sneller is dan traditionele responsprocessen.