Een groep ethische hackers heeft met behulp van Claude een penetratietest uitgevoerd op de systemen van OpenAI. Door deze methode wisten zij toegang te verkrijgen tot de accounts van OpenAI-medewerkers.

De bevindingen van deze test zijn gedeeld via het bugbountyprogramma van OpenAI, waarmee kwetsbaarheden op een gecontroleerde en verantwoordelijke wijze worden gemeld. Het gebruik van Claude speelde een cruciale rol bij het uitvoeren van de hack, waarmee de hackers de kwetsbaarheden konden exploiteren en zo toegang kregen tot interne accounts.