Cybersecuritybedrijven worden geconfronteerd met een nieuwe vorm van aanval waarbij kwaadwillenden nep-OpenAI-organisaties aanmaken die legitieme bedrijven imiteren. Medewerkers ontvangen uitnodigingen om lid te worden van deze frauduleuze organisaties, met als doel hen te misleiden en gevoelige bedrijfsinformatie te verzamelen via chats en projecten.

De campagne, door Push Security gedoopt tot de "Poisoned Tenant"-campagne, kwam aan het licht nadat meerdere medewerkers uitnodigingen ontvingen om lid te worden van een OpenAI-organisatie genaamd "Push Security Inc." Hoewel de uitnodigingen daadwerkelijk afkomstig waren van OpenAI en werden verzonden via het officiële notificatieadres noreply@tm.openai.com, waren de tenants door aanvallers aangemaakt met Gmail-adressen in plaats van door het echte bedrijf. De uitnodigingsmails voldeden aan de e-mailauthenticatie en leken identiek aan normale uitnodigingen voor een ChatGPT-werkruimte.

Volgens Push Security werden de uitnodigingen gericht verstuurd naar specifieke medewerkers met hun zakelijke e-mailadressen, wat erop wijst dat de aanvallers vooraf onderzoek deden naar de medewerkers van het doelbedrijf. OpenAI voegt wel een waarschuwing toe dat het e-maildomein van de uitnodiger niet overeenkomt met dat van het bedrijf, maar deze melding is slechts een enkele regel binnen de uitnodigingsmail en valt daardoor makkelijk over het hoofd.

Om het doel van de aanval beter te begrijpen, accepteerde een onderzoeker van Push Security een uitnodiging. Direct na acceptatie werd hij toegevoegd aan de frauduleuze organisatie die Push Security imiteerde en slechts één account bevatte, beheerd door een aanvaller met een Gmail-adres die zich voordeed als de CEO. De uitgenodigde medewerkers kregen eigenaarstoegang, waardoor ze administratieve rechten kregen over de tenant. Hierdoor konden zij zien dat geen van de uitgenodigde medewerkers daadwerkelijk lid was geworden en dat er een Visa-creditcard aan het account gekoppeld was, wat de schijn van legitimiteit versterkte.

De organisatie bevatte geen bestaande chats of projecten, waardoor het precieze doel van de aanval onduidelijk blijft. Push Security vermoedt dat de aanvallers hopen dat medewerkers de ChatGPT-werkruimte gaan gebruiken alsof het een legitiem bedrijfsplatform is, zodat zij vertrouwelijke informatie kunnen verzamelen die in prompts wordt ingevoerd. Dit kan variëren van broncode en interne documenten tot klantgegevens en strategische plannen. Het toevoegen van een betaalmethode maakt het bovendien mogelijk om premiumfuncties te gebruiken zonder dat gebruikers twijfelen aan de authenticiteit van de organisatie.

Deze campagne illustreert een bredere trend waarbij aanvallers misbruik maken van legitieme uitnodigings- en notificatiefuncties binnen SaaS-platforms. Omdat de uitnodigingen vanuit de infrastructuur van het platform zelf komen, zijn ze moeilijker te detecteren door e-mailbeveiligingssystemen. Push Security adviseert daarom om medewerkers goed te trainen en bewust te maken van dit soort geavanceerde aanvallen, zodat zij verdachte uitnodigingen herkennen en melden. Meer informatie over het belang van grondige beveiliging is te vinden in deze aanbeveling om elke laag te testen voordat aanvallers dat doen.