Cybercriminelen maken misbruik van de content-sharing functie van ChatGPT om nep-storingspagina's van OpenAI te tonen. Deze pagina's leiden gebruikers naar het downloaden van malware die zich voordoet als de officiële ChatGPT desktopapplicatie. De campagne, genaamd "LLMShare" en ontdekt door Push Security, gebruikt Google-advertenties om mensen die zoeken naar ChatGPT te verleiden naar een kwaadaardige gedeelde ChatGPT-pagina op chatgpt.com. Hierdoor wordt de aanval uitgevoerd via een legitieme OpenAI-domeinnaam.

Gebruikers die op de advertentie klikken, komen op een echte gedeelde ChatGPT-pagina terecht, maar zien in plaats van een chatgesprek een nep-storingsmelding. Deze melding geeft aan dat de webversie tijdelijk onbeschikbaar is vanwege hoge verkeersdrukte en adviseert gebruikers om de desktopapplicatie te downloaden. De nep-melding wordt niet gehost op een door de aanvallers beheerde infrastructuur, maar wordt via ChatGPT zelf gerenderd met behulp van een aangepaste HTML-pagina die via een gedeelde chatgpt.com/s/ link wordt gepubliceerd. Dit maakt het mogelijk om de valse storingspagina te tonen vanaf een legitieme ChatGPT-URL, compleet met opties zoals "Show code" en "Remix with ChatGPT" die laten zien dat de pagina is opgebouwd uit HTML en CSS via een ChatGPT-prompt.

Wanneer bezoekers op de downloadknop klikken, worden ze doorgestuurd naar een website op openew[.]app die de downloadportal van OpenAI imiteert. Deze site gebruikt cloaking om alleen aan doelwitten kwaadaardige inhoud te tonen; beveiligingsplatforms zoals URLScan krijgen een onschuldige AR/VR-bedrijfspagina te zien. De site biedt downloads aan voor macOS en Windows die malware installeren, waarvan de Windows-versie volgens een test op Any.Run diverse controles uitvoert om te bepalen of het systeem een echte computer of een virtuele machine is. De exacte payloads zijn onduidelijk, maar eerdere campagnes met misbruik van AI-platforms verspreidden infostealers.

Push Security signaleerde ook aanvallen waarbij de functie Claude Artifacts van Anthropic werd misbruikt om ClickFix-achtige lokmiddelen te hosten die gebruikers misleidden tot het uitvoeren van kwaadaardige commando's. Het misbruiken van deelmogelijkheden binnen AI-platforms om malware te verspreiden is geen nieuw fenomeen. Eerder dit jaar werden Google-advertenties ingezet om gebruikers die zochten naar Claude-downloads te leiden naar gedeelde Claude-gesprekken met schadelijke installatie-instructies. Ook werden gedeelde ChatGPT- en Grok-gesprekken gebruikt voor ClickFix-aanvallen waarbij slachtoffers werden misleid om commando's uit te voeren die malware installeerden.