Cybersecurityonderzoekers hebben meerdere diensten geïdentificeerd die illegale toegang tot grote taalmodellen (LLM's) aanbieden via ondergrondse cybercrimeforums en berichtenplatforms. Eén van deze diensten, Poison Claude, biedt toegang tot Anthropic's modellen zoals Opus 4.8, Opus 4.7, Opus 4.6 en Sonnet 4.6 tegen gereduceerde prijzen. Volgens onderzoekers van Okta wordt dit mogelijk gemaakt door het misbruiken van gratis bonuscredits, zoals de 100 dollar AWS-bedrockbonus, waardoor klanten slechts 5 tot 15 procent van de officiële tokenprijs betalen aldus Okta.

Poison Claude accepteert betalingen in cryptocurrency en verstrekt na betaling een API-sleutel die compatibel is met Anthropic's API. Klanten worden geïnstrueerd hun ontwikkelomgeving zo in te stellen dat deze de Poison Claude API gebruikt in plaats van die van Anthropic. De ingevoerde prompts worden via Poison Claude doorgestuurd naar Anthropic, waarna de antwoorden weer terugkeren naar de klant. Een configuratiefout maakte het mogelijk om het aantal actieve gebruikers van de API te achterhalen, wat inmiddels is verholpen. De hoofdwebsite van Poison Claude is achter Cloudflare gehost om het IP-adres te verbergen. Na melding plaatste Cloudflare een phishingwaarschuwing, maar nam geen actie tegen het API-domein dat gebruikmaakt van Cloudflare Turnstile voor botbescherming.

Een vergelijkbare dienst, Ecomagent.in, opereert in de grijze markt en claimt bijna 970 gebruikers te hebben. Deze biedt eveneens korting op toegang tot Anthropic's en OpenAI's modellen via een aangepaste API. Hoewel dergelijke diensten aantrekkelijk kunnen zijn vanwege kostenbesparing, toegangslimieten en vermeende anonimiteit, brengen ze aanzienlijke risico's met zich mee. Zo kunnen modelaanbieders frauduleuze accounts blokkeren, of kunnen klanten een minder krachtig model geleverd krijgen dan beloofd. Omdat deze diensten als gateway proxy fungeren, heeft de aanbieder volledige inzage in alle prompts, wat een privacyrisico vormt doordat data kan lekken of verkocht worden.

Deze ontwikkelingen spelen in een context van een groeiende Chinese markt voor Amerikaanse LLM's die in China vaak verboden of ontoegankelijk zijn door de Great Firewall. Lokale ontwikkelaars gebruiken via proxyplatforms toegang tot deze modellen. Eerder dit jaar beschuldigde Anthropic drie Chinese bedrijven van grootschalige illegale extractie van Claude's capaciteiten om eigen modellen te verbeteren. Ook is bekend dat Chinese militaire onderzoekers AI-modellen van OpenAI en Anthropic inzetten om binnenlandse AI-systemen te trainen met het oog op defensieverbetering volgens rapporten. Daarnaast wordt misbruik van gratis proefperiodes door kwaadwillenden ingezet voor grootschalige creatie van synthetische identiteiten met wegwerpdomijnen.