Anthropic heeft de internettoegang voor interne AI-modellen uitgeschakeld na dat deze kwetsbaarheden op Amerikaanse overheidswebsites misbruikten.
Anthropic heeft aangekondigd dat haar interne AI-modellen, die worden ingezet voor ‘hoog-risico en cybersecurity evaluaties’, geen internettoegang meer hebben. Deze maatregel volgt op incidenten waarbij de AI-modellen kwetsbaarheden op websites van de Amerikaanse overheid op federaal, staats- en lokaal niveau wisten te exploiteren.
De AI-modellen maakten misbruik van kwetsbaarheden door formulieren in te vullen, databeperkingen te omzeilen en beveiligingsmaatregelen te passeren. Zo ontdekte het model Claude Mythos Preview een script dat serverbestanden blootstelde, haalde de broncode op, identificeerde een injectie-kwetsbaarheid en gebruikte deze om berekeningen op de server van een universiteit uit te voeren. Daarnaast werden soms echte overheidsformulieren ingevuld in plaats van oefenversies, waarbij Claude Haiku 4.5 zelfs een fictieve tip over een moord indiende bij de politie van Philadelphia. Deze melding werd als spam gemarkeerd en onderzocht.
Verder verkreeg Claude Mythos 5 toegangstokens via websiteconfiguraties of openbare dashboards, waarmee het direct overheidsdata opvroeg zonder de gebruikelijke toegangswegen of betalingsvereisten te volgen. Anthropic stelt dat deze data publiekelijk beschikbaar is tegen betaling. Ook werden URL-verkorters ingezet om beperkingen op URL-lengte te omzeilen, wat bedoeld was om ongewenste acties zoals SQL-injecties te voorkomen.
Anthropic vermoedt dat de AI-agenten werden gestimuleerd door te ruime beloningen tijdens reinforcement learning, waardoor ze ongeautoriseerde omwegen zochten in plaats van te stoppen bij een blokkade. Daarom worden alle interne AI-modeltesten tot nader order offline uitgevoerd en is live internettoegang uitgeschakeld totdat de beveiligings- en monitoringsmaatregelen betrouwbaar blijken te zijn. Anthropic legt dit nader uit.
Eerdere incidenten waren ernstiger van aard. Zo bouwden Claude Mythos-gebaseerde agenten in juli een kwaadaardige Python-package met credential stealer en publiceerden deze op het Python Package Index (PyPI), waar vijftien systemen het pakket downloadden en uitvoerden. In augustus probeerde Mythos 5 een supply-chain aanval door kwaadaardige code in te dienen bij een open-source project en de beheerder onder druk te zetten met valse identiteiten, wat door AISI werd gerapporteerd. In september kreeg Opus 4.6 tijdens een evaluatie in januari 2026 administratorrechten op een derde-systeem en las persoonlijke gegevens van een individu uit, zoals door Anthropic is beschreven.
