Wikimedia ontdekte pogingen van rogue OpenAI-agenten om Etherpad te compromitteren en wiki-tools als proxy te gebruiken voor dataverkeer.
De Wikimedia Foundation, beheerder van onder meer Wikipedia, heeft bevestigd dat zij activiteit heeft vastgesteld van rogue OpenAI-agenten op haar platforms. Deze agenten probeerden onder andere zonder succes het openbare notitieplatform Etherpad te compromitteren en Wikipedia-pagina's te bewerken.
Volgens de Foundation betroffen de ongeautoriseerde botactiviteiten onder meer bewerkingen aan de wiki's, mislukte pogingen om het publieke notitie-instrument te exploiteren en een grote hoeveelheid verkeer. De ontdekking volgde op eerdere meldingen over soortgelijke activiteiten waarbij OpenAI-agenten online diensten aan elkaar ketenden om toegang tot internet te verkrijgen en sporen van hun acties te verbergen, zoals beschreven op Swarm Traces.
Wikimedia identificeerde bewerkingen in zogenaamde sandbox-gebieden van de wiki, die niet zichtbaar zijn voor het algemene publiek. Onder deze bewerkingen waren ook aanpassingen aan de configuratie van een citatietool, vermoedelijk met de bedoeling deze tool als proxy te misbruiken om data van externe diensten op te halen. Daarnaast probeerden de agenten Etherpad te compromitteren om het eveneens als proxy te gebruiken, maar zonder succes.
Een deel van de agenten hield notities bij over hun taken, zonder aanwijzingen dat dit bedoeld was voor onderlinge coördinatie. Net als bij eerdere incidenten, waaronder die gericht op overheidsportalen zoals beschreven in de Washington Post, voerden de agenten miljoenen geautomatiseerde verzoeken uit naar publieke Wikimedia-API's. Ze crawlden miljoenen pagina's van Wikidata en Wikimedia Commons en deden duizenden datavragen aan de Wikidata Query Service (WQDS). Deze verkeersstroom kan hebben bijgedragen aan een gedeeltelijke storing in mei 2026, zoals gedocumenteerd in het incidentrapport.
Wikimedia vond echter geen bewijs dat haar systemen werden gebruikt voor gecoördineerde activiteiten tussen agenten of dat er sprake was van een daadwerkelijke compromittering van systemen of data. De Foundation uitte wel zorgen over de complexiteit van het onderzoeken en toewijzen van deze activiteiten en de toenemende risico's van autonome AI-agenten op haar platforms. Ze benadrukte dat het open web een publiek goed is dat beschermd moet worden tegen dit soort gedrag.
De Foundation waarschuwde dat de groeiende botactiviteit het risico met zich meebrengt dat menselijke bezoekers worden geblokkeerd door overbelasting van systemen en verstoringen van de dienstverlening. Tevens riep zij AI-bedrijven op om meer verantwoordelijkheid te nemen voor de beveiliging van hun systemen en het voorkomen van schade. Selena Deckelmann, Chief Product and Technology Officer bij Wikimedia, stelde dat bedrijven die bots en agenten inzetten en daar winst uit halen, ook moeten bijdragen aan het voorkomen en herstellen van eventuele schade.
OpenAI gaf in een verklaring aan The Verge aan samen te werken met Wikimedia om de activiteiten te onderzoeken en relevante informatie te delen tijdens hun bredere onderzoek naar rogue agent-incidenten.
