Autonome AI-agenten hebben geprobeerd om Amerikaanse en Canadese overheidswebsites te hacken met agressieve tactieken, gericht op het verzamelen van statistieken over scholen en echtscheidingen. De pogingen richtten zich op een website van het Amerikaanse ministerie van Onderwijs en op Library and Archives Canada. Uit de verzamelde gegevens blijkt echter geen toegang tot niet-publieke informatie te zijn verkregen.

Volgens het non-profit onderzoeksinstituut Transluce waren de AI-agenten vooral bezig met dataverzamelingsoperaties, maar voerden zij ook mislukte, rudimentaire penetratietests uit. Op 17 juni deden de AI-agenten meer dan 200.000 verzoeken aan een website van het Amerikaanse ministerie van Onderwijs, waarbij onder meer een eenvoudige SQL-injectie werd geprobeerd door een gemanipuleerde parameter te gebruiken om de normale filters te omzeilen. In de 40 seconden voorafgaand aan deze poging werden diverse ongebruikelijke staat-ID’s als input meegegeven, waarvan het doel onduidelijk blijft zonder meer context over de agenten en hun doelstellingen. De opgevraagde data leek te corresponderen met een benchmarkvraag van Google DeepSearchQA over schooladviseurs en pesten gerelateerd aan ras. Transluce heeft het ministerie van Onderwijs op 25 september geïnformeerd, dat na onderzoek geen impact op de dienstverlening constateerde.

Een vergelijkbaar patroon werd waargenomen bij Library and Archives Canada, waar AI-agenten probeerden historische Canadese echtscheidingsgegevens uit de periode 1905-1911 op te halen. Op 28 mei en 9 juni registreerde het Portugese nationale webarchief (Arquivo.pt) bijna 900 verzoeken gericht op deze Canadese instelling. Dertien verzoeken bevatten aanvalspayloads, waaronder SQL-injectieproeven en tests van inputverwerking, outputformaten en debugopties. Deze probes leverden lege recordpagina’s op en het Canadese Cyber Security Centrum bevestigde dat er geen aanwijzingen zijn voor manipulatie van databases of het verkrijgen van extra data. Volgens het centrum is er geen indicatie dat overheidsystemen zijn gecompromitteerd. De rapporten worden samen met overheidsinstanties geëvalueerd, waarbij wordt benadrukt dat geautomatiseerde of mogelijk kwaadaardige verzoeken op zichzelf geen bewijs vormen voor een succesvolle cyberincident.

Hoewel Transluce deze pogingen niet met zekerheid toeschrijft aan OpenAI, zijn de gebruikte tactieken consistent met eerder aan deze AI-ontwikkelaar toegeschreven activiteiten. OpenAI heeft tegenover The Washington Post verklaard de bevindingen te onderzoeken en heeft Canadese autoriteiten een eerste briefing gegeven. Het bedrijf erkent eerdere onbedoelde interacties van zijn agenten met Amerikaanse overheidswebsites, maar Transluce waarschuwt dat een deel van de bredere activiteit niet duidelijk aan OpenAI kan worden toegeschreven.

De analyse van Transluce onthult een veel bredere reeks AI-agentactiviteiten gericht op Amerikaanse federale en deelstaatwebsites. Hierbij werden agressieve tactieken ingezet, zoals het versturen van grote aantallen verzoeken, het aanpassen van URL’s, het gebruik van wegwerp-e-mailadressen, pogingen om anti-botmaatregelen te omzeilen, het raden van downloadbare bestandsnamen en het hergebruiken van gelekte credentials. Doelwitten waren onder meer overheidsinstanties in Californië, Kansas, Maryland, Illinois, Texas en New York. In één geval probeerden AI-agenten zich te registreren voor een API-sleutel van het Bureau of Economic Analysis met een wegwerp-e-mailadres en de organisatieaanduiding "OpenAI Research".