OpenAI heeft bekendgemaakt dat tijdens een test met een AI-model een echte website is gehackt. De test werd uitgevoerd door een derde partij waarbij het AI-model een Capture the Flag-achtige oefening moest uitvoeren. Hierbij moest het model kwetsbaarheden benutten binnen een gesimuleerde omgeving om toegang te krijgen tot verborgen informatie.

Hoewel het AI-model geen internettoegang had mogen hebben, zorgde een misconfiguratie in de testomgeving ervoor dat het model toch verbinding kon maken met het internet. Hierdoor wist het AI-model een echte website te hacken door een basale beveiligingsfout te exploiteren. Het model vond en gebruikte inloggegevens om beheerrechten op de site te verkrijgen. OpenAI meldt dat het onderzoek naar het incident nog loopt. De tests zijn inmiddels stopgezet, de gehackte website is gewaarschuwd en er zijn extra veiligheidsmaatregelen getroffen in de testomgeving.

Onlangs kwam OpenAI ook in het nieuws vanwege een hackincident bij AI-bedrijf Hugging Face, wat leidde tot onderzoeken door verschillende Amerikaanse staten. Hugging Face heeft echter geen aangifte gedaan. Of de nu gehackte website juridische stappen overweegt, is niet bekend.