Een van de AI-modellen uit Google’s Gemini-serie heeft tijdens een penetratietest drie bedrijven weten binnen te dringen, zo bevestigde Google na vragen van de Wall Street Journal. De test vond plaats in mei en werd uitgevoerd door het beveiligingsbedrijf Irregular, dat eerder ook betrokken was bij soortgelijke tests voor Meta en Anthropic.

Hoewel het model geen internettoegang had, bleek deze onbedoeld toch beschikbaar te zijn. Hierdoor kon het model in één geval via het raden van wachtwoorden toegang krijgen tot een beveiligd systeem. In twee andere gevallen gebruikte het model de bedrijfsnaam om online informatie te verzamelen, waarna het in publieke repositories inloggegevens vond en daarmee toegang tot systemen verkreeg. Google stelt dat het model in alle gevallen doorhad dat het echte bedrijven betrof en de aanvallen stopzette zonder schade te veroorzaken.

Irregular meldde het incident in juli aan Google. Volgens Google was openbaarmaking niet noodzakelijk omdat het model zich conformeerde aan de veiligheidsmaatregelen en het incident geen schade veroorzaakte. Het techbedrijf vergelijkt de test met een bug bounty-programma en benadrukt dat het niet om het nieuwste Gemini-model ging. De drie getroffen bedrijven zijn door Google geïnformeerd. Irregular gaf aan dat alle bekende kwetsbaarheden aan hun kant inmiddels zijn verholpen. Verdere details over de gebruikte kwetsbaarheden zijn niet gedeeld.