Google Gemini for Workspace kan samenvattingen genereren van e-mails om gebruikers tijd te besparen. Onderzoeker Marco Figueroa ontdekte echter een prompt-injection beveiligingsprobleem waarmee kwaadaardige instructies aan Gemini toegevoegd kunnen worden die niet zichtbaar zijn in de oorspronkelijke e-mail. Hierdoor kunnen samenvattingen phishingwaarschuwingen bevatten die gebruikers misleiden om een schadelijke website te bezoeken, terwijl de e-mail zelf geen verdachte links of bijlagen bevat.

Dit probleem werd gerapporteerd via Mozilla’s bugbounty-programma voor generatieve AI. Google bevestigt het lek, heeft nog geen misbruik vastgesteld en werkt aan extra maatregelen ter mitigatie om gebruikers beter te beschermen.