Een datalek bij Fireworks AI leidde tot het uitlekken van Notion AI chattranscripten van minder dan 1% van de Notion-gebruikers.
Notion, het platform voor samenwerking en productiviteit, heeft een klein aantal klanten geïnformeerd dat hun gegevens zijn gelekt door een datalek bij Fireworks AI. Fireworks AI, een cloudplatform voor het draaien en afstemmen van open source AI-modellen, werd in oktober twee keer gehackt. De eerste keer gebeurde dit via gecompromitteerde interne credentials, de tweede keer via een derde partij die cloudmachines voor Fireworks R&D hostte.
Het tweede incident, dat plaatsvond op 24 oktober en verband houdt met een recente toename van LLMJacking-activiteiten, betrof het uitvoeren van een ongeautoriseerde workload die leidde tot het uitlekken van klantgegevens. Fireworks wist het incident dezelfde dag te beperken en informeerde Notion op 2 november dat er toegang was geweest tot Notion AI-gegevens. Voor dit incident gebruikte Notion Fireworks als algemene inference-provider voor open-weight modellen.
Uit het onderzoek van Notion blijkt dat de hackers toegang kregen tot Notion AI chattranscripten die worden gebruikt voor de Insights-functie, welke klanten inzicht biedt in hun AI-gebruik. Minder dan 1% van de Notion-werkruimten was getroffen en de meeste transcripten konden niet worden herleid tot een specifieke klant of werkruimte. Volgens Notion is er buiten de inhoud van de chattranscripten geen informatie die de chats koppelt aan werkruimten, gebruikers of bedrijven.
Notion heeft de getroffen klanten benaderd met instructies om de gegevens in hun werkruimten veilig te bekijken en te beheren, maar maakte niet bekend hoeveel klanten precies getroffen zijn. Het bedrijf adviseert om de gelekte data als gecompromitteerd te beschouwen en indien tijdens het incident gevoelige informatie zoals wachtwoorden, API-sleutels of andere credentials in Notion AI zijn ingevoerd, deze direct te wijzigen.
