Notion maakt bekend dat een beveiligingsinbreuk bij Fireworks AI transcripties van klantgesprekken met de AI-assistent heeft blootgelegd.
Notion, het digitale werkruimteplatform, heeft bekendgemaakt dat een beveiligingsinbreuk bij zijn AI-infrastructuurleverancier Fireworks AI transcripties van Notion AI-chatgesprekken in een beperkt aantal werkruimtes heeft blootgelegd. Deze melding volgt op de bevestiging van Fireworks AI dat een aanvaller op 23 oktober toegang kreeg tot hun ontwikkelomgeving via een derdepartij-cloudprovider en daarbij metadata, facturatiegegevens, modelgewichten en datasets van enkele klanten heeft gecompromitteerd.
Begin oktober vond er al een eerdere inbreuk plaats bij Fireworks AI, waarbij hackers toegang kregen tot omgevingsvariabelen met API-sleutels en tokens die als geheimen waren opgeslagen voor een beperkt aantal accounts. Notion werd op 2 november door Fireworks gewaarschuwd over een dataset die synthetische testdata bevatte, waarna Notion het verkeer naar Fireworks blokkeerde, alle data van de leverancier verwijderde en trainingsprocessen stopzette op 3 november. Desondanks bevestigde Fireworks op 8 november dat er ook klantgegevens waren ingezien, waaronder die van Notion-gebruikers.
Notion is een cloudgebaseerde werkruimte voor notities, documenten, interne wiki's, projectmanagement en taakbeheer. De AI-assistent binnen Notion kan vragen beantwoorden, inhoud samenvatten en helpen bij het opstellen van teksten. Fireworks AI maakt het mogelijk dat Notion enkele open-weight modellen via Notion AI kan draaien en opgeslagen gesprekken kan analyseren voor de functie Insights, die beheerders inzicht geeft in het AI-gebruik binnen hun teams. De blootgestelde transcripties kwamen specifiek uit de Insights-dataset, die inmiddels is uitgeschakeld.
Volgens een update van Notion bevatten de transcripties voor het merendeel van de getroffen werkruimtes geen herleidbare gegevens. Dit betekent dat de chats niet waren gelabeld met de auteur of de werkruimte waar ze vandaan kwamen en dat de transcripties geen resultaten van tool-aanroepen bevatten. Notion heeft tevens een FAQ-pagina gepubliceerd over het incident, waarin wordt benadrukt dat Fireworks contractueel had toegezegd geen data van Notion te bewaren.
Volgens Notion is minder dan 1% van de gebruikers getroffen. Eigenaren van mogelijk getroffen werkruimtes kunnen de data controleren via de Security incident review in de desktop webinterface van Notion en een link delen waarmee leden hun eigen transcripties kunnen downloaden. Notion adviseert getroffen gebruikers om wachtwoorden, API-sleutels en andere inloggegevens die in de chats zijn ingevoerd te wijzigen. Gebruikers of werkruimte-eigenaren die geen melding hebben ontvangen hoeven op dit moment geen actie te ondernemen, aangezien zij waarschijnlijk niet tot de getroffen groep behoren.
