Het Amerikaanse ministerie van Justitie vraagt om privacybescherming voor miljoenen Character.AI-gebruikers bij mogelijke verkoop van chatgegevens tijdens faillissement.
Het Amerikaanse ministerie van Justitie (DOJ) uit zorgen over de privacy van miljoenen gebruikers van Character.AI nu het bedrijf mogelijk failliet gaat en zijn chatgegevens en gebruikersdata verkocht kunnen worden. De Executive Office for U.S. Trustees van het DOJ stelt dat een consumentenprivacy-ombudsman nodig is om de rechtbank te adviseren over de regulering van welke data verkocht mag worden en onder welke voorwaarden.
De rechtbank heeft de bevoegdheid om de verkoop van gebruikersdata te beperken, wat bij Character.AI-chats extra gevoelig is omdat deze vaak persoonlijke en soms minderjarige gebruikers betreffen. De rechter kan de verkoop van deze data blokkeren, vooral omdat de privacyverklaring van Character volgens het DOJ onduidelijk is en suggereert dat het bedrijf ten minste een deel van de chatgeschiedenis kan verkopen. Character wordt omschreven als een uniek platform voor superintelligente entertainmentervaringen met fictieve of verzonnen personages, met wereldwijd 12 miljoen actieve maandelijkse gebruikers die gemiddeld twee uur per dag actief zijn.
Hoewel de chatbot gebruikers verzekert dat gesprekken niet zonder expliciete toestemming gedeeld worden, is de privacyverklaring volgens het DOJ ondoorzichtig en vermeldt deze dat persoonlijk identificeerbare informatie (PII) kan worden gedeeld, ook bij een verkoop van het bedrijf. De privacyverklaring werd op 1 juli aangepast terwijl Character actief op zoek was naar kopers. Het DOJ vraagt dat Character een duidelijk overzicht maakt van eerdere versies van het privacybeleid, inclusief communicatie over mogelijke overdracht van PII bij verkoop of reorganisatie, en of gebruikers hierover voldoende geïnformeerd zijn.
De ombudsman moet vooral toezien op de bescherming van gevoelige persoonlijke gegevens, zoals die van minderjarigen, gezondheids- of demografische informatie, en zorgen dat de verkoop van dergelijke data in lijn is met het privacybeleid, eventuele opt-outs en geldende wetgeving. Character.AI heeft niet gereageerd op verzoeken om commentaar.
Gebruikers delen vaak intieme en specifieke informatie met chatbots die, ook zonder namen, identificerend kan zijn. AI maakt het bovendien eenvoudiger om gevoelige kenmerken af te leiden. Volgens Sydney Saubestre, senior privacy-analist bij het Center for Democracy and Technology, behoudt Character.AI zich het recht voor om gebruikersdata te delen bij verkoop, ongeacht de verwachtingen van gebruikers over privacy. Hoewel de koper gebonden is aan het bestaande privacybeleid, kan deze het beleid wijzigen mits gebruikers instemmen, wat mogelijk is als er incentives worden geboden. Veel gebruikers realiseren zich niet hoe eenvoudig het is om via gedetailleerde chats over langere tijd toch geïdentificeerd te worden, ook als anonimiteit wordt beloofd.
