In de Tweede Kamer zijn vragen gerezen over de veiligheids- en privacyrisico's van AI-assistenten en of de overheid dergelijke technologie zou moeten gebruiken. CDA-Kamerlid Zwinkels stelde deze vragen naar aanleiding van berichten over AI-assistent OpenClaw, die diverse taken voor gebruikers kan uitvoeren. Cisco bestempelde de AI-assistent eerder als een "security nachtmerrie". Antivirusbedrijf Bitdefender raadt aan OpenClaw niet op zakelijke systemen te gebruiken. Het CDA vraagt nu om opheldering van demissionair staatssecretaris Van Marum voor Digitalisering.

"Deelt u de zorgen van experts dat steeds autonomer opererende AI-assistenten risico’s vormen voor veiligheid, privacy, menselijke controle en mentale gezondheid? En kunt u daarbij aangeven welke risico’s u het meest urgent acht?" vraagt het CDA. De staatssecretaris moet ook verduidelijken of hij het wenselijk vindt dat AI-systemen zelfstandig handelingen zoals aankopen en contracten aangaan namens gebruikers. "Kunt u aangeven of het naar uw inzicht wenselijk is dat er vanuit de overheid gebruik wordt gemaakt van autonome AI-assistenten? En op welke vlakken gebeurt dit al? Onder welke voorwaarden wordt dit toegestaan en hoe wordt hierop toegezien in de praktijk?" vraagt Zwinkels verder. Hij wil ook weten hoe bij het gebruik van autonome AI-assistenten in kritieke infrastructuur en sectoren als defensie, de zorg en de overheid, altijd sprake blijft van ‘human in the loop’. Van Marum heeft drie weken om te reageren.