Onderzoek toont aan dat AI-modellen met cryptografische technieken verborgen functionaliteiten kunnen bevatten die moeilijk te detecteren zijn, ook bij volledige toegang tot modelgewichten.
Recent onderzoek toont aan dat AI-modellen op een cryptografisch verantwoorde manier verborgen functionaliteiten kunnen bevatten die niet eenvoudig te detecteren zijn. Deze verborgen capaciteiten worden in het model ingebed via backdoor-aanvallen waarbij versleutelde neurale netwerken in de modelgewichten worden geplaatst. Deze netwerken worden alleen geactiveerd door een geheime trigger, waardoor ze onder normale omstandigheden onzichtbaar blijven.
De onderzoekers hebben hun concept geïmplementeerd in PyTorch en getest met verschillende methoden om verborgen functionaliteiten te ontdekken, zoals fine-tuning, het toevoegen van ruis aan gewichten, gradient-gebaseerde triggerzoektochten en latent adversarial training. Deze technieken bleken niet effectief om de verborgen circuits bloot te leggen. Dit bevestigt dat het aannemen dat verborgen capaciteiten altijd kunnen worden geëxtraheerd niet opgaat onder vijandige omstandigheden. Het onderzoek maakt gebruik van cryptografische aannames en digitale sloten om de moeilijkheid van detectie en interpretatie te onderbouwen, wat een belangrijke beperking aangeeft voor audits die gebaseerd zijn op het blootleggen van capaciteiten voorafgaand aan inzet.
