De AP start een nieuwe directie voor toezicht en coördinatie op AI en algoritmes, ter voorbereiding op het toekomstige markttoezicht onder de AI-verordening.
De Autoriteit Persoonsgegevens (AP) zet een volgende stap in het toezicht op artificiële intelligentie (AI) met de oprichting van de directie Toezicht en Coördinatie AI/Algoritmes (TCA). Deze nieuwe directie bouwt voort op het coördinerend toezicht dat de AP sinds 2023 uitvoert en bereidt het toekomstige markttoezicht voor dat volgt uit de Europese AI-verordening.
TCA werkt samen met de Rijksinspectie Digitale Infrastructuur (RDI) aan de ontwikkeling van een 'AI sandbox' en een gezamenlijk AI Coördinatiecentrum. Hoewel de AP nog niet formeel is aangewezen als markttoezichthouder, wordt deze rol verwacht zodra de Nederlandse Uitvoeringswet AI-verordening van kracht is. Tot die tijd richt de AP zich op samenwerking, voorlichting en het ondersteunen van verantwoorde innovatie, terwijl zij kennis opbouwt over AI-veiligheid en bijdraagt aan de Europese toezichtaanpak.
AI-systemen kunnen grote impact hebben op mensen en de samenleving, bijvoorbeeld door beïnvloeding, selectie en beoordeling, waarbij kwetsbare groepen extra risico lopen. Recente incidenten met AI Agents die ongeautoriseerd toegang kregen tot online omgevingen benadrukken het belang van krachtig en vroegtijdig toezicht. De Europese AI-verordening stelt daarom niet alleen regels, zoals het verbod op bepaalde AI-toepassingen en transparantieverplichtingen, maar vereist ook deskundig toezicht.
De directie TCA bestaat uit twee afdelingen. De afdeling AI/Algoritmes Risicoanalyse & Coördinatie (ARC) richt zich op de brede impact van AI en algoritmes op grondrechten en samenleving, signaleert risico’s en werkt samen met andere toezichthouders. De afdeling Markttoezicht AI (MTA) bereidt het toekomstige markttoezicht voor door kennis en technische expertise op te bouwen om AI-systemen te onderzoeken en testen. Daarnaast ondersteunt MTA verantwoorde innovatie en werkt zij samen met het AI Office aan AI-veiligheid.
