De Autoriteit Persoonsgegevens (AP) uit zorgen over de snelle invoering van generatieve AI door organisaties, zonder voldoende aandacht voor de impact op mens en maatschappij. De privacytoezichthouder waarschuwt dat het gebruik van generatieve AI leidt tot een ongekend snelle centralisatie van gevoelige data. Volgens de AP zijn er stevige maatregelen nodig. Dit blijkt uit een vandaag gepubliceerde visie op generatieve AI.

De AP benadrukt dat de nood hoog is. De invloed van generatieve AI wordt steeds duidelijker door de snelle toename van applicaties, vaak afkomstig van Amerikaanse techbedrijven. Dit vergroot de Europese afhankelijkheid en bedreigt de digitale autonomie, vooral in een tijd van geopolitieke veranderingen waar economische integratie als drukmiddel wordt gebruikt. Hoewel modellen doorgaans uitgebreid worden getest, kan het gebruik in de praktijk niet volledig worden nagebootst, waardoor risico’s en incidenten zich juist daar voordoen. Het gebruik van generatieve AI gaat gepaard met de verwerking van grote hoeveelheden data, wat gebruikers kwetsbaar maakt. De AP vindt het zorgelijk dat mensen chatbots steeds vaker als enige informatiebron gebruiken. De toezichthouder wijst op de snelle centralisatie van gevoelige data door AI-aanbieders, waarbij elf procent van de berichten als ‘expressing’ wordt geclassificeerd. De AP stelt dat de technologie gecentraliseerd is bij een klein aantal aanbieders, wat de technologische afhankelijkheid vergroot en de EU beperkt in het sturen op verantwoord gebruik. De toezichthouder pleit voor stevige maatregelen om een ongecontroleerd scenario te voorkomen. AP-voorzitter Aleid Wolfsen benadrukt dat zonder een gedeeld normatief kader, de snelle integratie van technologie in diverse sectoren leidt tot een maatschappelijk experiment zonder protocol. De AP roept op tot de ontwikkeling van waardengedreven generatieve AI, die innovatie mogelijk maakt met bescherming van democratie, grondrechten en vertrouwen.