De Autoriteit Persoonsgegevens waarschuwt incassobureaus voor risico’s bij AI-gebruik en geeft aanbevelingen voor transparantie en menselijke controle.
Incassobureaus maken steeds vaker gebruik van algoritmes en kunstmatige intelligentie (AI) om hun werkzaamheden te versnellen. Uit een steekproef van de Autoriteit Persoonsgegevens (AP) onder 29 incassobureaus blijkt dat deze technologieën onder meer worden ingezet om de kans op succesvolle schuldinning te berekenen en dossiers te verrijken met aanvullende gegevens uit registers en online bronnen.
Hoewel AI en algoritmes efficiëntie kunnen verhogen, brengt het gebruik ervan ook risico’s met zich mee, zoals onjuiste beslissingen, discriminatie en ongelijke behandeling van debiteuren. De AP benadrukt dat belangrijke beslissingen nooit volledig geautomatiseerd mogen worden genomen. Menselijke tussenkomst is noodzakelijk om verantwoording af te kunnen leggen en transparantie te waarborgen.
De AP constateert dat incassobureaus niet altijd voldoende op de hoogte zijn van de geldende privacyregels bij het gebruik van AI. Er bestaat een reële kans dat verboden volledig geautomatiseerde besluitvorming voorkomt zonder dat bureaus zich daarvan bewust zijn. Daarom heeft de AP aanbevelingen opgesteld om het gebruik van AI binnen de incassosector verantwoord te maken. Deze richten zich op het waarborgen van menselijke controle, het vergroten van bewustwording over dataverwerking en het verbeteren van de transparantie richting debiteuren.
Daarnaast organiseert de AP een rondetafelgesprek met de incassobranche om de bevindingen en aanbevelingen te bespreken en praktijkervaringen te delen. Hiermee wil de toezichthouder bijdragen aan een zorgvuldige en privacybewuste inzet van AI in incassoprocessen.
