Privacyorganisatie noyb dient klacht in tegen Scale AI wegens illegale dataverzameling en biometrische verificatie op AI-trainingsplatform Outlier.
Privacyorganisatie noyb heeft een klacht ingediend bij de Autoriteit Persoonsgegevens (AP) en drie andere Europese privacytoezichthouders tegen het Amerikaanse AI-bedrijf Scale AI. Volgens noyb verzamelt Scale AI op grote schaal persoonsgegevens van Europeanen die actief zijn op het AI-trainingsplatform Outlier, zonder geldige toestemming.
Op het platform Outlier kunnen bedrijven zoals Meta, OpenAI en Google mensen betalen om hun AI-systemen te trainen. Meer dan 900.000 personen voeren via dit platform betaalde werkzaamheden uit. Noyb stelt dat Scale AI uitgebreide persoonlijke gegevens verzamelt en gebruikers verplicht een 'invasieve biometrische verificatie' te ondergaan, uitgevoerd door het Amerikaanse bedrijf Persona. Hierbij moeten gebruikers een videoselfie maken en een kopie van hun identiteitsbewijs uploaden.
Daarnaast zijn er op het Outlier-platform diverse trackers actief, waaronder die van TikTok, LinkedIn, Facebook, enquêteplatform Sprig en data-analysebedrijf Datadog. Deze trackers sturen continu persoonlijke data door naar derden, zoals ip-adressen, contactgegevens, unieke identifiers en informatie over bezochte pagina's. Dit maakt gerichte profilering mogelijk. Volgens noyb is er sprake van vergaande werkvloersurveillance die in strijd is met het fundamentele recht op privacybescherming.
Noyb wijst erop dat Scale AI meerdere bepalingen van de AVG overtreedt. Zo ontbreekt een geldige grondslag voor het plaatsen van trackers zonder toestemming, wordt er niet voldaan aan dataminimalisatie en worden biometrische gegevens onrechtmatig verwerkt. Ook zou het bedrijf niet adequaat reageren op inzageverzoeken. De privacyorganisatie dringt aan op een onderzoek door de toezichthouders en het opleggen van een boete om toekomstige overtredingen te voorkomen.
