Het Nederlandse bedrijfsleven vindt zichzelf onvoldoende ingericht voor het gebruik van algoritmes die persoonsgegevens verwerken. Dat blijkt uit een enquête die de Autoriteit Persoonsgegevens (AP) afnam onder 1600 bedrijven. Het merendeel van deze bedrijven weet niet helemaal zeker of ze algoritmes gebruiken om persoonsgegevens te verwerken. En wanneer ze daarvoor algoritmes gebruiken, weet men vaak niet om wat voor algoritmes het precies gaat. De AP gaat daarom samen met het bedrijfsleven zorgen voor voorlichting en praktische hulpmiddelen.
Algoritmes, inclusief AI, veranderen de manier waarop bedrijven werken en met klanten en hun persoonsgegevens omgaan, met nieuwe uitdagingen als gevolg. Zo kan een bedrijf geautomatiseerd een besluit over klanten nemen, zonder dat hier een mens bij betrokken is. Bedrijven geven aan te weinig te weten over de regels en risico’s. Ook zijn ze vaak afhankelijk van leveranciers of andere externe partijen bij de aanschaf van bijvoorbeeld software die met algoritmes werkt. Dit beïnvloedt niet alleen hoe bedrijven inkopen, het zorgt ook voor onvoldoende controle op risico’s van het gebruik.
De AP is naar aanleiding van de uitkomsten met deze bedrijven in gesprek gegaan tijdens een bijeenkomst. Daar is een aantal vervolgstappen uitgekomen. Zo gaat de AP vaker praktische hulpmiddelen publiceren en consulteren over het verantwoord inzetten van algoritmes. Een voorbeeld is de recente consultatie hoe bedrijven ervoor kunnen zorgen dat er betekenisvolle menselijke tussenkomst is bij algoritmische besluitvorming. Ook werkt de AP aan een checklist voor bedrijven om goed om te gaan met de rechten van mensen waarover ze zo’n algoritmisch besluit nemen.
Monique Verdier, vicevoorzitter AP: “Bewustwording en kennis over algoritmes, AI en de impact ervan is essentieel, want daarmee kun je als bedrijfsleiding geïnformeerd beslissingen nemen die goed zijn voor je bedrijf, medewerkers en klanten. We zien dat er veel animo is om meer kennis op te doen, maar herkennen ook de behoefte aan guidance vanuit de toezichthouder. Die handschoen pakken we graag samen met bedrijven op”.
De AP gaat verder in gesprek met bedrijven om ‘best practices’ te verzamelen over het opzetten en inrichten van algoritmes die persoonsgegevens verwerken. Ook neemt de AP de verantwoordelijkheid van leveranciers onder de loep en komt er voorlichting over het inkopen van algoritmes. Wanneer bedrijven bij het inkoopproces al kritisch nadenken over het doel waarvoor zij algoritmes willen inzetten en zich bewust zijn van risico’s daarvan, kunnen zij nadelige gevolgen voor bijvoorbeeld hun klanten voorkomen.
Lees de samenvatting of download het hele rapport
Onder de AI-verordening moet iedereen die binnen of namens een organisatie met AI-systemen werkt, niet alleen vaardigheden, kennis en begrip hebben over de technische werking van AI-systemen, maar ook over de sociale, ethische en praktische aspecten. De AP publiceerde onlangs het document ‘Aan de slag met AI-geletterdheid’ om organisaties op weg te helpen.
