Artificial Intelligence is niet meer weg te denken uit onze wereld. Ook de financiële wereld maakt steeds vaker gebruik van de nieuwe techniek, bijvoorbeeld binnen transactiemonitoring, computervisie en klantauthenticatie. Hoewel de techniek veel oplevert, brengt het ook veel ethische dilemma’s met zich mee.
In de Compliance Adviseert Podcast (1) sprak gastheer Jeroen Broekema erover met Joris Krijger en Johannes de Jong.
Johannes de Jong is partner bij Osborne Clarke (2). Ooit is hij begonnen als advocaat bij Allen & Overy, waar zijn interesse voor de financiële sector en de regelgeving eromheen werd aangewakkerd. Na een aantal jaar voor de AFM te hebben gewerkt, kwam hij terecht bij Osborne Clarke. Hier geeft hij met zijn team advies op het snijvlak van regelgeving en tech-toepassingen in de financiële sector.
De Jong wordt in deze podcast geflankeerd door Joris Krijger, Ethics & AI Officer bij de Volksbank (3), waar hij na zijn studies Economic Psychology en Filosofie aan de slag ging met eerlijke algoritmes. Naast de praktische kant kreeg Krijger de mogelijkheid om zich via promotieonderzoek bij de Erasmus Universiteit bezig te houden met ethische AI en hoe dat in de praktijk wordt gebracht.
Met zijn filosofische achtergrond kijkt Krijger met een ietwat andere bril naar de ontwikkelingen in de technologie en in het bijzonder AI en wat dat als systeemtechnologie kan betekenen voor mensen en hun werk.
Hij trekt een vergelijking met een eeuw geleden toen elektriciteit hetzelfde betekende als wat AI nu doet én nog gaat doen. “Het gaat onze manier van leven en werken fundamenteel veranderen”, zegt hij stellig.
Dat geldt volgens hem ook voor het werk binnen de bank, waar je verschillende AI-toepassingen kunt bedenken op allerlei afdelingen, bijvoorbeeld HR, kredietscores, fraudedetectie en transactiemonitoring. “Banken zijn over het algemeen vrij goed geëquipeerd om daar iets op te ontwikkelen”, zegt Krijger, terwijl hij tegelijkertijd de impact ziet die AI heeft op de beschikbaarheid van banen in diverse sectoren.
Volgens een recent rapport van EMF gaan in advanced economies 60% van de banen geraakt worden door AI en wordt 30% er aan complementair. “Dus AI gaat helpen om de productiviteit te verhogen, maar zal een deel van de banen ook vervangen”, stelt Krijger vast. “Dus je moet echt nadenken over hoe we deze systeemtransformatie als organisatie én als sector op een goede manier overbruggen.”
De Jong is het met hem eens. Tegelijkertijd ziet hij ook een interessante technologische ontwikkeling in de financiële sector ten aanzien van regelgeving. “Die is ongekend toekomstbestendig aan het worden. Regelgeving loopt veel minder achter de feiten aan en ik denk dat dat ook in de financiële sector de deur openzet voor een enorme versnelling.”
De Osborne Clarke-partner constateert dat er goed over is nagedacht en dat richtlijnen tegenwoordig veel meer “technology neutral” worden neergezet. “Het betekent dat regelgeving zelf niet probeert voor te schrijven wat het technologisch gezien reguleert”, klinkt het enigszins cryptisch, maar “het reguleert eigenlijk verschijningsvormen”, legt De Jong uit.
Daarnaast noemt hij risicomanagement als een van de belangrijkste aspecten in verband met nieuwe regels die er aan komen, zoals de AI-act. De Jong ziet ook dat compliance officers en hun teams het lastig vinden om te valideren wat ze terugkrijgen van de engineers en van de ICT’ers. “Dat vereist een heel andere vorm van risicomanagement.”
Dat zorgt voor een spanningsveld, erkent De Jong, die begrijpt dat banken ermee worstelen, omdat ze aan de ene kant niet willen achterblijven, maar aan de andere kant nog niet weten hoe beslissingen tot stand komen.
“Toch denk ik dat je moet beginnen. Elke bank moet iets doen”, klinkt het nadrukkelijk. “We weten nog niet hoe de toekomst eruit gaat zien, maar je moet mee, je moet ervaring opdoen.”
Dat raakt ook de ethische kwesties rondom AI, die Krijger als een van de belangrijkste uitdagingen op dit moment ziet Hij noemt daarbij bijvoorbeeld de vooringenomenheid die in systemen kan sluipen, maar ook (een gebrek aan) technische en morele infrastructuur. “Dat hebben we nodig om AI ten volle te benutten, maar we hebben niet de infrastructuur in organisaties om over die ethische aspecten op een goede manier na te denken.”
Dan blijft nog de lastige vraag over, wie er uiteindelijk verantwoordelijk is voor de ethische aspecten van AI. Dat is bij veel organisaties nog onduidelijk omdat je, enerzijds, niet kunt verwachten dat bestuurders volledig op de hoogte zijn van de ontwikkelingen binnen AI. “Anderzijds kun je ook niet verwachten dat je de verantwoordelijkheid bij de ontwikkelaars kunt neerleggen en dat zij al die normen vertalen naar de toepassingen die ze ontwikkelen.”
Op ethisch gebied zijn er verschillende risico’s. Krijger noemt daarbij bias, of vooringenomenheid die doorwerkt in een model, als een van de belangrijkste. Een concreet voorbeeld is het feit dat vrouwen nog steeds minder betaald krijgen voor hetzelfde werk. "“Als we onvoldoende oog hebben voor de ethiek kunnen algoritmen die ongelijkheid oppikken en uitvergroten." Volgens hem moet je je als organisatie dan vragen willen stellen zoals: ‘Moeten we dat aanpassen? Is het onze verantwoordelijkheid om daar iets mee te doen?’
“Dat zijn ethische vraagstukken waarover je nu al moet nadenken als je met AI aan de slag gaat”, zegt Krijger nadrukkelijk.
De compliance officer krijgt hoe dan ook heel wat voor zijn kiezen. Op de vraag van Broekema wat hij of zij vooral moet gaan doen op het gebied van AI, heeft De Jong een zelfreflecterend advies: “Als compliance officer moet je eerlijk zijn naar jezelf, dus kijk jezelf aan in de spiegel en zorg dat je, waar je het gevoel hebt dat je onvoldoende zicht hebt, dat gaat oplossen.”
Krijger ziet voor de compliance officer meer dan genoeg uitdagingen op het gebied van AI. “Dat komt door de aard van AI. Omdat de techniek zich ook buiten de kantooruren doorontwikkelt en je daar ook mee te maken hebt. Compliance officers moeten zich voorbereiden op toezicht op AI en toezicht met AI”
Volgens de AI-officer van De Volksbank moet je in deze functie daarom nadenken over tal van nieuwe technologieën en hoe toepasbaar ze zijn. “Of het erbij kan met alle dingen die compliance officers al doen weet ik niet. Maar dát het erbij moet, dat lijkt me zeker”, aldus Krijger
(1) https://www.complianceadviseert.nl/
(2) https://www.banken.nl/partners/osborne-clarke
(3) https://www.banken.nl/bank/de-volksbank
