Van Huffelen trots op Algoritmeregister. “Maar er is nog veel werk te doen”

Kansen en risico’s

Technologieën als algoritmes en generatieve AI helpen om efficiënt en goed te werken, en de uitvoering van overheidstaken voor burgers en bedrijven beter te maken, stelt de staatssecretaris. “Het biedt veel voordelen om deze technologie te gebruiken. Dat wil ik graag meegeven op 9 oktober. Tegelijk moeten we als overheid scherp zijn op de risico’s die eraan vastzitten. We moeten zorgvuldig zijn met het toepassen ervan, de juiste keuzes maken. Belangrijk is ook dat er goede checks plaatsvinden en dat we transparant zijn over het gebruik van algoritmes. Om dat voor elkaar te krijgen moeten we heel open zijn, dus goed laten zien aan mensen hoe we werken.”

Inzicht in algoritmes

Het Algoritmeregister speelt daarbij een belangrijke rol. Die moet burgers en bedrijven inzicht bieden in de algoritmes die de overheid gebruikt. “Waar zetten we deze technologie voor in, en hoe doen we dat op een verantwoorde manier? Als je dat niet weet, kun je ook niet met elkaar afspreken wat dan de eisen zijn die hiervoor gelden.” Een belangrijke stap in de afgelopen maanden noemt Van Huffelen de lancering van een algoritme-waakhond vanuit de Autoriteit Persoonsgegevens. “Ik vond het heel erg belangrijk dat deze nieuwe toezichthouder er kwam. Die moet erop toezien dat algoritmes voldoen aan alle vereisten die we hebben opgesteld.”

Lancering

Het Algoritmeregister startte in december 2022 met ruim honderd algoritmes. Inmiddels zijn er 173 algoritmes te vinden van 34 verschillende overheidsorganisaties. Het is mooi dat het begint te lopen, maar er is nog veel werk te doen, stelt Van Huffelen. “Alle departementen hebben inmiddels toegezegd om voor het einde van het jaar te komen met een planning voor publicatie van hun algoritmes. Wij proberen dat vanuit ons team zo makkelijk mogelijk te maken, door bijvoorbeeld aan te geven hoe je op een goede manier je registratie kunt doen. Daarnaast is er een webformulier en zelfs via een API om de publicatie te vereenvoudigen.”

“Het is mooi dat het begint te lopen, maar er is nog veel werk te doen” – Alexandra van Huffelen

Uiteindelijk moet het Algoritmeregister verplicht worden gesteld voor impactvolle algoritmes, maar ook hoog-risico AI-systemen, waar overheden mee werken. Zo ver is het nu nog niet. “Het is ook nu al belangrijk dat iedereen meedoet. Juist dan krijg je het overzicht en heb je transparantie. We overtuigen nu mensen om mee te doen, maar daar waar ze het uiteindelijk te moeilijk vinden, zullen we het ook gewoon moeten verplichten.”

Meer inzicht

Een van de belangrijkste doelen van het Algoritmeregister is om mensen te helpen meer regie te krijgen op hun digitale leven, stelt de staatssecretaris. “Het helpt hen om beter de overheid te bevragen en controleren. Voor de gemiddelde burger is het echter nog niet makkelijk om via het register precies uit te zoeken wat zo’n algoritme nou doet. Daarom hebben we een aantal extra stappen toegezegd. We willen helder maken hoe een besluit wordt genomen. Als je bijvoorbeeld een studielening aanvraagt of een toeslag, kun je terugzien hoe het besluitvormingsproces loopt. Wanneer kom je er wel voor in aanmerking en wanneer niet? Wordt er een algoritme gebruikt en hoe werkt dat dan? Die combinatie van inzichten gaat mensen veel verder helpen dan alleen het register.”

Open ontwikkelen

Om die openheid te bereiken is het Algoritmeregister vorig jaar live gegaan terwijl het nog in ontwikkeling was. Een manier van werken die radicaal anders is dan bij veel andere ICT-gerelateerde projecten bij de overheid. “Dit is precies wat we willen bij elke nieuwe ontwikkeling”, legt Van Huffelen uit. “Open ontwikkelen betekent dat er mensen kunnen meekijken of wat we doen voldoet aan de vereisten, of er geen gekke bugs in zitten, of het veilig is. Dat hebben we gedaan door de code, waarmee het Algoritmeregister gebouwd wordt, openbaar te maken. En we zoeken actief feedback van ontwikkelaars en andere mensen die aan de slag gaan met het register. Die transparantie werkt ook om vertrouwen te creëren. Doe je het niet, dan is het een black box, waarvan niemand anders weet hoe het werkt. Hoe kun je er dan vertrouwen in hebben?”

“Die transparantie werkt ook om vertrouwen te creëren. Doe je het niet, dan is het een black box, waarvan niemand anders weet hoe het werkt”

Dat er in de media nogal wat weerstand was tegen het register heeft dan ook niets met deze open manier van werken te maken, gaat ze verder. “Dat ging vooral over het aantal algoritmes. Het register was niet voldoende gevuld in het begin, en dat is het nu nog steeds niet. We zijn daar nog hard mee bezig. We hebben vanaf het begin gezegd niet te wachten met publicatie van het register tot het laatste algoritme erin staat. Dat gaat anders veel te lang duren. We beginnen vast en stimuleren organisaties om deel te nemen en zoveel mogelijk informatie te delen. Dat werkt goed. Nog steeds sluiten elke week nieuwe organisaties zich aan. We moeten nu doorzetten.”

Geen black box

De staatssecretaris ziet over vijf jaar het liefst een Algoritmeregister dat helemaal is gevuld. “Ik hoop dat het dan ook echt goed toegankelijk en begrijpelijk is voor degenen die er gebruik van maken. Als mensen het idee hebben dat ze niet meer begrijpen hoe besluiten tot stand komen, of niet meer weten hoe ze zich daartegen kunnen verzetten, dan wordt de overheid toch weer een soort van black box. Dat moeten we vooral niet willen. Er is helderheid en transparantie nodig.”

Daar is wel weer een staatssecretaris of minister voor nodig, stelt ze. “De hele ontwikkeling rondom deze technologie is zo groot en belangrijk. Het is dan ook echt van belang dat de overheid eraan blijft werken om de risico’s rond deze technologieën aan te pakken en op te lossen. Zodat we alle kansen kunnen pakken die de technologie te bieden heeft. Er zijn ontzettend veel voordelen, maar als niet transparant is hoe het werkt, dan leidt het eerder tot minder vertrouwen in plaats van meer. Ik kijk uit naar 9 oktober. Het lijkt me heel leuk om iedereen te zien en goede voorbeelden met elkaar te delen. Zo kunnen we er voor zorgen dat we verantwoord gebruik kunnen maken van deze technologie en tegelijk bouwen aan vertrouwen bij onze burgers en bedrijven.”