GroenLinks wil dat overheidsinstanties die met algoritmes werken verplicht worden om zich aan te melden voor het algoritmeregister. Ook moet er een mensenrechtentoets komen voor algoritmes. Staatssecretaris van Digitalisering Alexandra van Huffelen vindt het een goed idee, maar zegt dat een wettelijke verplichting pas in 2024 op zijn vroegst kan ingaan.
Dat was een van de wensen die woensdag in het debat van de vaste commissie voor Digitale Zaken over kunstmatige intelligentie werd geuit, zo schrijft RTL Nieuws (1).
Er is lang gesproken over een algoritmeregister en in december vorig jaar was de eerste versie ervan een feit. Het algoritmeregister is, zoals de naam al doet vermoeden, een database waarin staat welke bedrijven en instanties gebruikmaken van een algoritme. Het verschaft duidelijkheid over het type algoritme dat een organisatie gebruikt, maar ook welke data een algoritme verzamelt en verwerkt.
Door openheid en transparantie te bieden, wil het kabinet dat Nederlanders vertrouwen krijgen in kunstmatige intelligentie en algoritmes. Tevens kunnen experts een bijdrage leveren aan de werking van algoritmes. Zo wil de regering een nieuwe Toeslagenaffaire of Fraude Signalering Voorziening (FSV) voorkomen.
Het algoritmeregister staat weliswaar online, maar de ontwikkeling ervan is nog verre van klaar. Eén van de wensen van de Tweede Kamer is dat overheidsorganisaties die met een algoritme werken verplicht worden om zich aan te melden voor het algoritmeregister. Staatssecretaris Van Huffelen is het daar mee eens, maar benadrukt dat het nog zeker tot 2024 zal duren voordat een wettelijke verplichting gerealiseerd kan worden.
“We willen dat overheidspartijen ervoor zorgen dat ze zoveel mogelijk algoritmes registreren, en met name algoritmes met hoge risico’s, zoals die waarmee persoonsgegevens worden verwerkt of die worden gebruikt voor risicobeoordelingen”, zei Van Huffelen woensdag tegen de leden van de vaste commissie voor Digitale Zaken.
Kauthar Bouchallikht (GroenLinks) maakt zich zorgen over een uitzondering die het kabinet maakt voor organisaties die algoritmes gebruiken voor rechtshandhaving. Volgens haar staat dit gelijk aan een inperking van burgerrechten.
Staatssecretaris Van Huffelen probeert het Tweede Kamerlid gerust te stellen door te zeggen dat de Autoriteit Persoonsgegevens inzicht heeft in de werking van algoritmes die voor handhaving en defensie worden gebruikt. “Het is onwenselijk ze openbaar te maken, want je wilt niet dat mensen er misbruik van maken. Maar we willen ook dat die algoritmes voldoen aan alle eisen”, aldus de bewindsvrouw.
Een ander onderwerp dat Bouchallikht aanstipte, was een mensenrechtentoets op algoritmes. Zij vindt dat deze “verplicht, bindend en transparant” moet worden om uitsluiting en discriminatie uit te sluiten. Van Huffelen beloofde zich in te zetten voor een ‘stevige toets’.
“Ontwikkelaars van AI-systemen met hoge risico’s worden verplicht een mensenrechtentoets uit te voeren ten aanzien van fundamentele rechten, veiligheid en gezondheid”, zo zei de staatssecretaris. Deze verplichte toets komt er naar verwachting pas over twee jaar, als de Europese AI-verordening in werking treedt.
Van Huffelen beloofde eind vorig jaar om het algoritmeregister komend jaar verder te ontwikkelen. In de huidige versie zijn gegevens handmatig ingevoerd. In de toekomst moeten gegevens automatisch worden opgehaald uit decentrale algoritmeregisters. Overheidsorganisaties die geen eigen algoritmeregister hebben, moeten informatie over hun algoritmes rechtstreeks in het centrale register kunnen plaatsen.
Eerder deze maand kondigde de Autoriteit Persoonsgegevens aan dat ze voortaan ook toezicht houdt op de inzet van algoritmes. De toezichthouder vervult een coördinerende rol in het toezicht en zoekt samenwerking met stakeholders en experts. “Ook andere instanties hebben veel ervaring met het toezicht op algoritmes, net als de AP. Met elkaar kunnen we veel kennis en inzicht bundelen. Mede dankzij ieders input, meedenken en tegendenken is nu de basis gelegd voor dit brede, domeinoverstijgende algoritmetoezicht”, aldus AP-bestuursvoorzitter Aleid Wolfsen.
https://www.rtlnieuws.nl/tech/artikel/5361653/algoritmes-overheid-ai-regels-tweede-kamer
