Rutte IV wil een algoritmetoezichthouder instellen die fungeert onder toezicht van de Autoriteit Persoonsgegevens. Veel hierover is nog onduidelijk, maar een mogelijk voorbeeld doemt op uit onverwachte hoek. Binnenkort zal China namelijk het eerste land ter wereld worden met een strenge algoritmetoezichthouder. Wat valt er voor Nederland wel, of juist niet, af te kijken van China? Data&Privacyweb ging in gesprek met twee Chinakenners over de verschillen tussen Nederland en China in digitale toezichthouding en de omgang met data.
In het nieuwe coalitieakkoord maken de partijen zich hard voor de bescherming van burgerrechten online. Een flinke financiële impuls voor de Autoriteit Persoonsgegevens (AP) moet deze ambitie gaan waarmaken, net als een extra takenpakket voor de AP. Hierbij hoort, volgens het akkoord: “[een versterkte] samenwerking en samenhang tussen de diverse digitale toezichthouders. We regelen wettelijk dat algoritmes worden gecontroleerd op transparantie, discriminatie en willekeur. Een algoritmetoezichthouder bewaakt dit.”
De wens om een algoritmetoezichthouder aan te stellen, bestaat al langer binnen de nationale politiek. In mei 2019 werd er al een motie ingediend in de Tweede Kamer voor een toezichthouder, die moet toezien op het rechtmatig inzetten van algoritmes door de overheid. De toeslagenaffaire is een duidelijk voorbeeld van wat er de afgelopen jaren is misgegaan door gebrekkige regulering van algoritmes bij de overheid.
Hoe verloopt algoritmetoezichthouding elders? Westerse landen lopen nog niet zo hard van stapel met wetgeving over algoritmes, maar in China wordt nieuwe wetgeving met betrekking tot het digitale domein rap ingevoerd. De grote transformatie, waar de Chinese digitale economie zich de laatste jaren in bevindt, leidt er ook toe dat de overheid de teugels strakker aantrekt bij meerdere techreuzen, zoals Alibaba. In maart dit jaar wordt dan ook strengere wetgeving voor expliciet algoritmes ingevoerd, deels om de ongeremde groei van de Chinese platformsector beter te beheersen. Dit zal China tot mondiale koploper én rolmodel maken in toezichthouding op algoritmes.
De nieuwe Chinese wetgeving heet Provisions on the Management of Algorithmic Recommendations in Internet Information Services. 1) Techwatcher Ed Sander, gespecialiseerd in technologie uit China, interpreteert de nieuwe wetgeving in de eerste plaats als redelijk, bij het beschermen van Internetgebruikers. Sander vertelt: “Aan de ene kant dient de wet heel goed om de consument, minderjarigen, ouderen en platformarbeiders beter te beschermen. Aan de andere kant ligt er in de nieuwe richtlijnen een grote nadruk op algoritmes, die de online opinie kunnen verstoren.” De Chinese overheid vergroot haar controle over informatiestromen, die het grote publiek bereiken, en bepaalt zo van bovenaf wat juiste informatie of misinformatie is voor de Chinese burger. 2) “De overheid bepaalt wat wel of geen fake news is,” aldus Sander. De gevaren van misinformatie zijn ons in Nederland ook ondertussen welbekend, maar over het algemeen zal de gemiddelde Nederlander zich sterk verzetten tegen een overheid die voorschrijft wat juist of onjuist is op het Internet.
Nederlanders, en Europezen in het algemeen, denken dus anders over soevereiniteit op het internet dan de Chinezen. Dat is deels te verklaren door onze definitie van privacy. Binnen Europa wordt privacy over het algemeen gezien als een grondrecht op autonomie over wat er gebeurt met de gegevens van een individu. China-expert Rogier Creemers, assistent-professor aan de Universiteit Leiden, ziet dat het heel anders is in de Chinese context. “In China draait privacy om potentiële schade aan een individu, bijvoorbeeld door online misbruik van diens persoonsgegevens. Wetgeving vanuit de overheid dient dit te voorkomen. Dat is niet zozeer omdat er een fundamenteel recht daarop is, maar eerder omdat de overheid de digitale economie wil laten ontwikkelen,” legt hij uit. Daarvoor is het belangrijk dat datagerelateerd misbruik niet langer voorkomt.”
In dienst van het bestrijden van online criminaliteit wordt dus het collectief belang belangrijker geacht door de overheid dan de bescherming van individuele persoonsgegevens. Datageraleteerd misbruik, zoals online oplichterij en phishing, is een hardnekkig probleem dat in China flinke proporties heeft aangenomen door de razendsnelle invoer van het Internet op zeer uitgebreide schaal. Het idee dat de overheid een publieke ruimte, zoals het Internet, dient te controleren om dit soort zwendel te voorkomen is in China veel gangbaarder dan in Nederland.
Hoe wij behoren om te gaan met data, die in sommige gevallen maatschappelijk ongewenst zijn, is echter de laatste jaren een steeds groter discussiepunt geworden door de mondiale perikelen rond misinformatie en nepnieuws. Creemers wijst naar China als potentiële inspiratiebron, maar wel onder strenge voorwaarden.
Creemers: “De vraag hoe we ons als gehele maatschappij beschermen tegen datagebaseerd misbruik is in Europa ook van belang, maar dat is een gesprek dat hier überhaupt nog niet wordt gevoerd. Als wij het hier hebben over databescherming en privacy gebruiken wij ze bijna als synoniemen. Dan hebben we het over de bescherming van individuele persoonsgegevens en over de bescherming van het individu zelf. Wat Chinese wetgeving zegt is dat er met data ook schade kan worden toegebracht aan de nationale veiligheid en het publieke belang. Regulering van data moet dan niet enkel gebeuren op basis van persoonsgegevens, maar op alle soorten data.”
Het is boeiend om, vanaf een afstandje, toe te kijken hoe de nieuwe wetgeving zal landen in China en hoe de lokale overheden ermee om zullen gaan. De opgave om correcte handhaving van de wet uit te voeren is aanzienlijk. Dit komt niet alleen door de enorme geografische omvang van het land, maar ook door de grootte van het Chinese Internet met meer dan 1 miljard gebruikers. Sander herinnert ons eraan: “Uiteindelijk is deze nieuwe wet in eerste instantie een richtlijn. De vraag is niet alleen hoe zij zal worden gehandhaafd, maar ook of er überhaupt gehandhaafd gaat worden.” China zal hoe dan ook met flinke struikelblokken te maken krijgen.
Kortgeleden verscheen van het Clingendael Instituut een rapport over de Digital China Challenge en de implicaties van opkomend digitaal China voor Europees beleid. 3) Meer dan genoeg reden om goed op het land te letten en helder beleid te vormen ten opzichte van het land. Maar er dienen zich ook kansen aan om goede praktijken over te nemen voor de digitale ambities van de Nederlandse overheid . Misschien is het tijd om onze blik voorzichtig oostwaarts te keren om te zien welke aspecten van het Chinese beleid over algoritmes en databescherming de moeite waard zijn om naar Nederland mee te nemen. Creemers stelt dat we van de Chinezen kunnen leren. “China neemt de heikele vraagstukken die technologie brengt heel serieus en komt vaak met competente ideeën om daarmee om te gaan.”
Dit artikel is het tweede deel van een reeks van Data&Privacyweb over de positie van China binnen het privacydomein. Is China in het controleren van data een land om tegenop of op neer te kijken? In het eerste artikel gingen wij dieper in op het delen van persoonsgegevens door internationale platformen met een Chinees moederbedrijf en Europees beleid ten aanzien hiervan.
Voetnoten
https://www.chinalawtranslate.com/en/algorithms/
https://www.chinatalk.nl/is-china-showing-us-the-way-in-regulating-algorithms/
https://www.clingendael.org/publication/chinas-digital-power-assessing-implications-eu
