De non-profit die ontwikkelingen op het gebied van Artificial Intelligence (AI) bijhoudt, Algorithmwatch, stelt dat de coronapandemie door veel overheden is gebruikt als een excuus om burgers te monitoren. De applicaties die hiervoor ingezet werden bevatten bovendien veel bugs en hadden last van datalekken. De Nederlandse CoronaCheck-app kwam wel relatief goed uit de bus.
In het rapport worden zowel de CoronaMelder-app als de CoronaCheck-app van de Nederlandse overheid besproken. De CoronaMelder-app is de applicatie die aangeeft of je in contact bent geweest met iemand die is besmet met Covid-19. Deze applicatie werkt voornamelijk via bluetooth. De CoronaCheck-app functioneert als digitaal Corona-certificaat. Middels de QR-code krijgen gevaccineerde en/of negatief geteste mensen toegang tot onder andere restaurants.
De CoronaMelder heeft slechts een kleine invloed gehad op de strijd tegen het coronavirus. Hoewel de app 4,6 miljoen keer gedownload is, heeft slechts 16% van de bevolking hem daadwerkelijk gebruikt. Een ander probleem heeft te maken met de privacyrisico’s van de app. Wettelijk gezien is de toestemming voor het delen van persoonlijke data voldoende om deze gegevens te verzamelen. Gebruikers van de CoronaMelder-app waren echter niet genoeg bezig met de gevolgen die het geven van toestemming had, aldus Algorithmwatch. De organisatie plaatst daarom vraagtekens bij het idee dat het klikken op ‘Toestemming verlenen’ voldoende is om (gezondheids)gegevens te verzamelen door middel van zo’n applicatie.
Op de eerste plaats hebben zowel de CoronaCheck-app als de GGD last gehad van grote datalekken. Zo lekte de CoronaCheckk-app persoonlijke informatie van 60.000 mensen, waardoor iedereen testresultaten kon vervalsen. Medewerkers van de GGD werden bovendien betrapt op het doorverkopen van persoonlijke gegevens. De overheid heeft wel geleerd van de privacyproblemen die de CoronaMelder-app vertoonde. De CoronaCheck-app heeft dus een meer gedecentraliseerd en privacy-vriendelijk design. Zo moet de app bijvoorbeeld enkele seconden na het scannen van de QR-code alle persoonlijke informatie verwijderen.
Hoewel dit een stap in de goede richting is, stelt Algorithmwatch dat er meer focus op de technologie moet komen. Afhankelijk zijn van dit soort apps en andere technologieën kan systematische ongelijkheid immers in de hand werken. De armste en meest kwetsbare mensen blijven bijvoorbeeld achter. Als bewijs hiervoor wordt er een vergelijking gemaakt met het examenmonitorprogramma proctorU en de SyRI-casus rondom de toeslagenaffaire. Deze technologie heeft bewezen racistische en discriminerende effecten. Slechts rekening houden met privacy wanneer het gaat om het inzetten van technologie is dus niet voldoende.
Andere ontwikkelingen die Algorithmwatch in Nederland aanstipte waren de projecten COVID-RED en CoLab Blood Score. COVID-RED is een project vanuit het Utrechtse universitair ziekenhuis dat onderzoekt of wearable medische apparaten een goede toevoeging zijn bij andere coronatracking-methodes. CoLab Blood Score is een algoritmische tool om Covid-19 in bloed te detecteren. Deze tool is in ontwikkeling bij de Technische Universiteit Eindhoven.
Download het rapport ‘Tracing the Tracers 2021 report’ hier.
