De AP constateert dat AI steeds meer gebruikt wordt in de samenleving. Daarmee wordt ook de kans op incidenten groter. Een van de adviezen van de privacywaakhond is om terughoudend te zijn met de inzet ervan, wanneer organisaties twijfelen of ze de risico’s onder controle hebben.
Gisteren heeft de Autoriteit Persoonsgegevens (AP) de nieuwe Rapportage AI- & Algoritmerisico’s Nederland (RAN) gepubliceerd. Als coördinator van het toezicht op algoritmes en artificiële intelligentie (AI) analyseert de autoriteit elk halfjaar de risico’s rond AI-systemen.
Als voorbeeld van een dergelijk incident noemt de AP een geval van oplichting in Azië. Recentelijk ontving een medewerker van een financiële afdeling een mail om 23 miljoen euro over te boeken. De medewerker vertrouwde het in eerste instantie niet. Na een online vergadering met de financiële topman en alle rechtstreekse collega’s binnen het bedrijf, maakte de werknemer het bedrag alsnog over. Het bleek echter toch om fraude te gaan. Alle deelnemers in de online vergadering, behalve de opgelichte medewerker, waren door criminelen nagemaakt met deepfaketechnologie.
Het incident onderstreept de boodschap van de AP dat mensen zich bewust dienen te zijn van de risico’s van AI. Tevens vindt de autoriteit dat er meer kennis over kunstmatige intelligentie moet komen. Iedereen dient waakzaam te zijn, luidt de boodschap van de AP.
Klik hier voor de Rapportage AI- & Algoritmerisico’s Nederland (RAN) – voorjaar 2024.
