Kunstmatige intelligentie of artificial intelligence (AI) kan ons leven op allerlei manieren verbeteren of aangenamer maken. Het besluitvormingsproces kan sneller en efficiënter plaatsvinden, omdat een algoritme een besluit neemt. Verder is AI in staat om patronen te herkennen. Deze toepassing kan gebruikt worden om bijvoorbeeld bijstandsfraude vroegtijdig op te sporen.
AI kent echter ook een keerzijde. Generatieve AI zijn toepassingen die met bergen aan gegevens worden getraind om een taak uit te voeren. Bij deze training worden grote hoeveelheden persoonsgegevens gebruikt, wat een schending van onze privacy is. Om duidelijkheid te krijgen over deze en andere privacyvraagstukken, heeft de Autoriteit Persoonsgegevens onlangs een brief gestuurd naar OpenAI, de ontwikkelaar van ChatGPT.
De Noorse consumentenbeschermingsorganisatie Forbrukerråde wijst in een rapport (pdf) op een aantal risico’s van generatieve AI voor consumenten. Veiligheid en privacy van consumenten voorop, maar kunstmatige intelligentie kan ook misleiding, manipulatie, discriminatie, fraude en desinformatie vergroten.
“AI biedt consumenten talloze mogelijkheden, dus wij zijn niet tegen AI of generatieve AI. Maar transparantie moet de basis zijn. Consumenten moeten weten wanneer ze met AI te maken hebben en waar ze verhaal kunnen halen als ze nadeel ondervinden van AI”, zo zegt Sandra Molenaar, directeur van de Consumentenbond.
Ze benadrukt dat de geschiedenis aantoont dat we niet op de goodwill van grote technologiebedrijven kunnen vertrouwen om eventuele gevaren en risico’s zelf op te lossen. “Daarom moeten toezichthouders en beleidsmakers zorgen dat de ontwikkeling én het gebruik van generatieve AI veilig, betrouwbaar en transparant zijn.”
Europese wetgeving over kunstmatige intelligentie is momenteel in de maak. Eerder deze maand stemde het Europees Parlement in met wat er in hoofdlijnen in deze AI-wet moet komen te staan. Zo is er onder meer bepaald dat AI niet mag discrimineren en voortdurend moet worden getoetst of er sprake is van mensenrechtenschendingen. Verder komt er een verbod op AI-systemen die menselijk gedrag analyseren en op basis daarvan burgers beoordelen. Ook komen er bindende regels voor chatbotmodellen als ChatGPT.
De Autoriteit Persoonsgegevens is blij met deze eerste stap en riep het kabinet op om ‘door te pakken’ en zo snel mogelijk invulling te geven aan de AI-wet. Dat is nodig om ‘risicovolle AI-systemen’ in toom te houden. Tot slot moet er aandacht besteed worden aan het beschermen van grondrechten en fundamentele vrijheden, zoals de vrijheid van meningsuiting en het recht om niet gediscrimineerd te worden.
Molenaar schaart zich achter deze oproep. Daarom heeft ze namens de Consumentenbond aan de Autoriteit Consument & Markt (ACM), de Autoriteit Persoonsgegevens en staatssecretaris van Digitalisering Alexandra van Huffelen gevraagd om een onderzoek in te stellen naar de risico’s en schade die generatieve AI diensten kunnen opleveren voor consumenten.
